Human-in-the-loop: IA giza kontrolarekin

IAk ez du ardura kentzen

IAri buruzko eztabaida bi muturretan erortzen da askotan: dena automatizatu edo ezer ez fidatu. Biak oker daude enpresa erreal batean arriskua, testuingurua eta ondorioak daudelako.

Human-in-the-loop arkitektura bat da: zer exekutatzen duen IAk eta zer balioztatzen duen pertsona batek definitzen du. Ez da prozesuak moteltzeko aitzakia. Lan garrantzitsuan IA erabiltzeko modua da, irteera bakoitza fede ekintza bihurtu gabe.

Praktikan zer esan nahi du

Sistema batek hiru eremu definitzen ditu:

• automatikoa: arrisku baxuko zereginak;
• lagundua: IAk prestatu edo gomendatu egiten du, baina pertsonak erabakitzen du;
• blokeatua: onespen espliziturik gabe inoiz exekutatzen ez diren ekintzak.

Banaketa horrek bi akats saihesten ditu: dena eskuz berrikustea, abiadura hiltzen duena; eta erabaki kritikoak automatizatzea, arriskua handitzen duena.

Loop serio bat diseinatzea

Loop batek bost elementu behar ditu:

1. sarrera argia;
2. irteera ona zer den definitzen duen irizpidea;
3. berrikuspen interfazea;
4. hartutako erabakiaren erregistroa;
5. zuzenketatik ikasteko mekanismoa.

AI-native MVP batean, loop hau demo baten eta bezero batek erabil dezakeen sistemaren arteko aldea da.

Agenteek garrantzia handitzen dute

IA agenteek gai hau are garrantzitsuagoa egiten dute. Chatbot batek erantzun egiten du. Agente batek irakurri, pausoak planifikatu, tresnak deitu eta ekintzak egin ditzake. Horrek baimenak, mugak eta kontrol puntuak eskatzen ditu.

Galdera ez da “egin dezake?”. Galdera da “bakarrik egin beharko luke?”.

Tresnak alderatzen ari bazara, LLMen gida erabilgarria da modelo geruza ulertzeko. Baina modeloa ez da nahikoa. Looparen arkitekturak bihurtzen du IA sistema.

Azter dezagun zein erabakik jarraitu behar duten pertsonen esku.