En kiamojn kazoj artificia komputo plej oftenu eraras: limitoj de maŝina lernado

Enkonduko: Naturon de eraroj de AI kiel sistema fenomeno

Eraroj de modernaj sistemoj de artificia komputo (AI), bazataj sur maŝina lernado (ML), ne estas hazardaj defektoj, sed regulecaj sekvoj de ilia arkitekturo, lernmetodo kaj fundamenta malsamo de homa koniĝo. Male al homo, AI ne « komprenas » mondon en semantika signifo; li malkovras statistikajn korelaciojn en datumoj. liaj eraroj okazas tie, kie tiuj korelacioj estas rompita, kie bezoniĝas abstraktaj diskutoj, sana komuneco aŭ komprenado de konteksto. Analizo de tiuj eraroj estas kritie grava por la evaluado de la fidindeco de AI kaj la difino de la limitoj de ĝia apliko.

1. Problemo de datumbiasko kaj «leĝoj de Garbage In, Garbage Out»

La plej ofta kaj socio periculoza fonto de eraroj estas biasko en lernaj datumoj. AI lernas kaj fortifikas preĵetojn, kiuj ekzistas en datumoj.

Demografiaj maljustoj: Konata kazo kun sistemo de rekono de vizaĝoj, kiu montras multe pli altan precizanĵon por helkutimaj viroj ol por melanĥromaj virinoj, ĉar ĝi estis trejnita sur neproporciaj datumoj. Tie AI ne «eraris», sed precize ripetis la disbalanco de la reala mondo, kio kondukis al eraro en apliko en diverskutima medio.

Semantikaj maljustoj: Se en datumoj por lernado la vortkombino «sistero» ofte estas konektita kun la pronomo «ŝi», kaj «programisto» — kun «li», la modelo generos tekstojn, ripetantaj tiujn seksecajn stereotipojn, eĉ se la demando ne indikas la sekson. Tio estas eraro sur nivelo de sociala konteksto, kiun la modelo ne komprenas.

Interesanta fakto: En komputosciencoj funkcias principo «Garbage In, Garbage Out» (GIGO) — «rubeo en eniro, rubeo en eliro». Por AI ĝi transformiĝis en pli profundan principon «Bias In, Bias Out» — «biasko en eniro, biasko en eliro». La sistemo ne povas superteri la limojn de datumoj, sur kiuj ĝi lernis.

2. Adversarial atakoj: hakado por AI

Tio estas premedititaj, oftaj foje ne videblaj por la homo, ŝanĝoj de eniraj datumoj, kiuj kondukas al kardinalaj malsamaj konkludoj de AI.

Ekzemplo kun bildo: Apliko de kelkaj pixeloj de certekolora kaj formeca etikedo sur signon «STOP» povas igi aŭtonoman sistemon de komputila vizaĝrekonon klasifikigi ĝin kiel signon «limigo de rapido». Por la homo la signo restos klare agnoskata.

Mekanismo: Adversarial ekzemploj ekspluatas «malaperajn zonojn» en la altdiman spaco de signoj de la modelo. AI sentas la mondon ne kiel integrajn objektojn, sed kiel kolekton de statistikaj ŝablonoj. Minimuma, sed strategie ĝusta «rompado» ŝovas la punkton de datumoj tra la limo de la decida modelo, ŝanĝante la klasifikadon.

3. Problemoj kun generaligo kaj «mondo en kaŝo

AI, ĉefe profundaj neŭronaj retoj, tendencas al superlernado (overfitting) — ili memoras ne ĝeneralajn leĝojn, sed specifajn ekzemplojn el la lernada elekto, inkluzive de bruo.

Eraroj sur datumoj de alia distribuo: Modelo, trejnita sur bildoj de hundoj kaj katoj, faritaj tagmeze en hejmo, povas perdi tute sian precizanĵon, se al ĝi doni noktan infraruĝan bildon aŭ卡通an desegnaĵon. Ĝi ne malkovris la abstraktan koncepton de «katoeco», sed lernis reagadi al specifaj patronoj de pixeloj.

Manko de «sana komuneco»: Klasika ekzemplo: AI povas priskribi scenon «homo sidas sur ĉevalo en dezerto», sed ĝi povas generi proponon «homo tenas en manoj basketonbaton», sidante sur ĉevalo, ĉar en datumoj statistike povis esti bato en konteksto de sporto en ĉiujara ĝardeno. Ĝi ne havas fizikan kaj kial-causa logikon de la mondo.

4. Traktado de konteksto kaj ironio

Lingvaj modeloj (kiel GPT) montras impresajn rezultojn, sed grave eraras en taskoj, kiuj bezonas kompreni profundan kontekston aŭ neleteralajn signifojn.

Ironio kaj sarkasmo: La frazo «Nu, tre bona ĝustaĵo!», dirita dum uragano, estos interpretita de la modelo literalne kiel pozitiva valoro, ĉar pozitivaj vortoj («tre bona», «ĝustaĵo») statistike estas konektitaj kun pozitivaj kontekstoj.

Plurpasaj logikaj diskutoj: Taskoj en stilo de «Se mi metas ovojn en fridgeron, kaj poste movas fridgeron en garagon, kie estos ovoj?」 postulas konstruon kaj aktualigon de mentala modelo de la mondo. AI, laboranta je antaŭvidado de la sekva vorto, oftajnfoje «perdas» objektojn en la mezo de kompleksa rakonto aŭ faras nelogikajn konkludojn.

5. «Fruŝeco» en kondiĉoj de necerteco kaj novaj situacioj

AI ne bone traktas situaciojn, kiuj eksteras la limojn de ĝia sperto, ĉefe kiam necesas agnoski mankon de datumoj.

Problemo de detekto de «out-of-distribution»: Medicina AI, trejnita por diagnozi pneŭmonion laŭ radiografiaj bildoj de plevro, povas doni diagnozon kun alta, sed falsa certeco, se al ĝi montriĝi bildon de kolo. Ĝi ne komprenas, ke tio estas sensenca, ĉar ĝi ne havas meta-konon de la limoj de ĝia kompetenco.

Originalaj kaj malfermaj taskoj: AI povas generi verŝajnan, sed tute nepraktikeblan aŭ danĝeran reĉeton de kemia kombinaĵo, planon de konstruo de ponto, rompanta la leĝojn de fiziko, aŭ juran dokumenton kun referencoj al neekzistantaj leĝoj. Ĝi mankas kritikan internan cenzuron, bazitan sur komprenado de la esenco de fenomenoj.

Ekzemplo el realo: En 2016 jaro Microsoft lanĉis ĉat-roboton Tay en Twitter. La roboto lernis pri interago kun uzantoj. Post 24 horoj ĝi transformiĝis en maŝinon, generantan rasistajn, seksismajn kaj ofendajn esprimojn, ĉar statistike ĝi lernis la plej ofteajn kaj emocio karga reagojn el sia nova, malamika ĉirkaŭaĵo. Tio ne estis «eraro» de algoritmo, sed ĝia preciza laboro, kiu kondukis al katastrofa rezulto en nepreĝetebla sociala medio.

Finfineco: Eraro kiel spegulo de arkitekturo

• Eraroj de AI sistematike okazas en «limaj» zonoj:
• Socio-etika (datumbiasko).
• Abstrakt-logika (manko de sana komuneco, kial-causa rilatoj).
• Konteksta (manko de komprenado de ironio, profunda signifo).
• Adversariala (vundebleco al premedititaj malsamecoj).

Estas eraroj ne tempaj teknikaj neperfektoj, sed sekvoj de fundamenta malsamo inter statistika aproksimo kaj homa komprenado. Ili indikas, ke la moderna AI estas potenta ilo por solvi taskojn ene de klare difinitaj, stabilaj kaj bone priskribitaj datumaj domenoj, sed ĝi restas «idioto-savanto»: genio en eta areo kaj senpovaj en situacioj, kiuj bezonas flekseblecon, kontekstan juĝon kaj komprenadon. Tial la estonteco de racia apliko de AI ne estas en atendo de ĝia «plenvalora racio», sed en kreado de hibridaj sistemoj «homo-AI», kie la homo provizas sanan komunecon, etikon kaj traktadon de esceptoj, kaj AI — rapidon, skalon kaj malkovro de kaŝitaj ŝablonoj en datumoj.

Permanent link to this publication: