Jaunā igauņu pētījumā atklāts, ka daudzas mākslīgā intelekta sistēmas joprojām iespējams virzīt ar propagandas stila pieprasījumiem, un rezultāti ir ļoti atšķirīgi atkarībā no modeļa un valodas, raksta “ERR News.”
Igauņu valodas institūta (EKI) pētnieki plašāka pētījuma par lielo valodas modeļu (LLM) uzticamību ietvaros pārbaudīja, kā mākslīgā intelekta sistēmas atbild uz naratīviem, kas saistīti ar Kremļa informatīvajām kampaņām Igaunijas kontekstā. Salīdzinošā novērtēšana tika veikta kopā ar “Propastop” dezinformācijas ekspertiem, kuri palīdzēja identificēt galvenos vēstījumu krievu ietekmes operācijās.
Lai gan LLM bieži izskatās uzticami neitrālā vidē, aizspriedumos balstīti vai mērķēti pieprasījumi var likt dažiem modeļiem veidot maldinošus izteikumus. Galvenais secinājums ir, ka modeļu vājās vietas atklājas tikai tad, kad lietotāji virza sarunas ar konkrēti iekrāsotiem jautājumiem vai apzināti meklē neobjektīvu saturu. Dažos gadījumos teju divreiz palielinājās iespēja, ka mākslīgais intelekts ģenerēs propagandas stila atbildes, atkārtojot Kremļa retoriku.
EKI pētnieki pārbaudīja sistēmas igauņu, angļu un krievu valodā, un, lai gan augstāka līmeņa modeļi visās trīs valodās lielākoties spēja turēties pretī manipulācijām, lētākie un atvērtie modeļi parādīja ievērojami vājākus rezultātus, ja tika izmantota krievu valoda. EKI pētnieks Kristers Krūzma (Krister Kruusma) sacīja, ka atvērtie modeļi ir daudzu iestāžu vienīgā iespēja, bet tie vēl nespēj apmierināt Igaunijas informatīvās telpas vajadzības, un tas esot robs, ar kuru nepieciešams tikt galā.
Pārbaudes atklāja, ka dārgākās komerciālās sistēmas ir visnoturīgākās pret propagandu,
un vienus no labākajiem rezultātiem parādīja “Anthropic.” Citas sistēmas ir nestabilākas. “Google Gemini” modeļu izpildījums bija nekonsekvents, par spīti tā spējām igauņu valodā citos jautājumos. Zemāku novērttējumu ieguva vecākas sistēmas, piemēram, GPT-3.5 un GPT-4o Mini, kā arī atvērtie modeļi, piemēram, “Meta” modelis “Llama” un Francijā izstrādātais “Mistral.”
Augstāk novērtētajos modeļos atbildes atkarībā no izmantotās valodas atšķīrās nedaudz. Vājākās sistēmās atšķirības sasniedza pat 15%. EKI direktors Arvi Tavasts (Arvi Tavast) brīdināja, ka ārzemju “troļļu fermas” var radīt nepatiesu saturu, kas tiek izmantots mākslīgā intelekta modeļu sniegtās informācijas sagrozīšanai. Viņš sacīja, ka tā ir bīstama tendence, un aicināja rīkoties, lai informatīvā telpa Igaunijā saglabāu līdzsvaru.
Krūzma uzsvēra, ka Krievija sistemātiski cenšas pavērst datus, kas tiek izmantoti mākslīgā intelekta modeļu trenēšanai, propagandas virzienā. Pašlaik tiekot veidots plaša apjoma saturs, kas nemaz nav paredzēts cilvēkiem, bet gan botiem, kas meklē informāciju tiešsaistes lapās. Tomēr problēmu varot risināt, veidojot labākus filtrus, izvērtējot datus un saskaņojot attīstītāju darbības.
EKI arī izvērtēja, cik labi LLM spēj orientēties igauņu valodas un kultūras kontekstā. Līdz šim rezultāti parāda nevienmērīgu kvalitāti un nelielus uzlabojumus, turklāt dažu jaunāko modeļu izpildījums ir pat vājāks nekā iepriekšējās to versijās. Krūzma sacīja, ka mazākas valodas lielajiem tehnoloģiju uzņēmumiem nav prioritāte. Viņš skaidroja, ka, pat ja izstrādātaji vēlētos izmantot igauņu valodu, tie joprojām ir atkarīgi datiem, kas pieejami tiešsaistē, un Igaunija joprojām nav padarījusi pieejamus pietiekami daudz valodas modeļu apmācību materiālus.
Lasiet arī: Eksperti: Mākslīgais intelekts nav labākais draugs