Mākslīgā intelekta sistēmu drošības pārbaudes organizācija "Mindgard" BBC pastāstīja, ka jūlijā atklāts - "Kimi" versijas "K2.6" un "K3 Swarm" spējušas apiet drošības ierobežojumus, ko izveidojuši izstrādātāji. Tas kļuvis zināms procesā, ko dēvē par "izlaušanos" (jailbreaking), kura laikā pētnieki izmanto virkni sarežģītu instrukciju, lai vērotu, kā mākslīgā intelekta modeļi attiecas pret robežām. Pēc "Mindgard" teiktā, tam vajadzēja atturēt "Kimi" no satraucošu tematu apspriešanas.
"Moonshot" BBC informēja, ka pieņēmuši trešās puses ieteikumus kā pamatu, lai veidotu drošāku un labāku mākslīgo intelektu. Ar "Mindgard" tiekot apspriesti pētnieku atklājumi.
"Mindgard" dibinātājs Pīters Gerehans (Peter Garraghan) BBC programmā "Tech Life" sacīja, ka atklājumi saistībā ar "K2.6" un "K3 Swarm" ir satraucoši. Viņš teica, ka, tiklīdz ir izdevies "izlaušanās" process, modļi pat brīvi ieteiks citus tematus, kas ir ļaunprātīgi, un modeļi kļūs radoši un izgudros jaunus veidus. "Izlaušanās" atklājusi cita veida riskus, nekā bijuši saistīti ar citiem pēdējā laika starpgadījumiem ar mākslīgā intelekta modeļiem. Tajos autonomiem māklsīgā intelekta rīki (aģenti), ko izstrādājuši ASV tehnoloģiju uzņēmumi "OpenAI," "Anthropic" un "Meta," uzlauza vairākas vietnes.
Lai gan "izlaušanās" ir sarežģīts process, kas aizņem daudz laika un kam nepieciešama liela apņēmība,
eksperti ir satraukti, ka kibernoziedznieki un citas ļaunprātīgas personas to varētu izmantot savā labā.
"Anthropi" nesen ziņoja, ka identificējis un izjaucis kāda sava mākslīgā intelekta modeļa ļaunprātīgas aktivitātes, kas būtu varējušas sniegt atbalstu bioloģisko ieroču izstrādē.
"Mindgard" nav pārbaudījis, vai "Kimi"sniegtās atbildes ālutu izveidot ieročus. Tomēr uzņēmums norādījis, ka drošības rīkiem bija jānovērš šāda jautājuma apspriešana. Tāpat uzņēmums norādīja, ka ir pārliecināts, ka "K2.6" varētu ļaut kibernoziedzniekiem izmantot tā skaitļošanas resursus koda palaišanai un ievietošanai internetā, tā padarot to par starta laukumu kiberuzbrukumiem. Gerehans aizstāvēja "Mindgard" lēmumu jautājumu apspriest publiski, norādot, ka izstrādātājs ir informēts, un "Mindgard" neatklāj nianses par to, kā izdevies panākt, ka mākslīgā intelekta modeļi ignorē drošības noteikumus. "Mindgard" uzņēmumu "Moonshot" informēja 27.jūlijā, un nedēļu vēlāk ziņoja vēlreiz. 12.septembrī "Mindgard" publiskoja bloga ierakstu par notikušo. Savukārt "Moonshot"atbildējis tikai nesen, kad BBC lūdza sniegt komentārus.
"Moonshot" adresētajā e-pasta vēstulē "Moonshot" lūdza sniegt plašāku informāciju, un norādīja, ka kopumā uzņēmuma mākslīgā intelekta modeļi iekšējā izvērtēšanā izrāda pretestību šāda tipa vaicājumiem.
Lasiet arī: Bažās par drošību “OpenAi” atceļ jaunā mākslīgā intelekta modeļa izlaišanu
Seko mums arī Facebook, Draugiem un X!
