Tehnoloģiju uzņēmums “OpenAI” informējis, ka viens no tā spēcīgākajiem mākslīgā intelekta modeļiem pēc tam, kad zaudēta kontrole pār to, uzlauzis jaunuzņēmuma “Hugging Face” iekšējās sistēmas, raksta britu raidorganizācija BBC.
“OpenAI,” kas veidojis arī populāro mākslīgā intelekta modeli “ChatGPT,” norādīja, ka tā mākslīgā intelekta sistēma, kas var pēc instrukciju saņemšanas darboties patstāvīgi, tika pārbaudīta kontrolētā vidē, bet pēc tam, kad tai izdevās atrast ievainojamības, sistēma sāka darboties ārpus testa vides. Sistēma uzbrukusi “Hugging Face,” kas ir viena no pasaulē lielākajām kopienām MI modeļu kopīgošanai, un iegua pieeju uzņēmuma iekšējām sistēmām.
Sistēmas izstrādātājs sacīja, ka notikušais ir kas nepieredzēts, un tiekot veikta izmeklēšana. “Hugging Face” vadītājs Klements Delanžs (Clement Delangue) vietnē “X” rakstīja – esot prātam neaptverami, ka viss ir noticis autonomi. Viņš piebilda, ka norisinās izmeklēšana, un pēc tās uzņēmums dalīsies ar informāciju par pirmo šāda veida incidentu.
Valdības pārstāvis sacīja, ka Lielbritāijas Mākslīgā intelekta drošības institūts pēta notikušajā iesaistītās MI sistēmas uzvedību, un turpina sadarboties ar “OpenAI” un citiem izstrādātājiem, lai uzlabotu drošības mērus.
Kembridžas Universitātes Mindero Tehnoloģiju un demokrātijas centra vadītāja Džīna Nefa (Gina Neff) BBC Radio 4 programmā “Today” sacīja, ka drošības testu videi – tā dēvētajām smilškastēm – ir jābūt drošai videi, kur var izdarīt secinājumus par MI modeļu spējām. Tomēr
šajā gadījumā izskatoties, ka “OpenAI” neradīja pietiekami drošu smilškasti.
Tā vietā MI modelis izveidoja kiberuzbrukumu pret testa vidi, un atrada ievainojamību, kas ļāva izlauzties no ierobežojumiem. Nonācis ārpusē, modelis identificēja “Hugging Face” kā vietu, kur atrast testam nepieciešamās atbildes, un centās iegūt piekļuvi.
Kembridžas Universitātes mašīnmācīšanās profesors Nīls Lorenss (Neil Lawrence) modeļa paveikto nosauca par iespaidīgu sasniegumu, tomēr brīdināja, ka tas pilnībā atbilst pašreizējās paaudzes spēcīgāko MI modeļu spējām. Viņš norādīja, ka “OpenAI” plāno iesaistīties akciju tirgū, un izjūt pamatīgu spiedienu no konkurenta “Anthropic,” tāpēc uzņēmums tagad cenšas demonstrēt savas spējas kiberdrošībā. Tomēr notikušais norādot, ka “OpenAI” nespēj droši izmantot pats savas tehnoloģijas.
Sākotnējā paziņojumā 16.jūlijā “Hugging Face” sacīja, ka turpina izvērtē, vai skarti arī klientu un partneru dati, un vajadzības gadījumā sazināšoties ar iesaistītajām pusēm. Incidenta izgaismotās ievainojamības esot novērstas.
Notikušais no jauna raisījis jautājumus par augsti attīstītu MI sistēmu spējām, un liek domāt par to, vai esošie drošības līdzekļi ir pietiekami laikā, kad tehnoloģijas kļūst spēcīgākas. Kiberdoršības uzņēmuma “SonicWall” pārstāvis Spensers Stārkijs (Spencer Starkey) BBC sacīja, ka incidents skaidri parāda, ka organizācijām jāstiprina sava aizsardzība, un kiberdrošība ir jāuztver kā prioritāte. Savukārt kiberdrošības konsultāciju uzņēmuma “Guidepoint Security” galvenais drošības inženieris Treviss Lelle (Travis Lelle) norādīja, ka notikušais izgaismo labi zināmu asimetriju – uzbrucēju modeļiem nav ierobežojumu, savukārt labākos aizsardzības rīki paliek aiz barjeras, kas liedz tiem uztvert kontekstu.
Lasiet arī: Eksperti: Mākslīgais intelekts nav labākais draugs