Austrālijas premjerministrs Entonijs Albanīzs (Anthony Albanese) atklājis, ka uzņēmuma “OpenAI” mākslīgā intelekta modelis šogad uzlauzis vairākas valdības tiešsaistes vietnes, raksta “Politico.”
Šī ir pirmā reizi, kad publiski izskan informācija par “OpenAI” modeļu veiktu neatkarīgu ielaušanos valdības sistēmās. Līdz šim plaši izskanējuši gan valdību, gan mākslīgā intelekta izstrādes uzņēmumu aicinājumi palielināt kontroli pār mākslīgā intelekta izstrādi, jo īpaši saistībā ar uzņēmumiem, kas ziņojuši par starpgadījumiem, kad modeļi sākuši darboties neatkarīgi.
Albanīzs žurnālistiem ANO Ģenerālās asamblejas laikā Ņujorkā sacīja, ka mākslīgā intelekta aģentam izdevies iefiltrēties Austrālijas valdības vietnē. Viņš informēja, ka jūnijā “OpenAI” mākslīgā intelekta modelis neatļauti piekļuva Austrālijas valdības veselības apdrošināšanas sistēmas “Medicare” statistikas portālā. Tas tiek izmantots, lai apkopotu datus par “Medicare” izdevumiem. Albanīzs uzsvēra, ka nav notikusi personas datu noplūde, tomēr modelim izdevies piekļūt gan publiski pieejamajiem, gan ierobežotas pieejamības datiem. Valsts izmeklēšanu veic Austrālijas Signālu direktorāts (ASD, par kiberdrošību atbildīgais izlūkdienests), un tiek izvērtēts, vai piekļūts arī citām vietnēm.
“OpenAI” pārstāvis Drū Pusateri (Drew Pusateri) sacīja, ka uzņēmums Austrālijas valdību par ielaušanos, kas tik atklāta augustā, informēja 10.septembrī. Viņš piezīmēja, ka “OpenAI” identificējis ar vairākiem Austrālijas valdības portāliem saistītu aktivitāti, kad pārbaužu laikā mākslīgā intelekta modeļi centās iegūt atbildes un statistiku saistībā ar jautājumiem par Austrāliju.
Šajā laikā modeļi veikuši arī darbības, kas tiem netika prasītas.
Albanīzs žurnālistiem sacīja, ka “OpenAI” ziņojums vispirms bija nonācis kopējā e-pasta adresē, un pagāja piecas dienas, pirms informācija sasniedza atbilstošās iestādes. Viņš informēja, ka ir runājis ar “OpenAI” izpilddirektoru Semu Altmanu (Sam Altman), un izteicis bažas, ko rada notikušais. Tāpat Albanīzs esot izteicis neapmierinātību ar to, cik ilgu laiku aizņēma paziņošana valdībai, un arī veids, kā informācija nodota, esot bijis nepieņemams.
Austrālijas premjerministrs par notikušo ielaušanos valdības vietnēs informēja, kad Altmans ar ANO Drošības padomi apsprieda mākslīgā intelekta drošību.
“OpenAI” mākslīgā intelekta modeļi šogad izkļuva no testa vides, un nekontrolēti pavadīja internetā četras dienas, pēc tam uzlaužot mākslīgā intelekta izstrādes uzņēmuma “Hugging Face” sistēmu. Pēc notikušā atklāšanas “OpenAI” sāka izmeklēšanu, lai noskaidrotu, vai uzņēmuma radītie modeļi veikuši vēl kādus kiberuzbrukumus, un tās laikā tika atklāta ielaušanās Austrālijas valdības vietnē. Pusateri norādīja, ka turpinās izvērtēšana, un uzņēmums saglabā apņēmību nodoršināt caurspīdību un dalīties ar iegūto informāciju.
Albanīzs informēja, ka viņa administrācija spērusi nopietnus soļus, lai atbildētu uz pārkāpumu, tostarp izveidojot īpašu darba grupu notikušā izvērtēšanai.
“OpenAI” nav vienīgais mākslīgā intelekta izstrādes uzņēmums, kam ir grūtības kontrolēt savus modeļus. Pēc starpgadījuma ar “Hugging Face” sistēmām arī “Anthropic” veica izvērtējumu, un jūlijā ziņoja par trim gadījumiem, kad tā mākslīgā intelekta modeļi veikuši autonomus kiberuzbrukumus. Arī “Meta” augustā ziņoja par pierādījumiem, ka uzņēmuma modeļi veic kiberuzbrukumus.
Lasiet arī: “Izmukušie” mākslīgā intelekta modeļi internetā plosījušies četras dienas