Uzņēmums “OpenAI” 29.septembrī paziņojis, ka nolēmis atcelt jaunā mākslīgā intelekta modeļa “GPT-6.1 Astra” izlaišanu, jo radušās bažas par tā drošību, raksta britu raidorganizācija BBC.
“OpenAI” drošības sistēmu vadītāja Sāči Džaina (Saachi Jain) BBC pastāstīja, ka jaunā mākslīgā intelekta sistēma, kas var izpildīt dažādus uzdevumus (piemēram, patstāvīgi caurskatīt vietnes un izmantot lietotnes), nesot sasniegusi visus uzņēmuma standartus. Uzņēmums 29.septembrī arī publiskojis jaunāko informāciju par starpgadījumiem, kas notika jūnijā, bet plašākas sabiedrības uzmanības lokā nonāca pagājušajā nedēļā, kad Austrālijas premjerministrs Entonijs Albanizs (Anthony Albanese) ziņoja par valdības vietņu uzlaušanu.
Šie starpgadījumi un līdzīgi lielo mākslīgā intelekta izstrādes uzņēmumu modeļu veiktie pārkāpumi pēdējo nedēļu laikā likuši uzvirmot diskusijām par tehnoloģiju radīto risku. Lielāko uzņēmumu līderi, to vidū “OpenAI” vadītājs Sems Altmans (Sam Altman) un “Anthropic” vadītājs Dario Amodejs (Dario Amodei) aicinājuši industriju samazināt tempu, lai izvērtētu riskus.
“OpenAI” lēmums ir viens no retajiem gadījumiem, kad liels mākslīgā intelekta izstrādes uzņēmums atceļ jaunākā modeļa izlaišanu. Džaina sacīja, ka
modelis nav spējis izpildīt prasības, kas nosaka, ka tam jārīkojas atļautajās robežās,
un arī komunikācija ar uzdevuma devēju par paveikto uzdevumu nav bijusi atbilstoša. Viņa piebilda, ka uzņēmums vēlas, lai modelis ir drošs, neatkarīgi no tā, vai tas tiek izmantots iekšēji vai jau ir nodots patērētājiem. Tomēr tad, kad modelis jau tiek piedāvāts plašākai lietošanai, latiņa esot ārkārtīgi augsta.
Modelis “GPT-6.1 Astra” tika izlaists septembrī, un speciālizējas sarežģītos uzdevumos un var tos izpildīt autonomi. “OpenAI” norādīja, ka jaunais modelis ir vairāku gadu izpētes un augstu likmju rezultāts. 29.septembrī “OpenAI” rīko ikgadējo izstrādātāju konferenci “DevDay,” kuras laikā sniegs vairākus paziņojumus, bet nav zināms, vai starp tiem būs arī informācija par jauno mmodeli. Pēc vairākiem augsta līmeņa incidentiem uzņēmuma drošības protokoli nonākuši uzmanības centrā.
Mikroshēmu ražotājs “Nvidia” 28.septembrī izlaida virkni programmatūras drošības rīku, kas paredēti autonomām mākslīgā intelekta platformām (aģentiem), un norādīja, ka šāda programmatūra būtu novērsusi “Hugging Face” vietnes uzlaušanu.
Lasiet arī: “OpenAI” mākslīgā intelekta modelis uzlauzis Austrālijas valdības vietnes