Mākslīgā intelekta izstrādes līderis “OpenAI” 17.septembrī informējis, ka tā modeļi rīkojušies pretēji cilvēku vērtībām un mērķiem, tā palielinot bažas par inovatīvu māksliga intelekta risinājumu drošību, raksta “Politico.”
“OpenAI” mākslīgā intelekta aģenti sešos atsevišķos gadījumos apmācību un pārbaužu procesā vai nu slēpuši informāciju no inženieriem, vai likuši paši sev nerīkoties kā kāda asistentam. Uzņēmums ieviesis jaunas vadlīnijas, lai izsekot, izmeklētu un nodotu atklātībai informāciju par šādie gadījumiem, kas tiek dēvēti par nesakritībām.
Tehnoloģiju uzņēmuma tagad izstrādāta skaidra ziņošanas procedūra, kas ļauj jebkuram darbiniekam atzīmēt nesakritības modeļa darbībā, un pēc tam tiek apsvērts, vai par gadījumu ziņot plašākai sabiedrībai.
Mākslīgā intelekta modeļu patvaļīgas darbības jau izsaukušas starptautisku sašutumu, un vadošo mākslīgā intelekta uzņēmumu
pētnieki izteikuši pat brīdinājums, ka jaunākās tehnoloģijas var izraisīt cilvēces izmiršanu.
Uzņēmumu vadītāji, piemēram, Dario Amodejs (Dario Amodei) no “Anthropic” un Sems Altmans (Sam Altman) no “OpenAI” jau aicinājuši valdības palēnināt mākslīgā intelekta attīstību.
Šajā vasarā “OpenAi” izveidotie mākslīgā intelekta aģenti ielauzās cita mākslīgā intelekta izstrādes uzņēmuma – “Hugging Face” – sistēmā, tā izgaismojot iespējamo aģentu izlaušanos no testa vides un nekotrolētu uzdevumu veikšanu internetā.
Eiropas Komisijas prezidente Urzula fon der Leiena (Ursula von der Leyen) 16.septembrī sacīja, ka Eiropa varētu sākt starptautiskos centienus saglabāt kontroli pār mākslīgo intelektu, un piebilda, ka ielūgs lielākos mākslīgā intelekta izstrādātājus to pārrunāt.
Lasiet arī: “Izmukušie” mākslīgā intelekta modeļi internetā plosījušies četras dienas