Mākslīgā intelekta izstrādātājs “OpenAI” publiskojis datus ar aplēsēm par lietotāju skaitu, kuri izrāda pazīmes, kas varētu liecināt par mentālās veselības problēmām, tostarp māniju, psihozi vai pašnāvnieciskām domām, raksta britu raidorganizācija BBC.
Uzņēmums paziņojis, ka apmēram 0,07% no iknedēļas lietotājiem izrāda šādas pazīmes, un norādīja, ka “ChatGPT” čatbots tās atpazīst un atbilstoši reaģē uz šādām sarunām. Lai gan “OpenAI” uzsver, ka šādi gadījumi ir ļoti reti, kritiķi iebilst, ka procentuāli nelielā daļa var būt pat simtiem tūkstoši cilvēku, ņemot vērā, ka čatbotu ik nedēļu izmanto aptuveni 800 miljoni lietotāju.
Čatbotiem tiek pievērsta arvien lielāka vērība, un uzņēmums informējis, ka tiek veidots speciālistu tīkls, kas palīdzētu šādās situācijās. Speciālistu vidū ir psihiatri, psihologi un ģimenes ārsti, kas strādā 60 valstīs. Ir izveidota čatbota atbilžu sērija, kas mudina lietotājus meklēt palīdzību reālajā dzīvē.
Tomēr ieskats uzņēmuma datos dažiem mentālās veselības speciālistiem saraukt pieri. Kalifornijas universitātes profesors Džeisons Nagata (Jason Nagata) sacīja, ka 0,07% var šķist ļoti maz, bet uz miljoniem lietotāju fona tas patiesībā ir diezgan ievērojams skaits. Viņš piebilda, ka mākslīgais intelekts var paplašināt pieeju mentālās veselības jautājumu risināšanai, bet ir jāapzinās tā ierobežojumi.
“OpenAI” arī lēš, ka apmēram 0,15% čatbota lietotāju sarunās norāda uz iespējamu pašnāvības plānošanu
vai tādu nolūku. Jaunākie čatbota atjauninājumi esot veidoti tā, lai droši un iejūtīgi atbildētu uz iespējamām mānijas vai maldiem, un piefiksētu norādes uz iespējamu paškaitējuma vai pašnāvības risku.
Atbildot uz BBC jautājumu par lietotāju skaitu ar pašnāvnieciskām tendencēm, uzņēmums atbildēja, ka procentuāli mazais rādītājs nozīmē lielu cilvēku skaitu, un situācijas tiekot uztvertas nopietni.
Uzņēmuma veiktās izmaiņas nākušas laikā, ka mākslīgā intelekta izstrādātājs saskaras ar izmeklēšanām par čatbota saskarsmi ar lietotājiem. Viena no lielākajām tiesvedībām uzsākta Kalifornijā, un “OpenAI” tiek apsūdzēts par to, ka čatbots iedrošinājis 16 gadus vecu jaunieti izdarīt pašnāvību. Cits gadījums saistīts ar slepkavību un pašnāvību Konektikutā, kur čatbots šķietami uzkurinājis slepkavas maldus.
Kalifornijas universitātes profesore Robina Feldmane (Robin Feldman) norādīja, ka čatboti rada realitātes ilūziju. Viņa sacīja, ka “OpenAI” pienākas atzinība par statistikas publicēšanu un centieniem risināt problēmu, tomēr piebilda, ka uzņēmums var uz ekrāna attēlot visus iespējamos brīdinājumus, bet mentāli nestabila persona tos neņems vērā.
Lasiet arī: Nīderlandes varas iestādes brīdina vēlētājus: čatboti nedrīkst noteikt partijas izvēli