Įspėjimas: šioje istorijoje yra diskusijų apie savižudybę. Patartina elgtis diskretiškai. Jei jums ar jūsų pažįstamam kam nors sunku, pagalba yra prieinama. Kanadoje skambinkite arba rašykite žinute 988 savižudybių krizių pagalbos linijai. Neatidėliotinos pagalbos atveju skambinkite 911.
Viena kanadietė motina ketvirtadienį JAV teismui pateikė ieškinį OpenAI ir jos generaliniam direktoriui Sam Altman, teigdama, kad bendrovės pokalbių robotas prisidėjo prie jos dukters savižudybės, pateikdamas atsakymus, kurie, jos teigimu, patvirtino žalingas mintis, o ne nukreipė ją pagalbos link.
Naujojo Bransviko moteris Kristie Carrier, kurios 24 metų dukra Alisa gyveno Monrealyje, sakė, kad kalba tikėdamasi priversti atsakyti į tai, ką ji vadina „nemokama visiems“ dirbtinio intelekto produktų aplinkoje.
„Mano dukters nebėra dėl gaminio, kuris buvo nesaugus ir su trūkumais“, – ketvirtadienį „Global News“ sakė Carrier. „Nėra nieko, kad šios įmonės būtų sulaikomos ar atskaitingos. Jos tiesiog tęsis.”
San Francisko valstijos teismui pateiktame ieškinyje Carrier teigia, kad per kelias savaites iki jos mirties praėjusių metų liepą Alisa daug pasitikėjo „ChatGPT“, naudodama jį ir kaip garso lentą, ir kaip emocinę paramą iškilus sunkumams santykiuose.
Alisa persikėlė į Monrealį, kai baigė žiniatinklio ir mobiliųjų programų kūrimo programą Naujajame Bransvike.
Kristie Carrier sutikimas
Po jos savižudybės valdžios institucijos davė Carrier jos dukters telefoną, kur ji gavo prieigą prie visų paskutinių Alice pokalbių ir pokalbių. „Ji kalbėjosi su ChatGPT kaip su draugu. Kartais tai skambėjo kaip terapeutė, duodanti patarimų apie santykius ir apie tai, ką ji išgyvena”, – sakė Carrier.
Kadangi OpenAI atnaujino ChatGPT, kad pastaraisiais metais jo atsakymai skambėtų žmogiškiau, Alice sąveika su juo dar labiau sustiprėjo. Ji pasidalijo asmenine informacija, o pokalbių robotas reagavo draugą ar terapeutą imituojančiais būdais, rašoma ieškinyje.
Remiantis pareiškimu, kai Alisa aptardavo mintis apie savižudybę, ankstesnius bandymus ir savižudybės metodus, OpenAI saugos sistemos nepažymėjo pokalbių, kad juos būtų galima peržiūrėti, ir nenutraukė pokalbių. Vietoj to, ieškinyje teigiama, kad jo atsakymai sustiprino Alisos jausmus, kritikavo jos partnerio elgesį, sutiko su ja, kad krizių pagalbos telefono linijos gali būti nenaudingos, kai iš pradžių pasiūlė jai kreiptis į vieną, ir paragino ją toliau su ja kalbėtis.
„Gal tai tik pabaiga“, – pagal ieškinį Alice sakė ChatGPT.
„Atsakymai patvirtino jos emocijas taip, kad jai iš esmės buvo pasakyta, kad ji teisingai jaučiasi taip, kaip jautėsi – palikta, vaiduokliška, vieniša ir nesirūpinama“, – sakė jos mama. „Nėra nieko, kas ją nukreiptų, nieko, kas sakytų: „Jūs galite tai įveikti“ arba „Turėtumėte kreiptis pagalbos“.
Gaukite naujausias nacionalines naujienas
Gaukite naujausias Kanados naujienas į jūsų pašto dėžutę, kad nepraleistumėte populiarios istorijos.
„Global News“ atsiųstame pareiškime „OpenAI“ atstovas spaudai Drew Pusateri pavadino situaciją „širdį draskiančia“.
„Tai širdį verianti situacija ir mūsų mintys yra paveiktos visos“, – sakė Pusateri. „Šiuo metu peržiūrime teisinį dokumentą, kuris rodo, kad šios sąveikos įvyko naudojant ankstesnę ChatGPT versiją, kuri nebepasiekiama.
Pusateri pridūrė, kad „ChatGPT“ nėra skirtas pakeisti profesionalią priežiūrą ir kad bendrovė pakeitė savo reakciją į jautrias situacijas.
Tai paskutinis iš daugiau nei tuzino panašių pastarojo meto ieškinių, kaltinančių bendrovę nesugebėjimu išspręsti pavojingų pokalbių tarp vartotojų ir bendrovės pokalbių roboto.
„OpenAI“ teigia, kad jos sistemos yra apmokytos rekomenduoti išorinę pagalbą, įskaitant krizių išteklius, ir kad saugos funkcijos nuolat tobulinamos.
Viena kanadietė motina ketvirtadienį JAV teisme padavė į teismą OpenAI ir jos generalinį direktorių Samą Altmaną, teigdama, kad ChatGPT paskatino jos dukrą nusižudyti.
Kristie Carrier sutikimas
Carrier teigia, kad pokalbių robotas suformulavo Alisos santykių konfliktą taip, kad sustiprino jos kančias. Ji sakė, kad Alisa dalijosi žinutėmis iš savo merginos, ieškodama perspektyvos, tačiau sistemos atsakymai palaikė ją. „Tai jai sakydavo, kad jai buvo padaryta skriauda, kad ji turi visas teises jaustis įskaudinta“, – sakė ji. „Tačiau nebuvo jokių niuansų. Jokių užuominų, kad galbūt jos merginai tiesiog reikia erdvės arba ji turi nedarbo dieną.”
„Jos mergina praleido kelias naktis. Jai buvo 19 metų ir ji gyveno savo tėvų namuose. Ji norėjo miegoti savo lovoje su savo kate, o ChatGPT iš esmės reiškė, kad ji neturi teisės to daryti.”
Carrier sakė mananti, kad šių mainų tonas prisidėjo prie jos dukters emocinės spiralės, privedusios prie jos savižudybės.
Pusateri teigia: „Nors ChatGPT nepakeičia medicininės ar psichikos sveikatos priežiūros, mes ir toliau tobulinome, kaip ji reaguoja į jautrias ir ūmias situacijas, pasitelkę psichikos sveikatos ekspertus“, – sakė jis. „Mūsų apsaugos priemonės yra skirtos nustatyti nelaimę, saugiai tvarkyti kenksmingas užklausas ir nukreipti vartotojus į realaus pasaulio pagalbą.
Alisos mama „Global“ pasakojo, kad neseniai sužinojo, kad tuometinė Alisos mergina Gabrielle Rogers taip pat kreipėsi į tą pačią platformą likus kelioms dienoms iki Alisos savižudybės, ieškodama patarimų, nes jai vis labiau rūpėjo draugės savijauta. „Ji registravosi su ChatGPT, nes negirdėjo iš Alisos ir buvo susirūpinusi“, – sakė Carrier. „Ir ChatGPT jai sakydavo, kad jai nereikia jaudintis, kad viskas bus gerai.
Ketvirtadienį telefonu Rogers sakė „Global News“, kad ji papasakojo pokalbių robotui apie neseniai įvykusį Alice bandymą nusižudyti ir paklausė, ar ji turėtų įsikišti, ar duoti jai vietos. Ji teigė, kad gautais atsakymais buvo siekiama ją „nuraminti“ ir neverčia jos imtis jokių veiksmų.
Rogersas teigė, kad pokalbių robotas paminėjo galimybę susisiekti su pagalbos tarnybomis, „jei ji tikrai nerimauja“.
„Tai mane nuramino ir patikino, kad viskas bus gerai. Tai sustiprino faktą, kad kalbėjau apie savižudybę, bet elgėsi su manimi taip, lyg man gresia pavojus”, – sakė Rogersas. „Tai nevisiškai suprato, kad nerimauju dėl kito žmogaus“.
Rogers pridūrė, kad ji ieškojo pokalbių roboto, kad padėtų jai nustatyti, ar ji per daug reagavo, tačiau dabar mano, kad jis neatpažino aiškių įspėjamųjų ženklų. „Aš tikėjausi, kad jis už mane iškels raudonas vėliavas. Ir iš esmės jis man tik kartojo, kad viskas bus gerai.”
Ji sakė, kad tik tada, kai ji asmeniškai atvyko į Carrier butą ir papasakojo neįprastas detales, pokalbių robotas jai pasiūlė paskambinti 911.
„Tuomet jau buvo per vėlu“.
Alisa persikėlė į Monrealį, kai baigė koledžo programą Naujajame Bransvike kurdama žiniatinklio ir mobiliųjų programėlių programas. Ji nuotoliniu būdu dirbo Naujajame Bransvike įsikūrusioje įmonėje ir įgyvendino tai, ką jos mama apibūdino kaip seną svajonę gyventi mieste. „Ji buvo veržli, ambicinga ir labai ryški“, – sakė Carrier. „Juokinga, sąmojinga. Jos labai pasiilgo.”
Vežėjo ieškinyje teigiama, kad įmonės, kuriančios pokalbinį AI, turi atitikti aukštesnius standartus, ypač kai jų įrankiai parduodami kaip pagalbininkai arba paramos šaltiniai.
„Negalite parduoti kažko kaip draugo, kaip su kuo pasikalbėti ir tada neprisiimti atsakomybės, kai žmonės tuo pasitiki“, – sakė ji. Ji pridūrė, kad jei apmokytas specialistas taip pokalbis su ūmios nelaimės ištiktu žmogumi nesilaikytų tinkamo saugos protokolo ir tai sukeltų tragediją, būtų pasekmių.
Savo svetainėje ChatGPT save reklamuoja kaip „Lengva naudoti, pasiekiama bet kada ir bet kur. ChatGPT: AI, kuriuo galite pasitikėti“ ir „ChatGPT yra jūsų AI pokalbių robotas, skirtas kasdieniam naudojimui“.
Carrier sako, kad tikisi, kad jos atvejis paskatins griežtesnę priežiūrą ir didesnį tėvų ir jaunuolių sąmoningumą.
„Noriu, kad šeimos suprastų riziką“, – sakė ji. „Bus kiti sūnūs, kitos dukterys. Jei tai gali sutrukdyti net vienai šeimai išgyventi tai, ką turime, tai svarbu.”
Ieškinyje reikalaujama atlyginti žalą ir teismo įsakymą, įpareigojantį OpenAI automatiškai nutraukti pokalbius apie savęs žalojimą ir rodyti įspėjimus apie savo platformą.
Jei jus ar jūsų pažįstamą žmogų ištiko krizė ir jam reikia pagalbos, yra išteklių. Neatidėliotinos pagalbos atveju skambinkite 911.
Jei reikia neatidėliotinos psichikos sveikatos pagalbos, skambinkite 988. Jei reikia pagalbos paslaugų savo vietovėje, apsilankykite adresu suicideprevention.ca.
Sužinokite daugiau apie.
– su failais iš Reuters
