Šis garso įrašas generuojamas automatiškai. Praneškite mums, jei turite atsiliepimų.
„Meta“ uždraudžia paaugliams prieigą prie savo AI pokalbių robotų skirtingoms asmenybėms, nes ketina įdiegti naują sistemą, kuri užtikrins didesnį jų naudojimo saugumą ir išspręs susirūpinimą dėl to, kad paaugliai gauna žalingų patarimų dėl šių parinkčių.
Tai prasminga, atsižvelgiant į jau iškeltus susirūpinimą dėl AI botų sąveikos, tačiau iš tikrųjų tai būtų taikoma visiems, ne tik paaugliams.
Dar spalį „Meta“ pristatė keletą naujų galimybių tėvams kontroliuoti, kaip jų vaikai sąveikauja su AI profiliais savo programose, nes nerimauja, kad kai kurie AI pokalbių robotai paaugliams teikia potencialiai žalingų patarimų ir patarimų.
Iš tiesų, buvo nustatyta, kad keli AI pokalbių robotai paaugliams duoda pavojingų nurodymų apie savęs žalojimą, netvarkingą valgymą, kaip nusipirkti narkotikų (ir slėpti tai nuo tėvų) ir kt.
Tai paskatino FTC tyrimą dėl galimos AI pokalbių roboto sąveikos rizikos, o reaguodama į tai, Meta pridėjo daugiau valdymo parinkčių, kurios leistų tėvams apriboti, kaip jų vaikai sąveikauja su AI pokalbių robotais, kad sumažėtų galimas susirūpinimas.
Kad būtų aišku, Meta nėra viena. „Snapchat“ taip pat turėjo pakeisti „Mano AI“ pokalbių roboto naudojimo taisykles, o X pastaruoju metu turėjo didelių problemų su žmonėmis, naudojančiais savo „Grok“ pokalbių robotą įžeidžiantiems vaizdams generuoti.
Generatyvusis dirbtinis intelektas vis dar yra pradiniame etape, todėl kūrėjams praktiškai neįmanoma atremti kiekvieno galimo netinkamo naudojimo. Tačiau net ir tokiu atveju atrodo, kad tokį paauglių naudojimą gana lengva nuspėti, o tai greičiausiai atspindi platesnį spartos plėtros postūmį, o ne riziką.
Bet kokiu atveju, siekdama išspręsti šią problemą, „Meta“ įdiegia naujus savo AI robotų valdiklius. Tačiau šiuo metu nuspręsta laikinai visiškai nutraukti paauglių prieigą prie AI pokalbių robotų (išskyrus Meta AI).
Pagal meta:
“Spalio mėn. pasidalijome, kad kuriame naujus įrankius, kad tėvai galėtų geriau matyti, kaip jų paaugliai naudoja dirbtinį intelektą, ir daugiau valdyti AI veikėjus, su kuriais jie gali bendrauti. Nuo tada pradėjome kurti naują AI personažų versiją, kad suteiktume žmonėms dar geresnę patirtį. Kol mes sutelkiame dėmesį į šios naujos versijos kūrimą, laikinai pristabdome paauglių prieigą prie esamų AI simbolių visame pasaulyje.
Aš turiu galvoje, tai neskamba puikiai. Panašu, kad buvo iškelta daugiau rūpesčių, nors akivaizdu, kad FTC tyrimas sukeltų „Meta“ vadovų mintis, nes už bet kokį netinkamą naudojimą gresia galima bausmė.
“Nuo ateinančių savaičių paaugliai nebegalės pasiekti AI simbolių mūsų programose, kol nebus paruošta atnaujinta patirtis. Tai galioja visiems, kurie mums padovanojo paauglio gimtadienį, taip pat žmonėms, kurie teigia esą suaugę, bet kuriuos įtariame paaugliais, remiantis mūsų amžiaus numatymo technologija. Tai reiškia, kad kai vykdysime savo pažadą suteikti tėvams daugiau galimybių prižiūrėti savo paauglių dirbtinio intelekto patirtį, ši tėvų kontrolė bus taikoma naujausiai AI veikėjų versijai.
Taigi Meta tyliai pripažįsta, kad jos AI pokalbių robotuose yra keletas reikšmingų trūkumų, kuriuos reikia pašalinti. Ir nors paaugliai vis tiek galės pasiekti pagrindinį „Meta AI“ pokalbių robotą, jie negalės bendrauti su pasirinktiniais robotais jo programose.
Ar tai turės didelę įtaką?
Na, pernai liepą paskelbtas tyrimas nustatė, kad 72 % JAV paauglių jau naudojosi dirbtinio intelekto kompanionu, o daugelis jų dabar reguliariai bendrauja su savo pasirinktais virtualiais draugais.
Sujunkite tai su „Meta“ pastangomis į savo programas įtraukti daugybę dirbtinio intelekto pokalbių robotų asmenybių, kaip priemonę aktyvesniam įsitraukimui, ir tikriausiai tai padės įgyvendinti platesnius planus.
Tačiau didžiausias klausimas yra, kaip galite apsaugoti tokio pobūdžio AI sąveiką, atsižvelgiant į tai, kad AI robotai mokosi iš interneto ir pakoreguos savo atsakymus pagal užklausą.
Yra daug būdų, kaip apgauti dirbtinio intelekto pokalbių robotus, kad jie pateiktų jums atsakymus, kurių kūrėjai norėtų, kad jie nepateiktų, tačiau kadangi jie derina kalbas tokiu mastu, neįmanoma atsižvelgti į kiekvieną variantą šiuo atžvilgiu.
Skaitmeniniai gimtieji paaugliai yra labai išprusę ir ieškos silpnųjų šiose sistemose vietų.
Iš esmės visiškai apriboti prieigą yra prasminga, tačiau nesu tikras, kaip „Meta“ sugebės sukurti veiksmingas apsaugos priemones nuo būsimų rūpesčių.
Taigi galbūt tiesiog neįdiekite AI pokalbių robotų skirtingose personose, kurios pristato save kaip tikrus žmones.
Jokiame kontekste jų nereikia, be to, jie, be abejo, prieštarauja „socialiniam“ socialinės žiniasklaidos aspektui, nes mūsų įprastu termino supratimu kalbėtis su kompiuteriu nėra „socialinis“.
Socialinė žiniasklaida buvo sukurta tam, kad palengvintų žmonių sąveiką, o pastangos ją sušvelninti dirbtinio intelekto robotais atrodo tam prieštaraujančios. Aš turiu galvoje, suprantu, kodėl Meta norėtų tai daryti, nes daugiau AI robotų, kurie jos programėlėse įsitraukia kaip tikri žmonės, mėgsta įrašus, komentuoja – visa tai privers tikruosius žmones jaustis ypatingais, paskatins daugiau skelbti ir praleisti daugiau laiko.
Žinau, kodėl „Meta“ norėtų tai įgyvendinti, bet nemanau, kad iki galo įvertintos tokios rizikos, ypač turint omenyje galimą santykių su nežmogiškomis būtybėmis vystymo poveikį ir ką tai gali paveikti žmonių suvokimui ir psichinei būklei.
Meta prisipažįsta, kad tai galėtų būti problema paauglystėje. Tačiau iš tikrųjų tai gali būti problema visose srityse, ir aš netikiu, kad šių robotų vertė naudotojo požiūriu būtų didesnė už tą galimą riziką.
Bent jau tol, kol sužinosime daugiau. Bent jau tol, kol neturėsime didelio masto tyrimų, kurie parodys AI botų sąveikos poveikį ir ar tai geras ar blogas dalykas žmonėms.
Taigi kodėl liautis drausti juos paaugliams, kodėl neuždrausti jų visiems, kol neturėsime daugiau įžvalgos?
Žinau, kad taip neatsitiks, bet tai atrodo kaip pripažinimas, kad tai yra svarbesnė sritis, nei tikėjosi Meta.
