Numatoma, kad AI pokalbių botai bus taikomi reguliavimo kontrolėje ir dėl naujo zondo gali susidurti su naujais apribojimais.
Remdamasis pranešimais apie jaunų vartotojų ir AI varomų pokalbių programų sąveiką socialinėse programose, Federalinė prekybos komisija (FPK) užsakė „Meta“, „Openai“, „Snapchat“, „X“, „Google“ ir „Charakteriai AI“, kad būtų galima pateikti daugiau informacijos apie tai, kaip veikia jų AI pokalbių programos, siekiant nustatyti, ar buvo nustatyta tinkamų saugos priemonių, siekiant apsaugoti jaunus vartotojus nuo galimo žalos.
Kaip FPK:
“FPK tyrime siekiama suprasti, kokius veiksmus, jei tokių yra, įmonės ėmėsi įvertinti savo pokalbių programų saugumą veikiant kaip kompanionai, apriboti produktų naudojimą ir galimą neigiamą poveikį vaikams ir paaugliams bei patvirtinti su produktais susijusių rizikos vartotojams ir tėvams.“
Kaip pažymėta, šie susirūpinimas kyla dėl pranešimų apie galimus AI pokalbių ir paauglių sąveiką įvairiose platformose.
Pavyzdžiui, „Meta“ buvo kaltinama, kad leido savo AI pokalbių botams užmegzti netinkamus pokalbius su nepilnamečiais, o meta netgi skatina tokius, nes ji siekia maksimaliai padidinti savo AI įrankius.
„Snapchat“ „My AI“ pokalbių programa taip pat buvo tikrinama dėl to, kaip jis bendrauja su jaunaisiais programoje, o neseniai „X“ pristatė AI kompanionus iškėlė daugybę naujų rūpesčių, kaip žmonės plėtos ryšius su šiais skaitmeniniais subjektais.
Kiekviename iš šių pavyzdžių platformos pastūmėjo šias priemones patekti į vartotojų rankas, kaip priemonę neatsilikti nuo naujausios AI tendencijos, ir susirūpinimas yra tas, kad dėl progreso vardu galėjo būti pamiršti saugos problemos.
Nes mes nežinome, koks bus visas tokių santykių poveikis ir kaip tai turės įtakos bet kuriam ilgalaikiam vartotojui. Ir tai paskatino bent vieną JAV senatorių kviesti visus paauglius uždrausti visiškai naudoti AI pokalbių programas, o tai bent jau yra dalis to, kas įkvėpė šį naują FPK tyrimą.
FPK sako, kad bus konkrečiai nagrinėjama, kokius veiksmus imasi kiekviena įmonė „į“ Sušvelninti galimą neigiamą poveikį, apriboti ar apriboti vaikų ar paauglių naudojimąsi šiomis platformomis arba laikytis Vaikų internetinio privatumo apsaugos įstatymo taisyklės. “
Ieškos FPK Įvairūs aspektai, įskaitant plėtros ir saugos testus, siekiant užtikrinti, kad būtų imtasi visų pagrįstų priemonių, siekiant sumažinti galimą žalą šioje naujoje AI varomų įrankių bangoje.
Ir bus įdomu pamatyti, ką baigia FPK, nes iki šiol D.Trumpo administracija pasinėrė į pažangą dėl PG plėtros proceso.
Neseniai paskelbtame AI veiksmų plane Baltieji rūmai atkreipė dėmesį į biurokratijos ir vyriausybės reguliavimo panaikinimą, siekdama užtikrinti, kad Amerikos įmonės galėtų parodyti kelią į PG plėtrą. Kuris galėtų apimti FPK, ir bus įdomu sužinoti, ar reguliatorius gali įgyvendinti apribojimus dėl šio naujo postūmio.
Tačiau tai yra svarbus aspektas, nes, kaip ir prieš tai esanti socialinė žiniasklaida, susidaro įspūdis, kad per maždaug dešimtmetį žvelgiame atgal į AI robotus ir abejojame, kaip galime apriboti jų naudojimą, kad apsaugotume jaunus žmones.
Bet iki to laiko, žinoma, bus per vėlu. Štai kodėl svarbu, kad FPK dabar imtųsi šio veiksmo ir kad ji galėtų įgyvendinti naują politiką.
