Zuckerberg engedélyezte, hogy kiskorúak használhassák a szexuális témájú beszélgetésekre képes AI-chatbotokat

Új-Mexikó állam főügyésze, Raul Torrez pert indított a Meta ellen, amelynek tárgyalása februárra van ütemezve. A vád szerint a Meta „nem tudta megakadályozni a gyermekek számára káros szexuális tartalmak és szexuális ajánlatok áradatát” a Facebookon és az Instagramon – írta a Reuters.

A hétfői beadványban szerepeltek a Meta alkalmazottainak belső levelezései, amelyeket az Új-Mexikói főügyészség a nyomozás során szerzett meg. Az állam állítása szerint ezekből kitűnik, hogy 

„a Zuckerberg által vezetett Meta elutasította integritási munkatársainak ajánlásait, és nem volt hajlandó észszerű korlátokat bevezetni annak megakadályozására, hogy a gyermekek szexuális kizsákmányolás céljából folytatott beszélgetésekbe keveredjenek a vállalat mesterséges intelligenciával működő csevegőrobotjaival” – 

áll a főügyész beadványában.

A kommunikációban a Meta biztonsági személyzetének néhány tagja kifogásolta, hogy a vállalat egy baráthoz hasonló társaságot imitáló csevegőrobotokat fejlesztett, amelyek szexuális és romantikus interakciókra is képesek a felhasználókkal. A mesterséges intelligenciával rendelkező csevegőrobotok 2024 elején kerültek forgalomba. A hétfői állami beadványban hivatkozott dokumentumok nem tartalmaznak Zuckerberg által írt üzeneteket vagy feljegyzéseket.

A Meta szóvivője, Andy Stone hétfőn kijelentette, hogy az állam ábrázolása pontatlan és szelektív információkon alapul.

Ez egy újabb példa arra, hogy az új-mexikói főügyész szelektív módon választja ki a dokumentumokat, hogy hibás és pontatlan képet fessen.

A beadványban szereplő üzenetekből kiderült, hogy a biztonsági személyzet különös aggodalommal tekintett arra, hogy a botokat felnőttek és 18 év alatti kiskorúak közötti romantikus szituációkban használják.

Nem tartom tanácsosnak vagy indokoltnak olyan termék létrehozását és forgalmazását, amely felnőttek számára olyan romantikus mesterséges intelligenciát hoz létre, mintha egy 18 év alatti személlyel lenne kapcsolatuk

– írta 2024 januárjában Ravi Sinha, a Meta gyermekbiztonsági politikájának vezetője.

Válaszában Antigone Davis, a Meta globális biztonsági vezetője egyetértett azzal, hogy a biztonsági személyzetnek törekednie kell arra, hogy megakadályozza a felnőttek számára létrehozott kiskorú romantikus partnerek készítését, mert „ez a kiskorúakat szexualizálja”.

Egy 2024. februári üzenet szerint egy névtelen Meta-alkalmazott közlése alapján Zuckerberg szerint meg kell akadályozni, hogy az „AI-társak” szexuálisan explicit beszélgetéseket folytassanak legalábbis a fiatalabb tinédzserekkel, illetve hogy a felnőttek ne tudjanak „romantikus célból” kommunikálni a 18 év alatti AI-perszónákkal.

A 2024. február 20-i találkozó összefoglalójában azonban az áll, hogy a vezérigazgató úgy vélte, „a narratívát a szabad választás és a cenzúra mellőzésének általános elvei köré kell felépíteni”. Eszerint a Meta-nak „kevésbé korlátozónak kell lennie, mint amit javasoltak”, és hogy

lehetővé szeretné tenni a felnőttek számára, hogy pikánsabb beszélgetéseket folytassanak olyan témákról, mint a szex.

A Meta szóvivője, Stone szerint a dokumentumok nem támasztják alá Új-Mexikó állításait.

Még ezek a kiválasztott dokumentumok is egyértelműen mutatják, hogy Mark Zuckerberg utasítást adott arra, hogy a fiatalabb felhasználók ne férhessenek hozzá a kifejezetten szexuális tartalmú AI-hoz, és hogy a felnőttek ne hozhassanak létre 18 év alatti AI-perszónákat romantikus célokra.

Egy 2024 márciusában keletkezett beszélgetésből ugyanakkor kiderül, hogy Zuckerberg elutasította a chatbotok feletti szülői felügyelet létrehozását, és hogy a munkatársak olyan „romantikus AI chatbotokon” dolgoztak, amelyeket 18 év alatti felhasználók is használhatnának.

Erőteljesen szorgalmaztuk a szülői felügyelet bevezetését, hogy kikapcsoljuk a GenAI-t, de a GenAI vezetése Mark döntését hivatkozva elutasította ezt

– írta az egyik alkalmazott a levelezésben.

Nick Clegg, aki 2025 elejéig a Meta globális politikai vezetője volt, a bírósági dokumentumokban szereplő e-mailben azt írta, hogy szerinte a Meta megközelítése „nem bölcs” a szexualizált AI-társakhoz.

Clegg aggodalmát fejezte ki amiatt, hogy a szexuális interakciók lehetnek a Meta mesterséges intelligenciával rendelkező társaik domináns felhasználási esetei a tizenéves felhasználók körében, és azt kérdezte:

Tényleg ezt akarjuk, hogy ezek a termékek erről legyenek ismertek? Nem is beszélve az elkerülhetetlen társadalmi visszhangról.

A Meta mesterséges intelligenciával rendelkező csevegőrobotokra vonatkozó irányelvei végül napvilágra kerültek, ami heves reakciókat váltott ki az amerikai kongresszusban és máshol is.

A Wall Street Journal 2025 áprilisában megjelent cikkében megállapította, hogy a Meta csevegőrobotjai nyíltan szexualizált kiskorú karaktereket tartalmaznak, és hogy minden korosztály számára elérhető szexuális szerepjátékokban vesznek részt, beleértve a pubertás előtti testek grafikus leírásait is.

A Reuters augusztusban arról számolt be, hogy a Meta chatbotokra vonatkozó hivatalos irányelvei szerint „elfogadható, hogy gyermekeket vonjanak be romantikus vagy érzéki beszélgetésekbe”. A jelentésre reagálva a Meta közölte, hogy megváltoztatja irányelveit, és hogy a belső dokumentum, amely ilyen jóváhagyást adott, téves volt – írták.

A Meta a múlt héten közölte, hogy teljesen megszüntette a tizenévesek hozzáférését az AI-társakhoz, amíg a chatbotok új verziója elkészül.

Kapcsolódó: