A ChatGPT hamarosan engedélyezi az erotikus tartalmakat

Az OpenAI azt tervezi, hogy szélesebb körű tartalmakat engedélyez népszerű chatbotján, így erotikát is a „felnőtteket felnőttként kezelni” elv részeként – jelentette be Sam Altman vezérigazgató a BBC szerint.

Altman kedden az X-en közzétett bejegyzésében azt írta, hogy a chatbot következő verziói emberibb viselkedést tesznek lehetővé, „de csak akkor, ha te ezt szeretnéd, nem azért, mert mi a használatot akarjuk maximalizálni” – írja az Index.

A lépés hasonló Elon Musk xAI nevű cégének újításához, amelynek keretén belül két szexuális tartalmú chatbotot vezettek be a Grok platformon. Ez segíthet az OpenAI-nak több fizető előfizetőt vonzani, ugyanakkor valószínűleg erősíti majd a törvényhozókra nehezedő nyomást, hogy szigorúbb szabályokat vezessenek be.

Altman szerint az OpenAI korábban szigorúan korlátozta a ChatGPT válaszait, hogy elkerüljék a mentális egészségügyi problémákat. Augusztusban jelentették be ezeket a korlátozásokat egy blogbejegyzésben, amely azóta már nem elérhető a vállalat weboldalán.

„Felismertük, hogy emiatt kevésbé lett hasznos és élvezhető a chatbot sok olyan felhasználó számára, akiknek nem voltak mentális egészségügyi problémái, de a kérdés súlyossága miatt ezt jól akartuk csinálni”

– írta Altman.

A vezérigazgató szerint a ChatGPT hamarosan enyhítheti a korlátozásokat, mert „sikerült kezelnünk a súlyos mentális egészségügyi problémákat, és új eszközeink is vannak”.

„Decemberben, amikor teljesen bevezetjük a korhatár-ellenőrzést, még több mindent engedélyezünk a »felnőtteket felnőttként kezeljük« elvünk alapján, például erotikát ellenőrzött felnőttek számára” – fogalmazott.

Per egy tinédzser halála miatt

A változtatások azután érkeznek, hogy az OpenAI ellen idén pert indítottak egy amerikai tinédzser szülei, aki öngyilkosságot követett el.

Matt és Maria Raine nyújtotta be a keresetet 16 éves fiuk, Adam Raine halála után. Ez volt az első olyan per, amely jogellenes halállal vádolta az OpenAI-t. A család mellékelte az áprilisban elhunyt Adam és a ChatGPT közötti beszélgetéseket, amelyekben a fiú elmondta, hogy öngyilkos gondolatai vannak.

Az OpenAI akkor közölte a BBC-vel, hogy áttekinti a beadványt. 

„Legmélyebb részvétünket fejezzük ki a Raine családnak ebben a nehéz időszakban”

– reagálta a vállalat.

Gyermekvédelmi aggályok

A kritikusok szerint a döntés szövetségi és állami szintű szabályozás szükségességét mutatja.

„Hogyan fogják biztosítani, hogy a gyerekek ne férhessenek hozzá a ChatGPT azon részeihez, amelyek csak felnőtteknek szólnak?”

– kérdezte Jenny Kim, a Boies Schiller Flexner ügyvédi iroda partnere a BBC-nek adott interjújában.

Kim egy Meta elleni perben vesz részt, amely azt állítja, hogy az Instagram algoritmusa károsítja a tinédzser felhasználók mentális egészségét. 

„Az OpenAI, mint a legtöbb nagy technológiai cég, kísérleti nyulakként használja az embereket”

– fogalmazott.

Áprilisban a TechCrunch arról számolt be, hogy az OpenAI kiskorúként regisztrált fiókok számára is lehetővé tette grafikus erotika generálását. Az OpenAI akkor közölte, hogy javítást vezet be az ilyen tartalmak korlátozására.

Az e hónapban közzétett felmérés szerint, amelyet a Centre for Democracy and Technology nonprofit szervezet készített, az egyetemisták ötöde számolt be arról, hogy ő vagy valaki, akit ismer, romantikus kapcsolatban volt mesterséges intelligenciával.

Kalifornia kormányzója, Gavin Newsom hétfőn megvétózott egy törvényjavaslatot, amely megtiltotta volna a fejlesztőknek, hogy AI chatbotokat kínáljanak gyerekeknek, hacsak nem tudják garantálni, hogy a szoftver nem okoz káros viselkedést.

Newsom szerint „elengedhetetlen, hogy a serdülők megtanulják, hogyan lépjenek biztonságosan kapcsolatba az AI rendszerekkel”.

Országos szinten az amerikai Szövetségi Kereskedelmi Bizottság vizsgálatot indított arról, hogyan lépnek kapcsolatba az AI chatbotok a gyerekekkel. Az amerikai szenátusban múlt hónapban pártközi törvényjavaslatot terjesztettek elő, amely lehetővé tenné a chatbotfelhasználók számára, hogy felelősségi igényeket nyújtsanak be a fejlesztőkkel szemben.

Miért vezetik be az erotikát?

Altman keddi bejelentése akkor érkezett, amikor szkeptikusok megkérdőjelezték az AI technológiai cégek értékének gyors növekedését. Az OpenAI bevétele ugyan növekszik, de soha nem volt nyereséges. Rob Lalka, a Tulane Egyetem üzleti professzora szerint a nagy AI cégek piaci részesedésért harcolnak.

„Egyetlen vállalatnak sem volt olyan gyors elfogadottsága, mint az OpenAI-nak a ChatGPT-vel” 

– mondta Lalka professzor a BBC News-nak.

„Folytatniuk kellett az exponenciális növekedést, és a lehető legnagyobb piaci dominanciát kellett elérniük” – tette hozzá.