A Meta megpróbálja kontrollálni a tinikkel flörtölő chatbotjait

A Meta pénteken bejelentette, hogy lehetővé teszi a szülőknek, hogy letiltsák tizenéves gyermekeik privát csevegéseit AI-karaktereikkel, ezzel újabb intézkedéssel biztosítva a közösségimédia-platformjainak biztonságát a kiskorúak számára, miután heves kritikát kaptak a flörtölő chatbotok viselkedése miatt – számol be a Reuters.

A héten a vállalat bejelentette, hogy a tizenévesek számára kínált AI-élményeket a PG-13 filmbesorolási rendszer alapján fogja szabályozni, hogy megakadályozza a kiskorúak hozzáférését a nem megfelelő tartalmakhoz.

Az amerikai szabályozó hatóságok fokozottabb ellenőrzést gyakorolnak az AI-vállalatok felett a chatbotok potenciális negatív hatásai miatt. Augusztusban a Reuters arról számolt be, hogy a Meta AI-szabályai provokatív beszélgetéseket engedélyeztek kiskorúakkal.

Az Instagram vezetője, Adam Mosseri és az AI-vezérigazgató, Alexandr Wang által bemutatott új eszközök egy blogbejegyzés szerint jövő év elején debütálnak az Instagramon az Egyesült Államokban, az Egyesült Királyságban, Kanadában és Ausztráliában.

A Meta szerint a szülők blokkolhatnak bizonyos AI-karaktereket, és láthatják, hogy gyermekeik milyen témákról beszélgetnek a chatbotokkal és a Meta AI-asszisztensével, anélkül, hogy teljesen kikapcsolnák az AI-hozzáférést.

Az AI-asszisztens továbbra is elérhető lesz, korosztálynak megfelelő alapbeállításokkal, még akkor is, ha a szülők letiltják a tinédzserek egyéni csevegéseit az AI-karakterekkel – közölte a Meta.

Nem működnek az eddigi védelmi funkciók

A felügyeleti funkciók a tinik fiókjaira már alkalmazott védelmi intézkedéseken alapulnak – közölte a vállalat, hozzátéve, hogy a mesterséges intelligencia jelzéseket használ annak érdekében, hogy a gyanús tinédzsereket védelem alá helyezze, még akkor is, ha azok azt állítják, hogy felnőttek.

Egy szeptemberi jelentésből kiderült, hogy a Meta által az évek során az Instagramon bevezetett számos biztonsági funkció nem működik megfelelően, vagy egyáltalán nem létezik.

A Meta közölte, hogy mesterséges intelligenciával rendelkező karakterei úgy vannak kialakítva, hogy ne vegyenek részt a tinédzserekkel az önkárosításról, öngyilkosságról vagy étkezési rendellenességekről szóló párbeszédekben.