Szigorú szabályokat vezetne be Kína az embereket utánzó MI korlátozására

Kína kiberbiztonsági hatósága szombaton olyan szabálytervezetet tett közzé, amely szigorítaná az emberi személyiséget utánzó, a felhasználókkal érzelmi kapcsolatba lépő mesterségesintelligencia-szolgáltatások felügyeletét - tájékoztat a Portfolio.

A lépés Peking azon törekvését tükrözi, hogy a fogyasztóknak szánt AI-alkalmazások gyors terjedését szigorúbb biztonsági és etikai követelményekkel fékezze és szabályozza.

A tervezet azokra a Kínában nyújtott AI-termékekre és -szolgáltatásokra vonatkozna, amelyek emberi személyiségjegyeket, gondolkodási mintákat és kommunikációs stílust szimulálnak. Ide tartoznak azok a rendszerek is, amelyek szöveges, képi, hang- vagy videótartalmak révén érzelmi interakcióba lépnek a felhasználókkal.

A javaslat szerint a szolgáltatóknak figyelmeztetniük kell a felhasználókat a túlzott használat kockázataira, és be kell avatkozniuk, ha a függőségre utaló jeleket észlelnek.

A szolgáltatóknak a termék teljes életciklusa során biztonsági felelősséget kell vállalniuk, valamint ki kell építeniük az algoritmusok felülvizsgálatára, az adatbiztonságra és a személyes adatok védelmére szolgáló rendszereket.

A tervezet a pszichológiai kockázatokra is kitér. Előírja, hogy a szolgáltatóknak fel kell mérniük a felhasználók érzelmi állapotát és a szolgáltatástól való függőségük mértékét, és szélsőséges érzelmi megnyilvánulások vagy függő viselkedés esetén kötelesek beavatkozni.

Az intézkedések tartalmi és magatartási tilalmakat is meghatároznak. A szolgáltatások nem hozhatnak létre olyan tartalmakat, amelyek veszélyeztetik a nemzetbiztonságot, álhíreket terjesztenek, illetve erőszakot vagy obszcén tartalmakat népszerűsítenek.