Hónapokkal a kanadai tragédia előtt a ChatGPT tudott az elkövető erőszakos bejegyzéseiről, mégsem riasztotta a hatóságokat

Hónapokkal azelőtt, hogy a (magát nőnek képzelő, mentálisan beteg – a szerk.) 18 éves Jesse Van Rootselaar tömeges lövöldözést végre egy iskolában a kanadai Brit Columbiában, az OpenAI fontolóra vette, hogy értesíti a bűnüldöző hatóságokat a ChatGPT chatbotjával folytatott interakcióiról – adta hírül a 444.hu.

Van Rootselaar tavaly júniusban, több napon keresztül fegyveres erőszakkal kapcsolatos forgatókönyveket írt le a ChatGPT használata során – mondták az ügyet ismerő források.

Bejegyzéseit egy automatizált ellenőrző rendszer jelölte meg, ami aggodalmat keltett az OpenAI alkalmazottaiban. A vállalaton belül mintegy egy tucat munkatárs vitatta meg, szükséges-e lépéseket tenni Van Rootselaar posztjai miatt. Egyes alkalmazottak úgy értelmezték az írásait, mint amelyek valós, fizikai erőszak lehetőségére utalhatnak, és arra ösztönözték a vezetést, hogy értesítsék a kanadai hatóságokat – mondták az ügyet ismerő személyek.

Az OpenAI vezetése végül úgy döntött, nem veszi fel a kapcsolatot a hatóságokkal.

A vállalat szóvivője közölte: az OpenAI letiltotta Van Rootselaar fiókját, ugyanakkor arra jutott, hogy tevékenysége nem érte el a rendőrségi bejelentéshez szükséges küszöböt. Ehhez az kellett volna, hogy hiteles és közvetlen veszélyt jelentsen másokra nézve, súlyos fizikai sérülés kockázatával.

A szóvivő elmondta: a vállalat felvette a kapcsolatot a Kanadai Királyi Lovasrendőrséggel (RCMP), miután értesült a lövöldözésről, és segíti a nyomozást.

Az OpenAI közölte: modelljeit úgy képezi, hogy visszatartsák a felhasználókat a valós világban elkövetett károkozástól, és azokat a beszélgetéseket, amelyekben a felhasználók ártó szándékot fejeznek ki, emberi felülvizsgálókhoz irányítja. 

Ők – amennyiben úgy ítélik meg, hogy közvetlen és súlyos fizikai veszély áll fenn – a hatóságokhoz fordulhatnak. (!)

A vállalat szerint a döntések során mérlegelik az erőszak kockázatát, a magánszféra védelmét, valamint azt a lehetséges megrázkódtatást is, amelyet az érintett személyek és családjaik számára okozhat, ha indokolatlanul vonják be a rendőrséget. (Ha a ChatGPT vezetősége komolyan vette volna a lehetséges veszélyt, akkor nem történt volna meg a tragédia – a szerk.)

A 18 éves Jesse Van Rootselaar február 10-én nyitott tüzet a Brit Columbia tartomány Tumbler Ridge-i iskolájában, nyolc ember életét kioltva. A rendőrség közölte, hogy Jesse Van Rootselaart holtan találták a helyszínen; magával is végzett. Van Rootselaar a lövöldözés előtt már ismert volt a helyi rendőrség számára. A hatóságok több alkalommal is felkeresték lakóhelyén mentális egészséggel kapcsolatos ügyek miatt, és ideiglenesen fegyvereket is elszállítottak az ingatlanból.

Kapcsolódó: