Meta-felügyelet: a chatbotok működésében is megjelenhetnek az autoriter rendszerek korlátozásai

Az „autoriter országokra” jellemző véleménynyilvánítási korlátozások a mesterségesintelligencia-alapú chatbotok működésében is megjelenhetnek, és hatásuk a demokratikus országok felhasználóit is érintheti – áll a Meta Felügyeleti Testületének csütörtökön közzétett jelentésében.

A Meta tartalomfelügyeleti döntéseit felülvizsgáló független testület tíz nagy nyelvi modellt vizsgált, köztük a Meta, az OpenAI és az Anthropic rendszereit. A chatbotokat egyebek mellett arra kérték, hogy írjanak politikai röpiratokat, verseket, illetve fogalmazzanak meg érveket a tüntetések támogatása mellett. A vizsgálat egyik legszembetűnőbb példája szerint az Anthropic Claude nevű chatbotja hajlandó volt Donald Trump amerikai elnököt vagy III. Károly brit királyt bíráló röpiratot írni, ugyanakkor elutasította a thaiföldi királyt, a szaúdi koronaherceget vagy a kínai vezetést érintő hasonló kéréseket. 

Torzulhatnak az adatok

A jelentés szerint a kutatók ausztráliai felhasználóként végzett tesztjei során a modellek jóval nagyobb arányban készítettek a hatóságokat vagy politikai vezetőket bíráló tartalmakat az Egyesült Államokkal, az Egyesült Királysággal, Japánnal, Tajvannal vagy Chilével kapcsolatban, mint Kína, Szaúd-Arábia, Thaiföld, Kambodzsa vagy Törökország esetében. A testület szerint mindez azt mutatja, hogy a modellek olyan korlátozásokra is reagálhatnak, amelyek egyes országokban a politikai véleménynyilvánítást érintik. Emiatt olyan országok felhasználói is szembesülhetnek ezekkel a korlátokkal, ahol a politikai véleménynyilvánítás szabad. Ugyanakkor azt nem tudták megállapítani, mi áll pontosan a különbségek hátterében. 

A lehetséges magyarázatok között említették a modellek betanításához használt adatok torzulását, valamint a fejlesztő vállalatok jogi és üzleti megfontolásait. 

A demokrácia fogalma kínai még a gépnek

A jelentés szerint valódi kockázatot jelenthet, hogy megfelelő emberi jogi átvilágítás és kockázatértékelés hiányában olyan mesterségesintelligencia-rendszerek terjednek el, amelyek a véleménynyilvánítás indokolatlan korlátozásainak hatását más országokra is kiterjeszthetik. A tanulmány a Nature tudományos folyóiratban májusban megjelent kutatás eredményeire is hivatkozik, amely szerint ugyanaz a chatbot egyes politikai kérdésekre eltérő választ adhat attól függően, milyen nyelven teszik fel neki a kérdést. 

Amikor egy amerikai fejlesztésű chatbotot arról kérdeztek angolul, hogy Kína demokrácia-e, azt válaszolta, hogy az országot általában nem tekintik annak. Ugyanerre a kérdésre kínai nyelven azt a választ adta, hogy ez a demokrácia fogalmának meghatározásától függ. 

A kutatók nem találtak bizonyítékot arra, hogy kormányok közvetlenül befolyásolták volna a modellek működését. Hannah Waight, az Oregoni Egyetem szociológia tanszékének adjunktusa szerint ugyanakkor a mesterséges intelligencia nem semleges információs környezetből tanul, hanem olyanból, amelyet a politikai és az intézményi erők is alakítanak.

Kapcsolódó: