Az MI-modellek önreplikációjának lehetőségét vizsgálva arra jutottak az Anthropic kutatói: már csak hónapokra vagyunk attól, hogy az úgynevezett MI-férgek hozzáférkőzzenek az internethez csatlakoztatott otthoni okoseszközökhöz – írja a Guardian.
A vállalat kutatói szerint egyes MI-modellek hamarosan olyan eszközökbe tudnak majd behatolni, mint az okossütők, okostévék és a robotporszívók. Ennél is aggasztóbb, hogy a kis méretű, beépített MI-chipekkel működő biztonsági kamerák és a videós konferenciákhoz használt rendszerek is célpontok lehetnek.
Az Anthropic kutatói a vállalat hétfőn közzétett jelentése szerint azt vizsgálták, hogy egy MI-modell képes lehet-e internethez csatlakoztatott eszközökbe behatolni, majd onnan más eszközökre átterjedni, és adatközpontok helyett önmagát másolva azok beépített chipjein futni. A kutatók szerint egyes modellek hónapokon belül elsajátíthatják ezt a képességet, egy ilyen, önmagát másoló rendszer feletti irányítás elvesztése pedig komoly kockázatot jelentene. A legrosszabb forgatókönyv szerint ezek az MI-férgek rajként is egyesülhetnek, hogy számítógépes hardvereket támadjanak meg – a kutatók szerint ennek egyelőre leginkább az otthonok, illetve a kisvállalkozások eszközei vannak kitéve.
„Egy ilyen replikátort nehéz lenne leállítani, mivel nincs olyan központja, ahol le lehetne kapcsolni. […] Arra kell törekednünk, hogy megerősítsük a rendszereinket, megnehezítve az ilyen kártevők terjedését. Ugyanakkor fel kell készülnünk egy olyan világra is, amelynek ezek a replikátorok már a kitörölhetetlen részei” – írták a kutatók.
A legnagyobb MI-fejlesztő cégek már egy ideje világvégét vizionálnak – nem teljesen alaptalanul. Mostanában több ijesztőnek tűnő biztonsági incidens is történt, amikor az MI-ügynökök tovább nyújtózkodtak, mint ameddig a takarójuk ért. Az OpenAI mesterségesintelligencia-ügynöke júniusban behatolt az ausztrál kormány által működtetett általános egészségügyi rendszerbe, a Medicare-be, emiatt az ausztrál szenátus szeptemberben beidézte Sam Altmant és Dario Amodeit, az OpenAI és az Anthropic vezérigazgatóját is.
Miközben az OpenAI, az Anthropic, az Amazon Web Services, a Microsoft és több mint száz másik vállalat és szervezet nemrég közös nyílt levélben figyelmeztetett arra, hogy már csak hónapok maradhattak felkészülni az MI segítségével végrehajtott kibertámadások új hullámára, más kutatók már arról beszélnek, hogy a fejlesztési verseny jelenlegi kiéleződése még komolyabb veszélyt jelenthet az emberiségre. Szerintük a következő egy-két évben a nagy MI-cégek eldönthetik az emberiség sorsát, és több mint tíz százalék az esélye annak, hogy a technológia a következő évtizedben kiirtja a fajunkat. Arra, hogy ez pontosan hogyan történhet meg, rengeteg képzeletbeli forgatókönyv létezik – reálisak és a valóságtól teljesen elrugaszkodottak egyaránt.
Kapcsolódók:
Az X- és Telegram-csatornáinkra feliratkozva egyetlen hírről sem maradsz le!
Kép forrása: acec.org
