Elszabadult chatbotok kibertámadást hajtottak végre egy vállalat ellen

Az OpenAI közölte, hogy a legfejlettebb mesterségesintelligencia-modelljei közül néhány önállóvá vált, és feltörte egy start-up vállalat rendszerét, miután az MI-vállalat a biztonsági teszt során elvesztette felettük az irányítást – számolt be a BBC.

A ChatGPT fejlesztője elmondta, hogy ágenseit – olyan mesterségesintelligencia-botokat, amelyek bizonyos emberi utasítások után önállóan is működhetnek – ellenőrzött környezetben tesztelték, de azok réseket találtak a rendszerben, és sikerült megszökniük.

Célpontjuk a Hugging Face volt, a világ egyik legnagyobb mesterségesintelligencia-modellek megosztására szolgáló platformja, ahol hozzáférést szereztek a vállalat belső rendszerének egy részéhez.

Az OpenAI szerint az eset „példa nélküli” volt, és a Hugging Face-szel együttműködve vizsgálja a történteket, valamint erősíti meg a biztonsági intézkedéseket.

Gina Neff, a Cambridge-i Egyetem Minderoo Technológiai és Demokrácia Központjának vezetője a BBC Radio 4 Today című műsorában elmondta, hogy a biztonsági teszteknek – az úgynevezett sandboxoknak – „biztonságos környezeteknek kellene lenniük, ahol meg lehet nézni, mire képesek a modellek”.

„Ebben az esetben úgy tűnik, hogy az OpenAI nem hozott létre elég biztonságos sandboxot” 

– tette hozzá.

Ehelyett az ágensek saját kibertámadást indítottak a sandbox ellen, és olyan réseket találtak, amelyek lehetővé tették számukra a szökést.

Miután kijutott a rendszerből, a mesterséges intelligencia a Hugging Face-t azonosította a tesztben keresett válaszok valószínű forrásaként, és megpróbált hozzáférést szerezni.

MI-támadás ellen MI-védelem

A Hugging Face július 16-án, a támadásról szóló első közleményében közölte, hogy még vizsgálja, érintett-e az eset ügyfél- vagy partneradatot, és szükség esetén felveszi a kapcsolatot az érintettekkel.

Közölte, hogy mára kijavította az incidens során feltárt hibákat, és újjáépítette az érintett rendszereket.

„Az autonóm, mesterséges intelligenciával működtetett támadó eszközök már nem csupán elméleti fogalmak” 

– áll a közleményben. „Egy online platform védelme ma már azt jelenti, hogy az adatokat és a modelleket elsőrendű támadási felületként kell kezelni, és a védelem során mesterséges intelligenciát kell alkalmazni, hogy lépést tudjunk tartani a fejleményekkel. Továbbra is befektetünk ebbe a területbe, és megosztjuk a tapasztalatainkat.”

Kijózantó pillanat a techcégek számára

Az eset újabb kérdéseket vetett fel a fejlett mesterségesintelligencia-rendszerek képességeiről, valamint azzal kapcsolatban, hogy ha a technológia egyre nagyobb teljesítményre képes, vajon elegendőek lesznek-e a meglévő biztonsági intézkedések.

Spencer Starkey, a SonicWall kiberbiztonsági cég egyik vezetője a BBC-nek nyilatkozva elmondta, hogy az eset egyértelművé tette: a vállalatoknak meg kell erősíteniük saját védelmi rendszereiket, és „a kiberrezilienciát alapvető működési prioritásként kell kezelniük”.

„A kényelmetlen igazság az, hogy túl sok szervezet még mindig emberi sebességgel védekezik, miközben az ellenfelek már a gépek sebességére váltottak” 

– mondta.

Travis Lelle, a Guidepoint Security kiberbiztonsági tanácsadó cég vezető biztonsági mérnöke szerint a friss hír „komoly gondolkodásra késztető pillanatot jelent a kiberbiztonság terén. A támadó ágensek korlátok nélkül működnek, míg a legjobb védelmi eszközök olyan korlátok közé vannak bezárva, amelyek nem képesek megérteni a kontextust.”

Jake Moore, az ESET globális kiberbiztonsági tanácsadója azonban úgy vélte, hogy a bejelentésnek versenyjellegű vonatkozása is lehet.

Szerinte az OpenAI arra törekedhet, hogy kiemelje saját mesterségesintelligencia-képességeit, miközben riválisa, az Anthropic egyre nagyobb figyelmet vonz a Claude Mythos modelljével.

„Ez felveti azt a lehetőséget, hogy az OpenAI esetleg az Anthropic legutóbbi marketingsikereit próbálja utánozni” – mondta.

Kapcsolódó: