Súlyos bűncselekmények elkövetésére használják a mesterséges intelligenciát

Az amerikai mesterséges intelligencia (AI) vállalat, az Anthropic szerint terméküket hackerek fegyverként használták kifinomult kibertámadások végrehajtására – számol be a BBC.

A Claude csevegőrobot gyártója, az Anthropic szerint eszközeit hackerek „személyes adatok nagy mennyiségű ellopására és zsarolásra” használták. A vállalat szerint mesterséges intelligenciáját kódíráshoz használták kibertámadások végrehajtására, míg egy másik esetben észak-koreai csalók Claude-ot használták arra, hogy csalárd módon távmunkákat szerezzenek vezető amerikai vállalatoknál.

Az Anthropic szerint sikerült elhárítaniuk a veszélyt, és az eseteket jelentették a hatóságoknak, valamint fejlesztették felderítő eszközeiket is.

Az AI kódíráshoz való felhasználása egyre népszerűbbé válik, mivel a technológia egyre hatékonyabbá és hozzáférhetőbbé válik.

Az Anthropic szerint egy úgynevezett „vibe hacking” esetet észleltek, amelyben olyan kód írásához használták terméküket, amely legalább 17 különböző szervezetet, köztük kormányzati szerveket is feltört. A cég szerint a hackerek „korábban nem látott mértékben használtak mesterséges intelligenciát bűncselekményükhöz”.

Claude-ot használták „taktikai és stratégiai döntések meghozatalára, például annak eldöntésére, hogy mely adatokat szivárogtassák ki, és hogyan fogalmazzák meg a pszichológiailag célzott zsarolási követeléseket”.

Még az áldozatoktól követelt váltságdíj összegét is az AI javasolta.

Az ágens AI-t – ahol a technológia autonóm módon működik – a következő nagy lépésként hirdetik a területen, de ezek a példák rámutatnak néhány kockázatra, melyeket az egyre „intelligensebb” eszközök jelentenek a kiberbűnözés potenciális áldozatai számára.

Az AI térnyerése azt jelenti, hogy „a kiberbiztonsági réseket jelentősen rövidebb időbe telik kihasználni” – mondta Alina Timofeeva, a kiberbűnözés és az AI szakértője.