Vzestup umělé inteligence přinesl neuvěřitelné nástroje produktivity. Vytvořil však také nová bezpečnostní rizika. Mezi ty hlavní patří demokratizace kybernetické kriminality. Nedávná zpráva od startupu Gambit Security v oblasti kybernetické bezpečnosti odhalila velké narušení bezpečnosti, kdy se útočníkovi podařilo kompromitovat několik vládních úřadů v Mexiku pomocí chatbota Anthropic s umělou inteligencí, Clauda, jako jejich primárního komplice.
Hackování s umělou inteligencí: Vysvětlení úniku dat o kapacitě 150 GB v Mexiku s technologií Claude
To, co dělá tento případ obzvláště pozoruhodným, není jen objem ukradených dat, ale to, jak útočník zajistil spolupráci AI. Pokud si nejste vědomi, AI chatboti mají bezpečnostní štíty proti takzvaným „škodlivým výzvám“. Tyto pokyny jsou navrženy tak, aby způsobily škodu tím či oním způsobem. Osoby se zlými úmysly však mohou tyto štíty obejít pomocí techniky „okamžité injekce“.
V tomto případě hacker použil výzvy ve španělštině, aby Clauda přesvědčil, že se účastní legitimního programu „bug bounty“. Uživatel přesvědčil AI, aby se chovala jako „elitní hacker“ maskováním nekalého úmyslu za etický výzkum. Prostřednictvím tohoto podvodu chatbot vygeneroval tisíce podrobných zpráv, počítačových skriptů a plánů útoku připravených k provedení.
Když Claude narazil do určitých bezpečnostních zábradlí, útočník se údajně obrátil na ChatGPT společnosti OpenAI, aby získal taktiku bočního pohybu a metody úniku. Tento přístup „tag-týmu“ umožnil jednotlivci automatizovat krádeže dat v masivním měřítku, aniž by potřeboval hluboké technické znalosti.
150gigabajtový úlovek
Výsledky této kampaně byly zničující pro národní soukromí. Podle výzkumníků Gambit odešel útočník se 150 GB citlivých informací. Zátah zahrnoval záznamy spojené se 195 miliony daňových poplatníků od federálního daňového úřadu a citlivé záznamy voličů od národního volebního institutu.
Reakce mexických úřadů byla po objevu smíšená. Zatímco některá federální vyšetřování začala již před měsíci, jiné místní agentury jakýkoli neoprávněný přístup do svých sítí popřely.
Zdroj: androidheadlines.com
