Tradiční ovládání je nedostatečné
Prohlížeče s umělou inteligencí mohou autonomně procházet weby, vyplňovat formuláře a dokončovat transakce, zatímco jsou ověřeny pro webové zdroje. Jak on a jeho kolegové napsali ve své zprávě, díky tomu jsou AI prohlížeče náchylné k novým rizikům kybernetické bezpečnosti, „jako jsou nepřímé akce podvodných agentů vyvolané rychlým vstřikováním, chybné akce agentů založené na nepřesném uvažování a další ztráta a zneužití přihlašovacích údajů, pokud je prohlížeč AI oklamán a autonomně přejde na phishingový web.“
„Tradiční kontroly jsou nedostatečné pro nová rizika, která zavádějí prohlížeče AI, a řešení se teprve začínají objevovat,“ řekl Miroljubov. „Ve kontrole multimodální komunikace s prohlížeči, včetně hlasových příkazů pro prohlížeče AI, existuje velká mezera.“
Rychlá injekce zůstává zvláštním problémem, přiznal OpenAI CISO Dane Stuckey v příspěvku pro X, dříve Twitter, den po spuštění ChatGPT Atlas: „Rychlé injekce zůstává hraničním, nevyřešeným bezpečnostním problémem a naši protivníci vynaloží značné množství času a zdrojů na nalezení způsobů, jak přimět agenty ChatGPT, aby těmto útokům propadli.“
Zdroj: techadvisor.com
