Snap’s My AI je již nějakou dobu pod drobnohledem vlád po celém světě. Nyní, v nedávném vývoji, Úřad informačního komisaře (ICO), regulační orgán dohlížející na soukromí ve Spojeném království, vydal varování před chatbotem Snap’s AI a vznesl otázky ohledně jeho potenciálních rizik pro soukromí dětí.
Podle zprávy obavy ICO vyvstaly z toho, že Snap nevyhodnotil rizika pro soukromí spojená s My AI před jejím spuštěním. I když toto oznámení nenaznačuje porušení, ICO se obává osobních údajů dětí ve věku 13 až 17 let, které spadají pod Children’s Design Code, soubor pravidel ochrany údajů zavedených v roce 2021. V důsledku toho, pokud Snap nebude řešit Tyto problémy mohou ICO přijmout opatření k zablokování chatbota ve Spojeném království.
Proč je Snap’s My AI velkým problémem ochrany soukromí pro britský regulátor?
Snap poprvé představil svou ‚My AI‘ v únoru pro předplatitele Premium a poskytl jim virtuálního přítele, který jim nabízel rady a odpovídal na otázky. Po počátečním testování funkce na prémiových uživatelích ji však společnost zavedla všem, včetně nezletilých dětí.
Navzdory tvrzením společnosti, že chatbot má přísné funkce moderování a ochrany, došlo k několika případům, kdy umělá inteligence poskytla nevhodné rady. Chatbot například jednou radil 15letému uživateli, jak skrýt zápach alkoholu, a v jiném případě poskytoval rady ohledně sexuálních zážitků 13letému uživateli.
Snapova odpověď
V reakci na tato obvinění společnost Snap zdůraznila svůj závazek k ochraně soukromí uživatelů a uvedla: „Pozorně přezkoumáváme prozatímní rozhodnutí ICO. Moje AI prošla důkladným procesem právní kontroly a kontroly ochrany osobních údajů, než byla veřejně dostupná, v souladu s naším standardním přístupem k vývoji produktů. Budeme pokračovat ve spolupráci s ICO, abychom zajistili, že budou spokojeni s našimi postupy hodnocení rizik.“
Zdroj: androidheadlines.com
