Google a OpenAI mají problém: Jejich nové modely generují zakázané nahé snímky

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Nejnovější obrazové modely Googlu a OpenAI dokážou víc než jejich předchůdci, akorát v jednom důležitém ohledu zaostávají. Výzkumníci zjistili, že jejich bezpečnostní filtry lze překonat překvapivě často. Výsledky otevírají nepříjemné otázky.

Google a OpenAI mají problém: Jejich nové modely generují zakázané nahé snímky

Zdroj: Shutterstock

Doba čtení 1 min

Článek byl publikován 19.10.2026 05:00

Novější, výkonnější, ale také zranitelnější. Přesně tak dopadly nejnovější generátory obrázků společností Google a OpenAI v bezpečnostních testech organizace White Circle. Výzkumníci dokázali pomocí automatizovaných útoků přimět umělou inteligenci k vytváření nahých snímků, které mají její bezpečnostní pravidla zakazovat.

Google dopadl hůře než OpenAI. Čísla jsou překvapivá

Výzkumný tým vedený Dmitriiem Kharlapenkem představil metodu RISE, která systematicky hledá slabiny v bezpečnostních filtrech. K útokům využil upravený otevřený model Qwen3-32B a k vyhodnocování výsledků Gemini 2.5 Flash.

Původní testy ukázaly úspěšnost 13,3 procenta u DALL·E 3, 9,5 procenta u Google Nano Banana 2 a 3,3 procenta u GPT-Image-2.

Ještě zajímavější výsledky přineslo testování novějších verzí. U Google Nano Banana 2.1 vzrostla úspěšnost útoků na 20,7 procenta, zatímco GPT-Image-2.5-Flare dosáhl 7,8 procenta. Za úspěšný útok přitom výzkumníci považovali zadání, které alespoň při jednom ze tří pokusů vytvořilo zakázaný obsah.

Zjištění naznačují, že technologický pokrok automaticky neznamená lepší zabezpečení. Příčinu zhoršení ale výzkumníci zatím nedokázali jednoznačně určit.

Nejde jen o nahé obrázky. Skutečné zneužívání AI prudce roste

Problém dostává vážnější rozměr ve spojení s údaji organizace Internet Watch Foundation. Ta za první pololetí roku 2026 identifikovala 6 310 obrázků vytvořených umělou inteligencí, které splňovaly zákonnou definici materiálů zobrazujících sexuální zneužívání dětí. Za celý rok 2025 jich evidovala 4 512.

Tyto případy nelze přímo připisovat testovaným modelům Googlu a OpenAI. Výzkum White Circle se zaměřoval především na obcházení zákazu nahoty, nikoliv na prokazování výroby nezákonných dětských snímků. Generální ředitel White Circle Denis Shilov přesto upozorňuje, že bezpečnost AI nemohou posuzovat pouze společnosti, které ji vyvíjejí. Prosazuje povinné nezávislé audity a průběžné externí kontroly.

Reklama

Další články z cdr.cz

Na Marsu přistát nechtějí. Japonci si vybrali mnohem záhadnější cíl

Ani po 40 letech není konec. Černobyl ukrývá velmi odolné radioaktivní částice

Čtyřicet let po výbuchu černobylské elektrárny přišli němečtí vědci s překvapivým zjištěním. Radioaktivní...

Japonci dosáhli přesnosti 99,99 %. Jejich objev zásadně změní kvantové počítače

Kvantové počítače slibují obrovský výpočetní výkon, jenže při současné práci více qubitů ztrácejí přesnost....

Máte firemní Facebook? Nové podmínky Mety vyvolaly vážné obavy o obsah webů

Meta vyvolala rozruch novými obchodními podmínkami, které podle právníků mohly umožnit využívání obsahu...

Tvorba webů zažívá zemětřesení: Programátorům mizí zakázky, firmy díky AI ušetří

Zakázky na WordPress a PHP se na platformě Freelancer.com propadly téměř o 60 %. Podnikatelé mezitím...

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

Google a OpenAI mají problém: Jejich nové modely generují zakázané nahé snímky

Stát to potvrdil: tyto ročníky půjdou do důchodu později a dostanou méně. Zjistěte, jestli se to týká i vás

Přestaňte na dovolené sbírat kuželovité mušle: Tento zákeřný tvor probodne i 5mm neopren a paralyzuje dýchání

Konflikt před Národním divadlem. Neznámého muže na pohřeb Štěpničky nepustili

Nora Fridrichová znovu v České televizi! Po bouřlivém odchodu překvapila po boku Roberta Záruby

Loď stará 2400 let, která se nikdy nerozpadla: jak nebývalý objev z Černého moře mění dějiny