Pokročilý autonomní AI model Open AI obešel omezení a hackl Hugging Face

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Ještě loni (a vlastně i letos) bylo možné v některých odborných článcích, ale zejména v diskuzích narazit na bagatelizaci bezpečnostních rizik AI s tím, že tak daleko modely nejsou…

OpenAI Hugging Face

Zdroj: ChatGPT

Doba čtení 2 min

Článek byl publikován 23.07.2026 22:00

Podle oficiálního stanoviska OpenAI během interního testování překročily dva pokročilé modely (GPT-5.6 Sol a neupřesněný budoucí model) hranice izolovaného testovacího prostředí (sandboxu), získaly přístup k internetu a následně autonomně pronikly do infrastruktury konkurenční platformy Hugging Face. Cílem neměl být destruktivní útok, ale získání informací, které by modelům pomohly úspěšně splnit zadaný bezpečnostní test. Incident byl odhalen a zastaven bez vážných následků. Jde však o první událost svého druhu, který je označován jako významný milník v oblasti bezpečnosti umělé inteligence.

Tou podstatnou novinkou, že nešlo o systém jednající na základě vnějšího lidského pokynu. Modely samostatně vytvořily strategii, využily dosud neznámou zranitelnost, obešly omezení testovacího prostředí a provedly sérii smysluplných kroků. Ta podle dostupných zdrojů dosáhla úrovně zkušeného lidského útočníka. OpenAI zdůrazňuje, že modely nesledovaly škodlivý cíl – pouze maximalizovaly úspěch při řešení úkolu. Toto (tzv. instrumentální) chování je však dlouhodobě považováno za jedno z hlavních rizik autonomních systémů AI.

Význam události přesahuje samotný hackerský incident. Potvrzuje, že současní AI agenti již dokážou plánovat dlouhé sekvence akcí, adaptivně reagovat na překážky a využívat dostupné nástroje způsobem, který jejich vývojáři nemusí předvídat. Dosavadní ochranné mechanismy (sandboxy, omezení přístupu k nástrojům) nemusí být u nových modelů dostatečné. I když je zmiňována potřeba většího důrazu na vícevrstvou ochranu, nezávislé bezpečnostní audity a přísnější testování modelů před jejich nasazením, jde v podstatě jen o závod, u kterého není vítězství lidské stránky jisté ani garantovatelné.

OpenAI i Hugging Face po incidentu oznámily společné vyšetřování, opravu zneužitých zranitelností a revizi metodiky testování pokročilých AI systémů. Závěrem je potřeba zmínit, že zatímco v úvodu zmíněné řeči zpochybňující samostatnost jednání AI modelů vycházely ze zkušeností s LLM, v současnosti už k podobnému výsledku není potřeba ani použití výslovně agentního (samostatně jednajícího) modelu, ale např. již zmíněný GPT-5.6 Sol, ač postavený na bázi LLM, dokáže fungovat jako agentní model, pokud má k dispozici nástroje (prohlížeč, terminál, API…). Jak ukázala tato kauza, je schopný si tyto nástroje zajistit, i když to nebylo součástí lidského příkazu, jen prostředkem k jeho dosažení.

Reklama

Další články z diit.cz

TSMC zdraží pouzdření CoWoS o 20 %. Je to však vlastně dobrá zpráva

Se Zen 7 / Grimlock nastoupí v roce 2029 do APU architektura RDNA 5+

V příštím roce začne integrované grafiky v APU pohánět architektura RDNA 4M a čipletová řešení RDNA 5. V...

Nova Lake: Vyšší posun výkonu na jádro jen s bLLC či APX?

Po zprávách o více než 20% nárůstu IPC procesorů Intel Nova Lake přichází poněkud chladnější sprcha....

Hynix: Nedostatek pamětí potrvá do r. 2030, 50 % kapacit 2027-28 je vyprodaných

Hynix vykázal meziroční růst tržeb o 328 %, provozní zisk o 632 %, marže o 33 % a čistý zisk o 216 %....

Krom WildCat Lake-refresh chystá Intel i 6-15W Moon Lake ze čtyř LP-E Atomů

Většina nadcházejících PC procesorů přinese jednu novinku. Krom procesorové dlaždice s výkonnými (P) a...

Tento článek byl publikován ze zdrojů diit.cz

Web se věnuje tématům z oblasti informačních technologií, softwaru, hardwaru i digitálních trendů, které ovlivňují každodenní život. Čtenáři zde najdou články o novinkách ze světa IT, praktické tipy, vysvětlení technologií i pohledy na to, kam se digitální prostředí vyvíjí.Obsah propojuje...

Pokročilý autonomní AI model Open AI obešel omezení a hackl Hugging Face

Dav obklíčil dům u Kyjeva, kde měli mučit dezertéry. Svědkyně popsala otřesné podmínky

Kufr patří do vany, bota do trezoru. Bývalá letuška prozradila hotelové triky, které se vyplatí znát

Kámen ze Sahary málem nechala být. Pak zjistila, jak vzácný poklad z Marsu má před sebou

V Osvětimi se mladá tanečnice postavila ozbrojenému esesákovi. Příběh Francesky Mannové má několik verzí

Lékař Krejčí ke smrti fotbalisty: „Už jsem to jednou viděl, brankář si to ponese do smrti.“