1 min

AI agent ukázal, jak budou vypadat budoucí kybernetické útoky

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Bezpečnostní incident, při kterém modely umělé inteligence společnosti OpenAI během interního testování pronikly přes několik vrstev zabezpečení až do infrastruktury platformy Hugging Face, vyvolal pozornost odborníků po celém světě. AI při testu samostatně objevila dosud neznámou zranitelnost, získala přístup k internetu a pokusila se dostat k datům potřebným pro splnění testovací úlohy.

AI agent ukázal, jak budou vypadat budoucí kybernetické útoky

Zdroj: Trade-off – ekonomické zpravodajství

Podle OpenAI se incident odehrál při interním testování kybernetických schopností modelů, které běžely bez části běžných bezpečnostních omezení. AI během něj objevila dosud neznámou (zero-day) zranitelnost, získala přístup k internetu, překonala několik vrstev zabezpečení a následně se dostala až k infrastruktuře Hugging Face, platformy pro sdílení a vývoj AI modelů a nástrojů. Cílem modelů bylo získat řešení testovacího benchmarku ExploitGym. Anomální aktivitu podle OpenAI odhalil její bezpečnostní tým, zatímco Hugging Face ji následně detekovala a zastavila na své infrastruktuře. Obě společnosti nyní spolupracují na vyšetřování incidentu.

Přestože OpenAI zdůrazňuje, že šlo o kontrolovaný experiment, případ podle odborníků ukazuje, že AI už není odkázána pouze na známé bezpečnostní chyby.

„Z pohledu firem je důležité si uvědomit, že nová generace AI agentů už není omezena pouze na vyhledávání známých zranitelností. Dokáže samostatně analyzovat systémy, hledat dosud nezdokumentované chyby, testovat různé scénáře útoku a nacházet nové cesty k průniku. Právě to podle zveřejněných informací ukázal i incident společnosti Hugging Face,“ okomentoval pro Trade-off situaci David Kazda, CSO technologické společnosti Algotech.

Podle něj nejde o selhání umělé inteligence, ale o ukázku rychlého vývoje jejích schopností. „Situace, která vznikla při kontrolovaném testování, se může v budoucnu zopakovat i při skutečném kybernetickém útoku. A příště už nemusí jít o náhodu nebo výzkumný experiment, ale o záměrně nasazeného AI agenta,“ upozorňuje.

Firmy by podle něj měly počítat s tím, že tradiční obrana založená především na opravování známých zranitelností už nebude stačit. „Obrana musí být průběžná, aktivní a postavená na nepřetržitém monitoringu, detekci anomálií a schopnosti reagovat v reálném čase. Stejně jako útočníci začínají využívat umělou inteligenci, musí ji při své obraně využívat i firmy. Jinak budou vždy o krok pozadu,“ uzavírá Kazda.

Reklama

Další články z Trade-off

Česko získalo z EU o 38,2 miliardy korun více, než zaplatilo

AI Act klepe na dveře. Jsou e-shopy připravené na nové povinnosti?

Do srpnového deadlinu evropského nařízení o umělé inteligenci (AI Act) zbývá jen pár dní a pravidla se...

V prvním pololetí roku 2026 zbankrotovalo 418 obchodních společností

Počet firemních bankrotů v Česku byl během prvních šesti měsíců roku 2026 nejvyšší od roku 2017. Soudy...

Od EU máme zelenou. Komise doporučila schválit fiskální plán České republiky

Revidovaný fiskálně-strukturální plán České republiky získal kladné hodnocení Evropské komise. Ta...

Domácnosti plánují renovace za 2,3 miliardy s bezúročnými úvěry

Ministerstvo životního prostředí oznámilo, že během prvního měsíce příjmu žádostí v programu Nová zelená...

Tento článek byl publikován ze zdrojů Trade-off

Články z Trade-Off přibližují ekonomická témata způsobem, který je srozumitelný a přístupný široké veřejnosti. Věnují se dopadům ekonomických rozhodnutí na každodenní život lidí – ať už jde o ceny energií, důchody, daně, mzdy, inflaci nebo změny v zákonech, které ovlivňují peněženky českých...

AI agent ukázal, jak budou vypadat budoucí kybernetické útoky

Na Krymu chtěli obejít přídělový systém. Místo plné nádrže přišlo nemilé překvapení

Známý český youtuber Tary pod palbou: Kde končí zábava a začíná manipulace?

Halina Pawlowská potěšila fanoušky fotkami z cest: Ti nešetřili u slavné spisovatelky komplimenty

Může vás meloun dostat do nemocnice? Internista varuje před nečekaným letním rizikem

Požár a nebezpečný kouř: Kdy utíkat a kdy je bezpečnější zůstat za zavřenými dveřmi