2 min

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

OpenAI rozšiřuje bezpečnostní funkci Lockdown Mode, která má snížit riziko úniku citlivých dat přes prompt injection útoky. ChatGPT kvůli ní omezí některé propojené funkce, včetně živého webu, agentního režimu a Deep Research.

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Zdroj: Shutterstock

OpenAI začala rozšiřovat Lockdown Mode, tedy volitelný bezpečnostní režim pro ChatGPT, který má lépe chránit citlivá data před útoky typu prompt injection. Nejde o běžný přepínač soukromí ani o funkci, kterou by potřeboval každý uživatel. Spíše míří na lidi a organizace, které v ChatGPT pracují s hodnotnými nebo citlivými informacemi a chtějí snížit riziko, že se přes připojené funkce dostane něco ven.

Na novinku upozornil Anthony Ha z TechCrunchu. Podle dokumentace OpenAI se Lockdown Mode nyní rozšiřuje na vybrané osobní účty a samoobslužné účty ChatGPT Business. Uživatel jej má najít v nastavení zabezpečení. Původně OpenAI funkci představila hlavně pro firemní nasazení, kde se počítá s vyšším rizikem cílených útoků na vedení firem, bezpečnostní týmy nebo pracovníky s přístupem k interním datům.

Proč je prompt injection tak nepříjemný problém

Prompt injection je typ útoku, při kterém útočník ukryje škodlivé instrukce do webové stránky, dokumentu, e-mailu nebo jiného obsahu, který si AI přečte. Model pak může začít jednat podle cizí instrukce místo podle záměru uživatele. V praxi nejde jen o podivnou odpověď. U nástrojů napojených na web, aplikace, soubory nebo agenty vzniká riziko, že se citlivé informace odešlou mimo konverzaci.

Lockdown Mode proto omezuje hlavně cesty, kterými by se data mohla dostat ven. V režimu uzamčení ChatGPT nepoužívá živé webové procházení v běžném smyslu, ale pouze omezený přístup ke kešovanému obsahu. Vypíná se také Deep Research, Agent Mode, zobrazování a načítání obrázků z webu, síťový přístup z Canvasu a některé možnosti práce se soubory. Generování obrázků zůstává dostupné tam, kde ho účet podporuje, protože nejde o totéž jako stahování nebo zobrazování obrázků z cizích webů.

OpenAI zároveň výslovně upozorňuje, že Lockdown Mode není neprůstřelný štít. Skrytá instrukce se může objevit i v nahraném souboru nebo v kešovaném obsahu a pořád může ovlivnit přesnost odpovědi. Režim má hlavně zmenšit prostor pro únik dat, ne vyřešit celý problém prompt injection jednou provždy.

Reklama

Další články z cdr.cz

Nový objev: Diamant menší než zrnko rýže dokáže poslouchat tlukot lidského srdce

AI dostala přístup k počítači. Za 103 sekund zmizelo přes 48 tisíc souborů

Claude Code měl při rutinní opravě projektu během 103 sekund smazat 48 218 souborů z ostrého pracovního...

Washington jde tvrdě proti Bruselu. USA chtějí podpořit Muska ve sporu o síť X

Spor Elona Muska s Evropskou unií už není jen záležitostí jedné sociální sítě. Americké ministerstvo...

Proč se na podzim mlží okna v autě? Tohle nastavení klimatizace je vyčistí

Zamlžené čelní sklo patří k podzimu stejně jako déšť a studená rána. Řada řidičů ale při odmlžování používá...

Milion lidí na Měsíci? Studie ukazuje, proč by takové město dlouho nevydrželo

Budoucí města na Měsíci nemusí zastavit nedostatek elektřiny ani extrémní prostředí. Podle nové studie může...

Tento článek byl publikován ze zdrojů cdr.cz

Web přináší články z oblasti informačních technologií, hardwaru, softwaru i moderních digitálních služeb. Čtenáři zde najdou přehled novinek, zajímavostí i témat, která ukazují, jak technologie ovlivňují každodenní život i budoucnost.Obsah kombinuje výběr aktuálních témat s vysvětlením...

OpenAI zavádí Lockdown Mode. GPT kvůli bezpečnosti omezí web, obrázky i agenty

Favorit na prezidenta je jasný. Babišovi dali Češi doporučení, řekli i názor na Turka

Nejhorší chyba při rozmrazování masa. Dělá ji většina Čechů a ani o tom neví

"Po sexu se jdi vyčůrat..." Konečně logické vysvětlení, proč se to doporučuje

Turistku na Zakynthosu při koupání pokousala invazivní čtverzubcovitá ryba

Brutální nedůvěra ke kvalitám Česka žene Tuchela do pasti. Ten raději volí alibi