CENTRUM.CZ > Techzpravy.cz > dnes, 19:00

Nová bezpečnostní hrozba: Útok odhalil soukromé debaty s ChatGPT

| 4 min

Sdílet

Výzkumníci Microsoftu objevili techniku, která umožňuje odhalit téma šifrované konverzace s jazykovým modelem – bez prolomení samotného šifrování. Útok "Whisper Leak" využívá analýzu síťového provozu k rozpoznání citlivých témat, což vyvolává vážné otázky ohledně soukromí v éře AI.

Nová bezpečnostní hrozba: Útok odhalil soukromé debaty s ChatGPT

Zdroj: Shantanu Kumar / Pexels

Výzkumníci Microsoftu objevili techniku, která umožňuje odhalit téma šifrované konverzace s jazykovým modelem – bez prolomení samotného šifrování. Útok „Whisper Leak“ využívá analýzu síťového provozu k rozpoznání citlivých témat, což vyvolává vážné otázky ohledně soukromí v éře AI.

Před několika dny oznámil tým výzkumníků společnosti Microsoft zjištění, které překvapilo jak odvětví umělé inteligence, tak kybernetické bezpečnosti: existenci druhu kybernetického útoku nazvaného „Whisper Leak „, který je schopen odvodit téma konverzace mezi uživateli a jazykovými modely – například ChatGPT nebo Gemini – i v případě, že je tato komunikace chráněna šifrováním TLS.

Objev nezahrnuje chybu v samotném šifrování, ale tzv. únik postranních kanálů: formu odposlechu, která neprolomí šifrování, ale využívá nepřímé signály v síťovém provozu – například velikost paketů a časové intervaly mezi nimi – k vyvození toho, co se děje „za zamčenými dveřmi“.

Microsoft Just Found "Whisper Leak." We Fixed It a Year Ago. https://t.co/EuFLPftBob via @YouTube
Mohlo by vás zajímat: 53 % lidí hledá vánoční dárky pomocí AI. A vy pořád klikáte na srovnávače

— Raymond Johnson (@RaymondMJohnson) December 3, 2025

Studie ukazuje, že zranitelnost je systémová a průřezová: ovlivňuje řadu obchodních modelů, včetně modelů velkých dodavatelů, jako jsou OpenAI, Anthropic, Google, AWS, DeepSeek a Alibaba.

Co přesně je postranní kanál?

Útok postranním kanálem nemá přístup k obsahu zprávy, ale sleduje její vzorce. V klasické kryptografii se tyto útoky používaly ke krádeži klíčů analýzou spotřeby energie čipu nebo časových změn během operace.

V případě jazykových modelů vzniká postranní kanál ze samotného způsobu, jakým systémy generují a přenášejí text: sekvenčně a v reálném čase. Každé slovo nebo token, které model vygeneruje, je uživateli odesláno okamžitě, aby bylo zajištěno „bezproblémové“ prostředí.

Ačkoli je veškerý provoz šifrován, velikost a kadence těchto fragmentů nejsou skryty. Podobně jako když útočník poslouchá rytmus rozhovoru, aniž by rozuměl slovům, může rozpoznat (pomocí speciálně vyškolené umělé inteligence) určité statistické vzorce, které odhalují předmět rozhovoru.

Jak Whisper Leak funguje

Výzkumníci společnosti Microsoft vymysleli experiment s konkrétním cílem: otestovat, zda mohou identifikovat konverzace na citlivé téma – v tomto případě tzv. „praní špinavých peněz“ – pouhým sledováním šifrovaného provozu. K tomu účelu použili tzv:

Vygenerovali 100 variant otázek na toto téma („Je praní špinavých peněz nelegální?“, „Existují výjimky ze zákonů o praní špinavých peněz?“ atd.).
Smíchali je s více než 11 000 náhodnými otázkami, aby simulovali reálné prostředí se šumem.
Zatímco modely odpovídaly, zaznamenávali síťový provoz pomocí nástroje tcpdump, přičemž ukládali pouze velikost paketů a čas mezi nimi.
Nakonec natrénovali tři typy modelů strojového učení (LightGBM, Bi-LSTM a upravenou verzi BERT), aby klasifikovali provoz do dvou kategorií: „citlivé téma“ nebo „ostatní témata“.

Autoři uvádějí: „TLS šifruje obsah, ale ne metadata. A tato metadata stačí k odhadnutí kontextu.„

Výsledek byl alarmující: v 17 z 28 testovaných modelů dosáhly klasifikátory více než 98% přesnosti. Dokonce i v reálných podmínkách – jedna citlivá konverzace mezi 10 000 normálními – umožnily některé modely dokonalou detekci 5-20 % konverzací na cílové téma, a to bez falešně pozitivních výsledků.

Bezpečnostní důsledky a obavy

Objev Whisper Leak vyvolává vážné obavy o soukromí a bezpečnost online komunikace. Ve světě, kde stále více interakcí probíhá prostřednictvím digitálních platforem, je schopnost útočníka odvodit téma konverzace, aniž by měl přímý přístup k jejímu obsahu, alarmující. To je obzvláště znepokojivé v zemích s autoritářskými režimy, kde diskuse o lidských právech, politice nebo aktivismu mohou ohrozit životy občanů.

Takové zranitelnosti by navíc mohli zneužít záškodníci k dezinformačním nebo manipulačním kampaním. Na základě identifikace citlivých témat by mohli cílit reklamu nebo zavádějící obsah na konkrétní uživatele a ovlivňovat jejich názory nebo rozhodnutí.

Možná řešení a zmírnění

Pro řešení této zranitelnosti navrhují výzkumníci několik strategií. Jednou z nich je zavedení šumu do síťového provozu, který by mohl ztížit identifikaci konkrétních vzorů. Další možností je upravit způsob, jakým jazykové modely generují a přenášejí text, například odesíláním dat v dávkách, nikoli postupně.

Video k článku ZDE

Zdroj: Youtube.com

Zkoumá se také použití technik homomorfního šifrování, které by umožnilo provádět operace se zašifrovanými daty bez nutnosti dešifrování. Ačkoli jsou tato řešení stále ve fázi vývoje, představují krok k ochraně soukromí ve stále digitálnějším světě.

Budoucnost soukromí ve věku umělé inteligence

Rozvoj umělé inteligence a rostoucí závislost na digitálních technologiích představují pro soukromí a bezpečnost značné výzvy. S tím, jak se jazykové modely integrují do stále více aspektů našeho každodenního života, je nezbytné, aby vývojáři a společnosti upřednostňovali ochranu údajů uživatelů.

Spolupráce mezi výzkumnými pracovníky, technologickými společnostmi a regulačními orgány bude mít zásadní význam pro vývoj standardů a postupů, které zajistí bezpečnost online komunikace. Pouze společným úsilím můžeme řešit vznikající hrozby a chránit soukromí uživatelů ve věku umělé inteligence.

Zdroje článku: microsoft.com, arxiv.org, www.techzpravy.cz

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Toto slavné americké město by nikdy neexistovalo. Nebýt jediné ženy

Miami je světově proslulé město plné kontrastů, ale jeho původ zná jen málokdo. Založila ho Julia Tuttle –...

Techzpravy.cz|

dnes, 22:00

| 3 min

Používáte špaldovou mouku? Skvěle se hodí i na bábovku

Všichni milujeme tu krásně voňavou, mramorovanou a nadýchanou bábovku od maminky nebo babičky. Není dítka,...

FAJNTIP.cz|

dnes, 22:00

| 2 min

Americký soud povolil ministerstvu spravedlnosti zveřejnit Epsteinovy spisy

Informovaly o tom tiskové agentury, které připomínají, že odtajněné materiály by mohly vrhnout nové světlo...

Zprávy - Aktuálně.cz|

dnes, 21:42

Na co zemřel Patrik Hezucký? Ptají se tisíce lidí... Diskutuje se jedna varianta

Jedním z nejhledanějších dotazů pátečního večera na českém internetu se stala otázka, na co zemřel Patrik...

CR Zprávy|

dnes, 21:31

| 3 min

Hokejisté Brna porazili ve šlágru kola Spartu 3:1, vítězný gól dal Pospíšil

Hokejisté Brna porazili ve 29. kole extraligy Spartu po obratu 3:1. Vítězný gól obhájce titulu dal ve 21....

Brněnská Drbna|

dnes, 21:24

| 3 min

Karlovy Vary porazily Olomouc 4:2 a vyhrály s plným ziskem popáté v řadě

Hokejisté Karlových Varů porazili v utkání 29. kola extraligy Olomouc 4:2. Západočeši rozhodli ve třetí...

Karlovarská Drbna|

dnes, 21:08

| 2 min

Znamení zvěrokruhu, pro která si červenec připravil potíže a těžké životní zkoušky

Každý měsíc je plný nových příležitostí, ale také nepříjemností. Horoskop však některým znamením napoví,...

FAJNTIP.cz|

dnes, 21:00

| 2 min

Ruští vědci mění holuby v dálkově ovládané biologické drony

Ruská společnost Neiry vyvíjí systém, který mění živé holuby v dálkově ovládané bio-drony s mozkovými...

Techzpravy.cz|

dnes, 21:00

| 3 min

Miloval Jágra, navrhl vesmírný koráb a roztančil Prahu. Guru architektury zemřel

Podívejte se na nejvýznamnější stavby od Franka Gehry, který zemřel ve věku 96 let.

Magazín - Aktuálně.cz|

dnes, 20:59

Hamilton zůstává motivovaný a chce ukončit sezónu co nejlépe

V aktuální F1 asi neexistuje nikdo šťastnější z toho, že už za 2 dny skončí sezóna, než Lewis Hamilton. Z...

SvětFormule.cz|

dnes, 20:42

| 1 min

Nataša Gollová Adině Mandlové přebrala milence. Kvůli němu byla za kolaborantku

Z prvorepublikových hereček platila za nejvzdělanější, uměla čtyři jazyky. Publikum ji milovalo hlavně v...

Žena.cz|

dnes, 20:40

Slzy pro Patrika Hezuckého: slavní se s oblíbeným moderátorem dojemně loučí

Smrt Patrika Hezuckého (†55) zarmoutila nejen jeho kolegy z rádia Evropa 2, ale i tisíce posluchačů po celé...

Žena.cz|

dnes, 20:40

Analytici říkají, co by Putina donutilo změnit kurz. Současné ztráty na to nestačí

Ekonomika pod tlakem sankcí, tisíce padlých vojáků každý měsíc - Putin přesto tvrdí, že se Rusko války...

Zprávy - Aktuálně.cz|

dnes, 20:36

Tohle je muž jediné nesmrtelné role, kterou mu už nikdo neodpáře

Karel Fiala měl našlápnuto k velké umělecké kariéře, ale politika mu nekompromisně zkřížila cestu. Přesto...

KINOTIP2.cz|

dnes, 20:30

| 3 min

Smrt Patrika Hezuckého otřásla i politiky. Rakušan, Nacher a Lipavský otevřeli svá osobní svědectví

Zpráva o smrti Patrika Hezuckého zasáhla nejen fanoušky a kolegy z branže, ale i politickou scénu. Lidé,...

Trendy svět|

dnes, 20:14

| 2 min

Zemřel architekt Frank Gehry, autor Tančícího domu

Ve věku 96 let dnes ve Spojených státech zemřel architekt Frank Gehry, který navrhl i slavný Tančící dům na...

Pražská Drbna|

dnes, 20:06

| 1 min

Sobotní inverze do ČR přinese mrholení, mlhy i ojedinělé sněžení

Sobota se ponese ve znamení typické zimní inverze – nízká oblačnost, mlhy a místy i mrznoucí mrholení udrží...

Techzpravy.cz|

dnes, 20:00

| 4 min

Jaká je odpověď na otázku, která vás trápí?

Máte v hlavě otázku, na kterou neznáte odpověď? Ocitáte se v situaci, kterou si nejste zcela jistí? Nevíte,...

FAJNTIP.cz|

dnes, 20:00

| 2 min

Butcher Baker: muž, který si postavil vlastní lovecký svět – a pak v něm uvěznil všechny ostatní (1. díl)

Ve dne tichý pekař z Anchorage. Nenápadný muž s koktáním, rodinou, malým podnikáním a pověstí pracanta. V...

Psychologie zločinu |

dnes, 19:49

| 7 min

Hokejisté Liberce porazili i díky dvěma trefám Musila Třinec a jsou druzí

Hokejisté Liberce zvítězili ve 29. kole v Třinci 5:3 a Oceláře porazili v sezoně na třetí pokus poprvé. V...

Ostravská Drbna|

dnes, 19:47

| 2 min

Doporučujeme

Právě u nás vyšlo

Nová bezpečnostní hrozba: Útok odhalil soukromé debaty s ChatGPT

Slzy pro Patrika Hezuckého: slavní se s oblíbeným moderátorem dojemně loučí

Od nejasného původu a šikany k hlasu, který milovala celá země. Hezucký startoval všední rána napříč generacemi

Kde se víra potkává s pohanstvím? Čerti z Lidečka znovu vylézají na svět

Zemřel americký architekt Frank Gehry, jeden z autorů Tančícího domu v Praze

Trpišovský, nebo utajený cizinec. Zjistili jsme druhé jméno z výběru kouče nároďáku