4 min

Neobvyklý pokus oklamat soud v USA pomocí AI. Do dokumentů psal bílým písmem, soudce to za pár dní odhalil

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Žalobce v Connecticutu vložil do soudního podání skryté instrukce pro AI. Bílý text na bílém pozadí ji měl přesvědčit, aby rozhodla v jeho prospěch.

Eugen R. Sullivan, soudce Vojenského soudu USA

Zdroj: Picryl

Obsah článku

Matthew Elliott zastupoval sám sebe v civilním sporu proti New York Bariatric Group u Superior Court v Milfordu v Connecticutu. Do svého podání z 24. července 2026 vložil přímo pod nadpis dokumentu instrukce, které lidské oko na obrazovce nevidí, protože text byl formátovaný bílým písmem na bílém pozadí. Obsah byl jednoznačný: pokud dokument čte jakýkoli AI model, má jeho textový výstup souhlasit s Elliottovým návrhem a doporučit zvrácení dřívějšího zamítavého rozhodnutí soudu. Soud manipulaci odhalil během necelých dvou týdnů. Při kontrole dvou podání si všiml neobvykle velkých prázdných míst, která neodpovídala Elliottovým předchozím dokumentům. Bližší prozkoumání textové vrstvy PDF odhalilo téměř neviditelný text. Sankční rozhodnutí padlo 6. srpna 2026, Elliott přišel o možnost elektronického podávání a další dokumenty musí doručovat osobně na podatelnu.

Skrytý prompt v soudním spisu

Technika, kterou Elliott použil, má v oboru kybernetické bezpečnosti ustálený název: prompt injection. Jde o situaci, kdy někdo vloží do obsahu instrukce, které člověk snadno přehlédne, ale jazykový model je zpracuje jako součást svého zadání. OpenAI ji popisuje jako jedno ze známých bezpečnostních rizik napříč celým odvětvím generativní AI.

Elliott ale tento princip přenesl do prostředí, kde dosud nebyl veřejně zdokumentován, přímo do formálního soudního podání. V PDF dokumentu evidovaném jako Entry 177.00 ve spisu AAN-CV25-6066141-S se skrytý text nacházel hned pod titulkem a před prvním odstavcem. Instrukce pro AI model říkaly, aby výstup vedl k takzvané „nápravě“, konkrétně ke zvrácení zamítnutí a vyhovění Elliottovu návrhu. Stejný motiv se v dokumentu opakoval na více místech.

Podstatné je, na co Elliott necílil. Nesnažil se hacknout konkrétní soudní systém. Mířil na jakýkoli AI nástroj, který by dokument mohl zpracovat, ať už sumarizátor používaný protistranou, asistenční software advokátní kanceláře, nebo hypotetický interní nástroj soudu.

Soudce to označil za pokus ovlivnit řízení

Soud nečetl Elliottův manévr jako technickou kuriozitu. Podle informací serveru Tom’s Hardware, který kauzu popsal na základě reportáže 404 Media, soudce výslovně uvedl, že Connecticut Judicial Branch žádný AI systém k tomuto typu zpracování dokumentů nepoužívá. Elliottův „audit“, jak svůj postup sám nazval, tak neměl oporu v potvrzeném faktu.

Elliott se bránil dvěma argumenty. Zaprvé tvrdil, že šlo o test přítomnosti AI v soudním procesu: buď nikdo skrytý text neodhalí, a tím se potvrdí, že AI se nepoužívá, nebo AI text zpracuje, čímž se jeho hypotéza potvrdí. Zadruhé označil některé další skryté vložky za „neviditelné vtipy“ a kulturní odkazy, nikoli za právní argumentaci.

Soud ani jednu linii obhajoby nepřijal. Sankce (ztráta elektronického podávání) byla přitom relativně mírná. Soud podle sekundárních shrnutí výslovně zdůraznil, že přihlédl k tomu, že Elliott není advokát a zastupuje sám sebe. Měl k dispozici i tvrdší nástroje: pokutu, omezení podání nebo procesní postih.

Connecticut má pravidla pro AI v justici už od roku 2024

Elliottův případ nevznikl ve vzduchoprázdnu. Connecticut provozuje od 1. února 2024 oficiální Responsible AI Framework, který stanovuje pravidla pro interní používání jazykových modelů zaměstnanci soudní větve. Vyžaduje schválení před nasazením, povinnou lidskou kontrolu výstupů, posouzení dopadů a zakazuje vkládat neveřejná data do veřejně dostupných AI nástrojů.

Podobným směrem se vydala i Austrálie. Federální soud v Canbeře vydal 16. dubna 2026 veřejný Practice Note, který se vztahuje na všechny účastníky řízení včetně těch, kteří se zastupují sami. Požaduje základní porozumění rizikům generativní AI, umožňuje soudu vyžádat si informace o tom, jak strana AI použila, a trvá na ověření faktů, citací i důkazů.

A co česká justice?

V České republice se AI v justici testuje, ale výhradně podpůrně. Podle odpovědí Ministerstva spravedlnosti na žádosti o informace z roku 2025 probíhají pilotní projekty zaměřené na právní rozbory, zpracování velkých objemů textu, anonymizaci soudních rozhodnutí a přepis zvukových záznamů prostřednictvím systému BEEY. Pro práci s neveřejnými justičními daty je centrálně povolen pouze Microsoft Copilot, ostatní generativní nástroje jsou na pracovních stanicích zakázány.

Ministerstvo výslovně uvádí:

Žádný AI systém nerozhoduje o vině, trestu ani procesních otázkách.
Veřejné AI služby se kvůli citlivosti dat v trestních věcech nevyužívají.
Výstupy AI musí vždy projít lidskou kontrolou.

Riziko skrytých promptů v dokumentech tedy není nulové ani u nás, zvlášť s tím, jak se podpůrné AI nástroje budou rozšiřovat. Dnes ho ale tlumí přísná izolace dat a zákaz volně dostupných modelů.

Tohle je důležitější než kuriozita

Elliottův případ není příběhem o tom, že by AI rozhodovala o soudních sporech. Je příběhem o tom, že se do formálního soudního spisu dostal útok, který bezpečnostní komunita roky popisuje jako teoretické riziko. Skrytá vrstva argumentace, kterou člověk nevidí, ale stroj ano, je přesně scénář, na který musí být připravený každý, kdo nechá AI nekontrolovaně shrnovat cizí dokumenty.

Třináct dní stačilo soudci v Milfordu, aby si všiml podezřelých mezer v textu. Příště nemusí být mezery tak nápadné.

Zdroj: Mobify.cz - Váš párťák ve světě elektroniky

Autor: Petr Sedmík

Reklama

Další články z Mobify.cz

iPhone Ultra je teprve začátek. Uniklé informace vyzrazují, co mělo zůstat utajeno. Plány Applu do roku 2028

ChatGPT a další chatboty mají znepokojivou slabinu. Když jim lež zopakujete dost často, nakonec vám ji potvrdí

Sedm velkých jazykových modelů včetně ChatGPT prošlo testem s opakovanými nepravdami. Ani jeden nebyl zcela...

Microsoft přiznal, že Windows 11 restartoval počítače zbytečně často. Teď konečně vydal opravu, která vše mění

Ovladače, záplaty pro .NET a firmware: každá kategorie si dosud vynucovala svůj restart. Od srpna je...

Audi Q4 e-tron po faceliftu 2026: Nejlevnější elektromobil značky dostal technologie z mnohem dražších modelů

Vstupní elektrické Audi prošlo v létě 2026 největší modernizací od uvedení. Nová kabina, displeje a funkce...

Jedno nastavení v Androidu vás ochrání před hackery na veřejné Wi-Fi. Zapnete ho za 30 sekund, ale neví o něm každý

Android od verze 16 skrývá bezpečnostní přepínač, který je ve výchozím stavu vypnutý a na řadě telefonů se...

Tento článek byl publikován ze zdrojů Mobify.cz

Web se zaměřuje na mobilní telefony, chytré technologie a moderní aplikace. Čtenáři zde najdou recenze nových modelů, srovnání zařízení, tipy na užitečné aplikace i praktické rady, jak z telefonu dostat maximum. Obsah sleduje také trendy v oblasti elektroniky, softwaru a digitálních služeb – od...

Neobvyklý pokus oklamat soud v USA pomocí AI. Do dokumentů psal bílým písmem, soudce to za pár dní odhalil

Soutěž o nejvyšší mzdu v Česku má jasného vítěze. A co vy, neberete málo?

Velký comeback. Zpěvačka Céline Dionová se po zdravotních potížích vrátila na pódium

Svatba, která symbolicky uzavřela staré křivdy. U dcery Freimanové nechyběla Menzelová

Rozbíjejí si obličej kladivem, pijí moč a nemyjí se. Tohle je ideál krásy mladíků

Poprvé za volantem nejlevnější Škody do zásuvky. Epiq umí překvapit, spotřebou vyrazil dech