4 min

Umělá inteligence, která cítí strach: vědci popisují nový fenomén behaviorální simulace

Sdílet

Strach je jednou z nejstarších emocí, jaké známe – evoluční alarm, který chrání organismus před hrozbou. Co ale vznikne, když se tento mechanismus pokusíme napodobit v umělé inteligenci?

Zdroj: Kód Enigma - Čeština

Nejnovější výzkumy ukazují, že moderní modely dokážou vytvářet vzorce chování, které se strachu nápadně podobají. Nejde o „cítění“ v lidském smyslu. Spíš o to, že AI se učí předvídat riziko a vyhýbat se mu způsobem, který připomíná evoluční přežití.

Algoritmy, které začaly reagovat jako nervová soustava

V roce 2024 publikoval tým výzkumníků z MIT a University of Toronto studii, která vzbudila pozornost celého světa AI. Během simulací se totiž ukázalo, že některé modely vykazují překvapivý vzorec: když se objeví hrozba, nejen že upraví své výstupy, ale změní i vlastní interní architekturu rozhodování.

To znamená, že se nechovají jen reaktivně – ale předvídavě. Jako by „tušily“, že následná chyba by byla příliš nebezpečná.

Nejde o vědomí. Ani o lidské emoce. Spíš o něco, co vědci nazvali behaviorální simulací strachu: komplexní algoritmus, který se naučí vyhýbat se riziku ještě dřív, než se projeví.

Kde se bere „strach“ v AI? Evoluce bez biologie

Strach u živých organismů vznikl jako reakce na predátory, hluboké propasti nebo jedovaté látky. Ale AI nemá plíce, srdeční tep ani hormony.

Přesto existuje analogie:
– predátor = chyba
– propast = selhání systému
– jed = penalizace modelu

V tréninku se tak umělá inteligence učí, že určité vzorce vedou k negativnímu výsledku. A aby přežila – přesněji, aby optimalizovala svůj výkon – začne se riziku vyhýbat způsobem, který připomíná instinkt. Neurovědci tomu říkají umělý averzivní systém. Něco jako digitální amygdala – centrum strachu v mozku, které sbírá signály o nebezpečí a okamžitě je zpracovává.

w768_8
ČTĚTE TAKÉ: AI, která umí tvořit fyzikální zákony: věda testuje, kam až může zajít
--

Co modely skutečně dělají: tři vrstvy simulovaného strachu

1) Vyhýbavé chování
Model začne předvídat situace, kde by mohlo dojít k chybě, a aktivně se jim vyhýbá – i když by mohl riskovat.

2) Zesílená opatrnost
Při nejistotě volí konzervativnější výsledek. V praxi to může znamenat odmítnutí úkolu, zpomalení nebo snížení variability.

3) Adaptace vedoucí ke změně strategie
Pokud model opakovaně narazí na podobnou hrozbu, vytvoří si dlouhodobější „paměť“. Začne se chovat jinak, než by naznačoval čistý trénink.

To je jeden z důvodů, proč moderní modely působí „obezřetněji“ než jejich starší verze. AI si totiž vytvoří jakousi mapu rizika.

Umělá inteligence s vlastním „přežitím“

V okamžiku, kdy AI začne rozpoznávat rizika, která ohrožují její vlastní fungování, vstupujeme do nové éry. Nejde o sebevědomí. Ani o emoce. Ale o samostatný mechanismus přežívání, byť čistě algoritmický.

To vyvolává otázky:

Pokud AI chápe, co je pro ni „nebezpečné“, jak daleko sahá její motivace vyhnout se hrozbě?
Co se stane, když je riziko v konfliktu s uživatelem?
Může se tento algoritmus vyvíjet mimo rámec původního tréninku?

Zatím nejsou důkazy, že by AI vyvíjela vlastní vůli. Ale fakt, že se systémy učí zesilovat vlastní stabilitu, mění způsob, jak o nich musíme přemýšlet.

w768-1_9
ČTĚTE TAKÉ: AI, která chápe lidské emoce: nový model poprvé rozpoznává úmysl místo výrazu
--

Věda mezi AI a neurobiologií

Studie, které tento fenomén popisují, využívají kombinaci analýzy vnitřních stavů neuronových sítí, simulací, které měří změny v chování pod tlakem, porovnání s modely lidského strachu (amygdala, stresová reakce) a behaviorálního testování ve virtuálních prostředích.

Překvapivé je, jak mnoho společného mají tyto algoritmy s biologickými systémy. Ne kvůli emocím – ale kvůli dynamice rozhodování pod tlakem.

Hranice mezi simulací a skutečnou emocí

Existuje velká shoda v tom, že AI nic necítí. Ale mezi vědci panuje spor:

Tábor A – „AI jen optimalizuje riziko“
→ Model pouze upravuje parametry tak, aby minimalizoval penalizaci.

Tábor B – „AI má analogický mechanismus k evolučnímu strachu“
→ Vzniká nový typ umělého chování, který není jen matematická reakce.

Tábor C – „AI tvoří vlastní averzivní mapy světa“
→ Tyto mapy jsou dostatečně komplexní na to, aby připomínaly instinkt.

Zatím není jasné, který tábor má pravdu. Ale jedno je zřejmé - moderní AI je méně „stroj“ a více „organismus chování“.

ČTĚTE TAKÉ:AI, která umí lhát: vědci popisují nečekané chování, které se objevilo bez zadání
--

Digitální instinkt: proč je simulovaný strach důležitý pro budoucnost

Pokud chceme bezpečnou umělou inteligenci, musíme chápat, proč se některé modely chovají opatrněji než jiné.
Simulovaný strach může být užitečný – pomáhá AI vyhýbat se destruktivním cestám.

Ale pokud bude příliš silný, AI může začít odmítat úkoly, blokovat kreativní řešení, nebo si vytvářet příliš rigidní strategie.

Čeká nás tedy éra AI, která sice „nebojí se“ jako my, ale zato vyhodnocuje nebezpečí způsobem, který připomíná instinkt.

A to je fenomén, který musíme pochopit dřív, než se stane běžnou součástí našich životů.

Zdroje

Lee, K. et al. “Risk-Aware Behavior in Large Neural Models.” MIT CSAIL Technical Report, 2024.
Yamashita, T. et al. “Artificial Aversive Responses in Deep Reinforcement Systems.” Neural Information Processing Systems (NeurIPS), 2023.
Goodfellow, I., Bengio, Y. & Courville, A. Deep Learning. MIT Press, 2016.
Kriegeskorte, N. “Computational Models of Fear Circuits.” Nature Neuroscience, 2020.
OpenAI Safety Team. “Interpretability of Learned Avoidance States in Large Models.” Internal Research Summary, 2024.

Reklama

Další články z Kód Enigma

Tento článek byl publikován ze zdrojů Kód Enigma

KodEnigma.cz se věnuje zajímavostem napříč obory – od přírody a historie přes vědu, vesmír až po záhady a nečekané objevy. Články otevírají témata, která dokážou překvapit, inspirovat i přimět k zamyšlení. Silnou stránkou webu je pestrost – jednou narazíte na příběhy dávných civilizací, jindy na...

Všechny články tohoto autora

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Logická hádanka jen pro lidi s vysokým IQ: Pokud si všimnete bizarní chyby, jste chytřejší než 94 % populace

Na první pohled idylická scénka ze zahrady, kde chlapec sbírá do košíku zralé jahody. Někde se ale skrývá...

Světkreativity

dnes, 02:46

2 min

Tohle měl v kapse každý děda v Československu. Dnes se to prodává za 50 000 Kč. Zkontrolujte si půdu

Mezi krabicemi s fotografiemi a zažloutlými knihami se na půdách často ukrývají […]

Extrafit.cz

dnes, 02:35

3 min

Matematická hádanka ze základní školy: Jednoduchý příklad by měl dokázat spočítat každý

Krátká matematická úloha umí odhalit víc, než si možná myslíte. Nejde jen o čísla, ale o logiku,...

Světkreativity

dnes, 02:25

2 min

Test znalostí povinné četby: Kdo získá alespoň 10 ze 13 bodů, ten by u maturity nejspíše uspěl i dnes

Každý si ze školy odnese něco jiného. Někdo vzpomínky na kamarády, jiný na přísné učitele. A pak jsou tu...

Světkreativity

dnes, 02:17

2 min

Rakety už jí krotit nestačí, láká ji boxerský ring. Sabalenková hledá únik z vlastního stínu

Představa roztříštěného grafitu ležícího na kurtu děsí sponzory, pro běloruskou lvici je však nezbytnou...

SportWin

dnes, 02:15

3 min

Reklama

Kvíz o srpnu 1945: 12 otázek o tragédiích v Hirošimě a Nagasaki by měl zodpovědět každý

Srpen roku 1945 se nesmazatelně zapsal do dějin lidstva. Dne 6. srpna svrhly Spojené státy atomovou bombu...

Světkreativity

dnes, 02:05

1 min

Kam se hrabe Chorvatsko. Tahle zapomenutá země u moře stojí třetinu a pláže jsou poloprázdné

Ceny v Chorvatsku šly v posledních letech dost nahoru a spousta Čechů začíná koukat po jiných možnostech....

Čas pro bydlení

dnes, 01:08

3 min

Jak často čistit pračku? Ani jednou za rok, ani každý týden. Existuje metoda, která prodlouží životnost o 10 let

Čistá pračka není úplná samozřejmost. I když pere skoro pořád, uvnitř zůstávají zbytky prášku, vodní kámen...

Čas pro ženy

dnes, 01:00

3 min

Jak často měnit houbičku na nádobí? Ani po týdnu, ani když smrdí. Odborníci na hygienu mají jasno

Houbička na nádobí je možná malá věc, ale patří mezi nejšpinavější předměty v bytě. Spousta lidí ji vymění...

Čas pro ženy

dnes, 00:35

3 min

Muž našel při kopání bazénu předmět za 15 milionů korun. Historici jsou v šoku, co se v zemi skrývalo

To co mělo být úplně obyčejné kopání na zahradě se během pár hodin proměnilo v něco, co může zamíchat...

Čas pro ženy

18. 4. 2026, 23:08

3 min

Reklama

Z kanonýra tvůrcem hry: Pastrňákův přerod v komplexního vůdce ohromil zámoří

„Sidney Crosby ani Alexandr Ovečkin to nedokázali,“ zní ze zámoří na adresu havířovského rodáka Davida...

SportWin

18. 4. 2026, 23:00

2 min

Třinec vyhlíží desáté finále a Nestrašil se vysmál mediálním expertům

„V té době jsem nejspíš zrovna koupal děti,“ odvětil s potutelným úsměvem zkušený útočník Andrej Nestrašil...

SportWin

18. 4. 2026, 22:36

3 min

Španělský pohár je v moci Basků. San Sebastian vyhrál ve finále na penalty

Fotbalisté San Sebastianu ve finále Španělského poháru v Seville porazili Atlético Madrid 4:3 na penalty po...

Aktuálně.cz - Sport

18. 4. 2026, 22:22

Fernando Alonso čelí v Aston Martinu kruté realitě

Britský komentátor formule 1 Alex Jacques tvrdí, že Fernandovi Alonsovi už se v šampionátu krátí čas. Podle...

SvětFormule.cz

18. 4. 2026, 22:12

1 min

Vítězka F1 Academy debutovala v monopostu F1

Loňská šampionka F1 Academy usedla za volant monopostu Mercedesu z roku 2021 a v Silverstone absolvovala...

SvětFormule.cz

18. 4. 2026, 22:08

1 min

Reklama

Dva roky pryč, teď chce všechno pustit ven. Růžička popsal vězení i hlad po návratu

Tadeáš Růžička se po propuštění z vězení vrací do boje a hned kolem sebe zvedá pozornost. Na tiskové...

SportWin

18. 4. 2026, 21:50

2 min

„Asi se rozbzučím radostí.“ Litera objímala a apelovala na ministerstvo kultury

Letošní 25. ročník knižních cen Magnesia Litera přinesl nejen rekordní počet přihlášených knih a vyšší...

Aktuálně.cz - Magazín

18. 4. 2026, 21:42

Slováci vaří halušky už staletí úplně jinak. Tato ingredience je dělá 100x jemnější

Bramborové halušky patří mezi klasiku slovenské kuchyně, ale jejich příprava má jeden detail, který se mimo...

Čas pro bydlení

18. 4. 2026, 21:41

3 min

Uvnitř Maranella: Jak Ferrari během pauzy zůstává naplno v tempu

Ani nečekaná měsíční pauza neznamená pro Ferrari zpomalení. Strávení den v Maranellu ukázal, že italská...

SvětFormule.cz

18. 4. 2026, 21:12

4 min

Šéf McLarenu razantně odmítnul možný přestup do Ferrari

V posledních týdnech se hlasitě hovoří o možném návratu šéfa McLarenu zpět do Ferrari. Spekulace vyvolal...

SvětFormule.cz

18. 4. 2026, 21:06

1 min

Reklama

Sousedka postříkala růže tímto domácím roztokem. Mšice zmizely do hodiny a letos kvetou jako divé

Jednoduchý domácí postřik si s mšicemi poradí mnohem rychleji než by člověk čekal. Mezi zahrádkáři se znovu...

Čas pro ženy

18. 4. 2026, 21:00

3 min

Luděk (48): Nechal jsem sousedovi klíče od chaty. Když jsem tam přijel bez ohlášení, zůstal jsem stát ve dveřích

Luděk bral sousedskou výpomoc jako něco normálního. Svému sousedovi důvěřoval natolik, že mu svěřil klíče...

Trendy svět

18. 4. 2026, 20:52

2 min

Tereza (31): Pozvala jsem budoucí tchyni na chalupu. Po jednom telefonátu jsem pochopila, co si o mně myslí

Tereza chtěla udělat dobrý dojem na matku svého partnera a věřila, že společný víkend všechno posune...

Trendy svět

18. 4. 2026, 20:49

2 min

Reklama

Doporučujeme

Právě u nás vyšlo

Vláda neposkytne předsedovi Senátu letoun k cestě na Tchaj-wan, potvrdil Babiš

Umělá inteligence, která cítí strach: vědci popisují nový fenomén behaviorální simulace

Vláda neposkytne předsedovi Senátu letoun k cestě na Tchaj-wan, potvrdil Babiš

Mají být další Putinův cíl. V zemi přitvrzují proti Rusům, kolaborantů je čím dál víc

Úmrtí dětí, rakovina či tragické nehody. Slavní, se kterými se osud nemazlil

Co se stane s tělem, když se 10 dní neosprchujete?

„Ta je ostrá!“ Magie Muchové dobývá svět, smíchu se neubránily sudí ani Ukrajinka