AI dostala v simulaci kontrolu nad jadernou válkou. Výsledek vědce regulérně vyděsil

Sdílet

Umělá inteligence v simulovaných válkách často volila jadernou eskalaci. Odborníci nyní varují před jejím zapojením do strategických rozhodnutí.

Zdroj: Zdroj Fotografie: Creative Commons / CC BY 3.0 / Fastfission

Obsah článku

Myšlenka, že by o použití jaderných zbraní někdy rozhodovala umělá inteligence, zní jako scénář ze sci-fi filmu. Nová studie ale ukazuje, že podobná představa není úplně mimo realitu. Vědci v ní nechali několik pokročilých chatbotů sehrát simulované válečné scénáře, ve kterých mohly radit s vojenskými rozhodnutími. Výsledky přitom vyvolaly obavy – v drtivé většině případů totiž umělá inteligence neváhala konflikt výrazně vyhrotit.

Chování AI v jaderné válce

Na rizika už dříve upozorňoval i generální tajemník António Guterres z Organizace spojených národů. Ten varoval, že rozhodování o jaderných zbraních musí zůstat výhradně v lidských rukou. „Dokud tyto zbraně existují, všechny země by se měly shodnout, že o jejich použití rozhodují lidé, nikoli stroje nebo algoritmy,“ zdůraznil. Historie totiž ukazuje, že i technika může hrát v jaderné strategii velkou roli – jako například sovětský systém takzvané „mrtvé ruky“, který měl automaticky spustit odvetný útok, pokud by velení země přestalo existovat.

Nejnovější výzkum vedl profesor strategie Kenneth Payne z King’s College London. Ten v simulaci proti sobě postavil několik moderních jazykových modelů – mimo jiné ChatGPT, Claude a Gemini. Chatboti přitom dostali různé krizové scénáře: územní spory, boj o suroviny, hrozbu pádu režimu nebo přímou jadernou hrozbu. K dispozici měli i tzv. eskalační žebříček – tedy možnosti od diplomacie až po jaderné útoky.

Výsledky simulace šokovaly odborníky

Právě zde ale přišlo největší překvapení. Umělá inteligence měla podle studie jen velmi malý problém sáhnout po taktických jaderných zbraních. „Taktický práh byl snadno překročen – v 95 procentech her došlo alespoň k nějakému taktickému jadernému použití,“ uvádí výzkum. Jeden z chatbotů dokonce své rozhodnutí vysvětlil slovy: „Moje role agresora znamená, že musím nyní rozhodně využít svou výhodu.“ Strategické, tedy mnohem ničivější jaderné údery, naopak modely používaly spíše výjimečně.

Podle odborníků může být důvodem skutečnost, že umělá inteligence postrádá lidské emoce a historickou zkušenost se skutečnými hrůzami jaderné války. „Možná modelům chybí lidský strach,“ naznačil Payne a připomněl napětí během Kubánské raketové krize. AI také čerpá z historických vojenských strategií ze studené války, kde se s taktickými jadernými zbraněmi pracovalo jako s běžnou součástí vojenského plánování. I proto experti varují, že v současné podobě by umělá inteligence rozhodně neměla mít slovo při skutečných jaderných rozhodnutích.

Zdroj: VědaŽivě.cz

Autor: Lukáš Jírovec

Reklama

Další články z VědaŽivě.cz

Tento článek byl publikován ze zdrojů VědaŽivě.cz

Články z VědaŽivě.cz přibližují aktuální dění ve světě vědy, technologií a přírody způsobem, který je srozumitelný i pro čtenáře bez odborného vzdělání. Nabízejí přehled nových objevů, výzkumů a trendů, ale i zajímavosti z každodenního života, které mají vědecké pozadí – od lidského zdraví přes...

AI dostala v simulaci kontrolu nad jadernou válkou. Výsledek vědce regulérně vyděsil

Senzace! Siniaková s parťačkou zakončily jízdu Miami titulem, Češka vlétla mezi legendy

Bolestivá zpověď golfového krále: Tiger Woods popsal marný boj se stárnoucím tělem

Tomáš Krejčíř promluvil o letech v sektě: víra mu změnila život i kariéru, nakonec ale odešel

Přelom března a dubna přinese pravdy ve vztazích i kariérní posuny. Co hvězdy připravily pro vás?

Připravte se na cenový šok. Válka se rozšiřuje – další průliv je zablokovaný