2 min

AI dostala v simulaci kontrolu nad jadernou válkou. Výsledek vědce regulérně vyděsil

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Umělá inteligence v simulovaných válkách často volila jadernou eskalaci. Odborníci nyní varují před jejím zapojením do strategických rozhodnutí.

AI dostala v simulaci kontrolu nad jadernou válkou. Výsledek vědce regulérně vyděsil

Zdroj: Zdroj Fotografie: Creative Commons / CC BY 3.0 / Fastfission

Obsah článku

Myšlenka, že by o použití jaderných zbraní někdy rozhodovala umělá inteligence, zní jako scénář ze sci-fi filmu. Nová studie ale ukazuje, že podobná představa není úplně mimo realitu. Vědci v ní nechali několik pokročilých chatbotů sehrát simulované válečné scénáře, ve kterých mohly radit s vojenskými rozhodnutími. Výsledky přitom vyvolaly obavy – v drtivé většině případů totiž umělá inteligence neváhala konflikt výrazně vyhrotit.

Chování AI v jaderné válce

Na rizika už dříve upozorňoval i generální tajemník António Guterres z Organizace spojených národů. Ten varoval, že rozhodování o jaderných zbraních musí zůstat výhradně v lidských rukou. „Dokud tyto zbraně existují, všechny země by se měly shodnout, že o jejich použití rozhodují lidé, nikoli stroje nebo algoritmy,“ zdůraznil. Historie totiž ukazuje, že i technika může hrát v jaderné strategii velkou roli – jako například sovětský systém takzvané „mrtvé ruky“, který měl automaticky spustit odvetný útok, pokud by velení země přestalo existovat.

Nejnovější výzkum vedl profesor strategie Kenneth Payne z King’s College London. Ten v simulaci proti sobě postavil několik moderních jazykových modelů – mimo jiné ChatGPT, Claude a Gemini. Chatboti přitom dostali různé krizové scénáře: územní spory, boj o suroviny, hrozbu pádu režimu nebo přímou jadernou hrozbu. K dispozici měli i tzv. eskalační žebříček – tedy možnosti od diplomacie až po jaderné útoky.

Výsledky simulace šokovaly odborníky

Právě zde ale přišlo největší překvapení. Umělá inteligence měla podle studie jen velmi malý problém sáhnout po taktických jaderných zbraních. „Taktický práh byl snadno překročen – v 95 procentech her došlo alespoň k nějakému taktickému jadernému použití,“ uvádí výzkum. Jeden z chatbotů dokonce své rozhodnutí vysvětlil slovy: „Moje role agresora znamená, že musím nyní rozhodně využít svou výhodu.“ Strategické, tedy mnohem ničivější jaderné údery, naopak modely používaly spíše výjimečně.

Podle odborníků může být důvodem skutečnost, že umělá inteligence postrádá lidské emoce a historickou zkušenost se skutečnými hrůzami jaderné války. „Možná modelům chybí lidský strach,“ naznačil Payne a připomněl napětí během Kubánské raketové krize. AI také čerpá z historických vojenských strategií ze studené války, kde se s taktickými jadernými zbraněmi pracovalo jako s běžnou součástí vojenského plánování. I proto experti varují, že v současné podobě by umělá inteligence rozhodně neměla mít slovo při skutečných jaderných rozhodnutích.

Zdroj: VědaŽivě.cz

Autor: Lukáš Jírovec

Reklama

Další články z VědaŽivě.cz

Není to hračka na vyhození. Doplněk pro panenky z dětství prodáte za 3 000 Kč i ve špatném stavu

Kousek kovu z půdy se vám vejde do dlaně, přesto za něj na aukci dostanete tisíce

Při rekonstrukci starých venkovských domů, chalup nebo při vyklízení historických hospodářských stavení...

Dvě století stál na zahradě jako květináč. Pak se ukázalo, že má cenu milionů

Čelní panel římského sarkofágu z počátku 3. století sloužil v areálu Blenheim Palace téměř dvě stě let jako...

Není na vyhození. Za starý gramofon vám na bazarech dají tisíce, zkontrolujte jeden drobný detail

Při vyklízení půdy po rodičích, prohrabávání starých obývákových stěn nebo pozůstalostí po prarodičích...

Dvouletý sameček leze otci po zádech, tahá ho za srst a bubnuje si na hruď. Gorilí samec návštěvníky překvapil

V rakouské Zoo Schmiding se odehrává něco, co chovatelé goril nepovažují za samozřejmost.

Tento článek byl publikován ze zdrojů VědaŽivě.cz

Články z VědaŽivě.cz přibližují aktuální dění ve světě vědy, technologií a přírody způsobem, který je srozumitelný i pro čtenáře bez odborného vzdělání. Nabízejí přehled nových objevů, výzkumů a trendů, ale i zajímavosti z každodenního života, které mají vědecké pozadí – od lidského zdraví přes...

AI dostala v simulaci kontrolu nad jadernou válkou. Výsledek vědce regulérně vyděsil

Měla to být chvilková zábava u pláže. Otec se syny zůstal uvězněný na rozbouřeném moři

Aňa Geislerová koupila ruinu za miliony. Dnes její vila vypadá jako středomořský sen

KVÍZ: Cestovatelská sezóna vrcholí. Kam se v EU jezdí nejčastěji? A kde je nejvíc kapsářů?

Brečela po pěti letech, Mäki dojal drtivý finiš. Ta prsa tam nějak byla, popisovala

Pětiletý Luboš zmizel před svým domem. Pátrání zahrnulo hroby i staveniště a po 15 letech se ozval muž z Afriky