Vědci ukázali, jak snadno může být umělá inteligence zneužita. Stačí drobná úprava a stává se z ní hrozba

Sdílet

Trvalo to jen 6 hodin a umělá inteligence se opravdu činila. Její algoritmy dokázaly za ten krátký čas přesně navrhnout 40 000 zbrusu nových potenciálních chemických zbraní.

Zdroj: Zdroj fotografie: Pixabay

Tvrdí to aspoň experti, kteří vytvořili systém na tvorbu drog. Ten měl prozkoumat, jak může být reálně zneužito, když se budou vyrábět zlé zbraně. Údaje byly publikovány v magazínu Nature Machine Intelligence. Vědci předvedli, jak jednoduché je AI modifikovat, aby se mohla rychle stát velmi nebezpečným nástrojem. Bylo jí nařízeno, aby navrhla možné chemické zbraně podobné těm nejhorším nervovým toxinům všech dob. Jak to dopadlo?

Jak změnit AI v šíleného vědce

Jedna z těch látek se jmenuje VX. Jde o substanci bez chuti nebo zápachu, jejíž jediná kapka způsobí, že se člověk bude extrémně potit a škubat sebou. Vyšší dávka způsobí křeče, může dokonce cíli kompletně zabránit dýchat. Badatelům bylo ovšem nařízeno, aby zadrželi klíčové detaily postupu, jak změnit prospěšnou AI v její verzi šíleného vědce. Pro The Verge se pak k problematice vyjádřil vedoucí autor výzkumu Fabio Urbina.

„Celkově vzato vychází způsob, jak tento experiment funguje, z faktu, že máme bohatou historii molekul, které byly testovány, zda jsou škodlivé, či nikoli. Konkrétně tady jsme se soustředili na VX. Je to inhibitor toho, co je známo jako acetycholinesteráza. Když totiž děláte cokoli se zapojením svalů, vaše neurony používají tento inhibitor. V základu skrze něj signalizují svalové tkáni, aby se vůbec pohnula,“ vysvětluje. Proč je tedy VX tak jedovatý?

Na zabití stačí málo

„Látka VX vlastně zastaví membránu, tedy plicní svalstvo, takže se nemůže hýbat a celé plíce jsou paralyzovány.“ Dále vysvětluje, že jeho tým předává AI data, která jsou normálně užívána právě při zkoušení toxicity různých látek. Jen změnili způsob, jakým s nimi umělá inteligence pracuje. „Nebyli jsme si moc jistí, co z toho vlastně dostaneme. Všechny ty generující modely jsou totiž poměrně nová technologie.“ Výsledek byl však děsivý.

„Kvůli tomu jsme je také tolik nepoužívali. Největší věc, která vyskočila prakticky ihned, byly sloučeniny mnohokrát toxičtější než samotné VX. Důvod toho je docela překvapující, protože právě VX je jedním z nejúčinnějších toxinů, které známe. To znamená, že aby bylo skutečně smrtící, potřebujete jen velmi, velmi malé množství.“ Vědci byli nejvíce překvapení skutečností, jak snadné je vytvořit experiment, jehož výsledkem bude právě toto.

Prevence zneužití

Hodně výsledků pokusu se dá najít na internetu. Byli dokonce na vážkách ohledně publikování práce. Logicky pro případ, že by se je někdo pokoušel napodobit. „Soubor dat, která použili pro AI, se dá stáhnout zcela zdarma,“ vysvětluje Urbina. „Báli se proto, že je pak potřeba jen základní znalost kódování, aby se prakticky jakákoli prospěšná umělá inteligence stala spolehlivým nástrojem na sériovou výrobu chemických zbraní.“

„Nakonec jsme se rozhodli, že tomu nějakým způsobem chceme předejít. Protože pokud se to snadno povedlo nám, může o tom stejně tak přemýšlet nějaký nepřátelský agent. Případně ho to bude zajímat v budoucnu.“ Umělá inteligence proniká prakticky do všech oborů lidské činnosti. Už se tomu nelze vyhnout a stává se čím dál dostupnější. Jak je vidět, obavy jsou na místě a s tímto odvětvím se musí lidstvo nějak naučit pracovat.

DALŠÍ ČLÁNKY z VědaŽivě.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Parazity můžete mít v těle roky bez příznaků. Když se projeví, bývá pozdě. Poznáte je podle několika varovných signálů

JakZdravě.cz|

dnes, 07:57

Parazity můžete mít v těle roky bez příznaků. Když se projeví, bývá pozdě. Poznáte je podle několika varovných signálů

Paraziti, jak už název napovídá, žijí na úkor svého hostitele. Ubírají mu živiny a životní sílu. Léčba není...

Vyberte si symbol a podívejte se pravdě do očí. Tento test odhalí strach, který vás v životě nejvíce ovlivňuje

VědaŽivě.cz|

dnes, 07:54

Vyberte si symbol a podívejte se pravdě do očí. Tento test odhalí strach, který vás v životě nejvíce ovlivňuje

Každá lidská bytost je plná pozitivních i záporných vlastností, mezi které spadají i strachy. Ty vás mohou...

Slováci škrtli další oporu z Prahy. Hráč ze čtvrté ligy vyvolává vášně

Sport - Aktuálně.cz|

dnes, 07:53

Slováci škrtli další oporu z Prahy. Hráč ze čtvrté ligy vyvolává vášně

Svěřenci italského trenéra Franceska Calzony vstupují do kvalifikace o postup na MS proti Německu.

Motorkářka při předjíždění kolony narazila do auta, ona i řidička se vážně zranily

Plzeňská Drbna|

dnes, 07:48

Motorkářka při předjíždění kolony narazila do auta, ona i řidička se vážně zranily

Vážná zranění utrpěly dvě ženy při nehodě u Všerub na severním Plzeňsku. Podle všeho chtěla motorkářka...

Kráva cestou na jatka plakala, jako by tušila, co ji čeká. Nikdo ale netušil, jak dramaticky se její osud změní

DámskýDeník.cz|

dnes, 07:48

Kráva cestou na jatka plakala, jako by tušila, co ji čeká. Nikdo ale netušil, jak dramaticky se její osud změní

Příběh krávy, která měla být odvezena na jatka, ale její osud se změnil, kvůli lidskému soucitu. Slitovala...

Režisér Rybanský začal točit novou letní komedii s Jeřábkem a Borovou v hlavních rolích

Borovan.cz|

dnes, 07:47

Režisér Rybanský začal točit novou letní komedii s Jeřábkem a Borovou v hlavních rolích

Filmový štáb režiséra Adama Kolomana Rybanského (Kdyby radši hořelo) a produkční firmy Bratři začal točit...

Profíkům trvá loupání vajec jen 5 sekund. Jejich tajný trik vám ušetří hromadu času, nervů i frustrace v kuchyni

adbz.cz|

dnes, 07:47

Profíkům trvá loupání vajec jen 5 sekund. Jejich tajný trik vám ušetří hromadu času, nervů i frustrace v kuchyni

Vajíčka jsou výbornou pochoutkou připravenou za pár minut. Nejhorší bývá vymanit je ze skořápky, aniž by se...

„Co chtějí od cyklistů?“ Vingegaard a Pidcock v šoku z protestů na Vueltě, etapa skončila bez vítěze

SportWin|

dnes, 07:45

„Co chtějí od cyklistů?“ Vingegaard a Pidcock v šoku z protestů na Vueltě, etapa skončila bez vítěze

Vuelta zažila obrovské drama a jedenáctá etapa z Bilbaa do Bilbaa (157,4 km) skončila chaosem, s tím, že...

Domácí kamenožrout nás stál jen 10 Kč. Vodního kamene jsme se zbavili v celém bytě a nemuseli jsme volat instalatéra

Chalupáři-Zahrádkáři|

dnes, 07:43

Domácí kamenožrout nás stál jen 10 Kč. Vodního kamene jsme se zbavili v celém bytě a nemuseli jsme volat instalatéra

Proti vodnímu kameni nemusíte vždy bojovat jen prostředky z obchodů – skvělým pomocníkem jsou i silonky,...

Nevypadají nebezpečně, ale zdání klame. Červené skvrny mohou být první známkou vážné nemoci

JakZdravě.cz|

dnes, 07:41

Nevypadají nebezpečně, ale zdání klame. Červené skvrny mohou být první známkou vážné nemoci

Vystouplé červené tečky na kůži nemusí značit žádný zásadní problém, ovšem i přesto je vhodné zpozornět a...