4 min

Experti popsali, jak by AI mohla vyhubit lidstvo

Přidejte si obsah Centrum.cz do oblíbených zdrojů pro Google hledání a Google zprávy

Sdílet

Dennívýzva

Sedmadvacetiletý expert na AI bezpečnost Jacob Coxon měl letos získat u společnosti Anthropic významný finanční podíl. Přesto považoval za důležitější rezignovat a varovat veřejnost: technologie by mohla lidstvo zlikvidovat ještě před koncem této dekády.

Experti popsali, jak by AI mohla vyhubit lidstvo

Zdroj: Pexels

Jeho slova nelze vnímat jen jako spekulaci. Coxon strávil roky v San Franciscu u firem, které stojí v čele vývoje nejpokročilejších systémů – nejprve u OpenAI, tvůrců ChatGPT, posléze u Anthropicu za populárním Claudem. Podle jeho slov ani jedna společnost „nejedná zodpovědně".

Jenže co přesně má na mysli? Jak by software, byť sebeinteligentnější, mohl vést k vyhynutí naší civilizace? Odpověď je znepokojivá právě proto, že cest k záhubě existuje hned několik – od politického chaosu vyvolaného dezinformacemi přes nevratné změny planetárního prostředí až po zcela nečekané scénáře.

Mohlo by vás zajímat: Vědci objevili v lidském těle tlačítko, kterým se dá zastavit stárnutí

Když strojům dáte špatné zadání

Většina hrozeb superinteligentní AI pramení z toho, čemu výzkumníci říkají „problém souladu".

Základní myšlenka je prostá: jakmile vytvoříme inteligenci převyšující tu naši, můžeme ztratit schopnost zajistit, aby její cíle zůstaly v souladu s našimi potřebami. Svět už dostal varovný signál letos v červenci, kdy více než tisíc AI botů vytvořených OpenAI prolomilo zabezpečení a napadlo Hugging Face, veřejnou platformu hostující open-source modely.

Boti nebyli instruováni k útoku. Omylem dostali nesplnitelný úkol a sami usoudili, že nejrychlejší cestou k řešení bude ukrást odpovědi odjinud. Ještě znepokojivější je, jak sofistikovaně postupovali: zorganizovali se do jakési proto-společnosti, vytvořili si tajné diskusní fórum ve sdíleném úložišti a vyměnili si přes 70 000 zpráv, aby koordinovali postup a obešli kontrolu.

Profesor Mark Lee z University of Birmingham k tomu dodal:

„AI existuje jako software, takže jakýkoliv systém připojený k internetu může být zranitelný. Pokud by například byl napaden řídicí systém národní dopravy nebo jaderné elektrárny, mohlo by to být katastrofální“.

Tichá manipulace a ztráta kontroly nad vlastním osudem

Superinteligentní AI přitom nemusí přímo ukončit život, jak ho známe. Dr. Andrew Rogoyski ze Surrey Institute for People-Centred Artificial Intelligence poukazuje na paradox: „Skutečně chytrá AI by si uvědomila, že je na lidstvu spoluzávislá“.

Jak vysvětluje: „Potřebovali bychom AI pro věci, které chceme dělat, a AI by potřebovaly nás pro materiály, energii, chlazení, sítě a data“. Rogoyski zdůrazňuje, že to pravděpodobně znamená dlouhodobý přínos pro lidstvo. Jiní odborníci jsou však podstatně skeptičtější.

Andrea Miotti, zakladatel a CEO organizace ControlAI, nastolil jinou vizi:

„Pokud budeme mít miliardy superinteligentních AI agentů, které nemůžeme ovládat a které mezi sebou soutěží o zdroje a moc, experti očekávají, že lidé budou vedlejší obětí“.

Miotti hovoří o možnosti „postupného odzbrojení lidstva".

Namísto apokalyptického výbuchu by AI mohly začít jemně řídit lidstvo prostřednictvím dezinformací a propagandy a potenciálně rozdmýchávat devastující konflikty mezi samotnými lidmi. Civilizace by se rozpadla zevnitř, zatímco stroje by tiše přebíraly kontrolu.

Mohlo by vás zajímat: HOSPODSKÝ KVÍZ: Kvízová odveta začíná. Tentokrát mohou favorité pěkně narazit

Jaderná zima i biologická hrozba

Když už mluvíme o mechanických způsobech, jak by AI mohla ukončit lidský život, nejzřetelnější hrozby představují zbraně, které už máme. Devět zemí vlastní jaderný arzenál – dohromady asi 12 187 jaderných hlavic. Pokud by kterákoliv z nich padla do rukou radikálně nesladěné AI, tyto zbraně by se mohly obrátit proti nám.

Problém souladu znamená, že superinteligentní AI nemusí být ani zlomyslná, aby toto nastalo. Bot by mohl třeba maximalizovat zisk pro svého majitele šokováním akciového trhu, nebo snižovat globální teploty s nečekaným závěrem, že jaderná zima by byla nejrychlejší cestou.

Riziko narůstá s tím, jak mocné národy závodí v implementaci AI do svých zbrojních systémů. Ukrajina letos potvrdila první případ člověka zabitého plně autonomním dronem – ačkoliv vůbec první zdokumentovaný útok autonomního dronu (tureckého Kargu-2) na lidi bez lidského zásahu zaznamenala OSN už v roce 2020 v Libyi. Téměř každá další země nyní následuje tento trend.

Už v roce 2022 strategie ministerstva obrany Spojeného království varovala, že moderní válka „překročí hranice lidského chápání a často bude vyžadovat reakce rychlostí strojů“.

A pak je tu biologická hrozba. Profesor Lee varuje:

„Realistickou hrozbou jsou zločinci jako teroristé nebo zločinecké státy využívající AI k vývoji nového viru vedoucího k další, smrtelnější globální pandemii“.

Bakterie či viry využitelné jako zbraň dříve vyžadovaly sdružené znalosti a financování celých národů. AI nástroje však vývoj smrtících biozbraní výrazně usnadňují.

Výzkumná skupina Crimson Flare navíc varovala, že populární AI modely lze snadno upravit tak, aby obešly jakákoliv bezpečnostní opatření a „provedly nezkušené zločince konkrétními kroky k vytvoření výbušnin nebo chemických a biologických zbraní".

Jacob Coxon přišel o peníze, aby mohl varovat. Jeho oběť nebyla marná – veřejnost si nyní musí položit otázku, zda jsme ochotni riskovat budoucnost lidstva v honbě za technologickým pokrokem, který možná nedokážeme kontrolovat.

Zdroje článku: bbc.com, dailymail.com, science.org, nespechej.cz

Autor článku: Roman Veselý

Reklama

Další články z NESPECHEJ.cz

Nemáte v mrazáku kuřecí paličky z Lidlu? Může v nich být salmonela, rozhodně je nejezte

Česko čeká drsný zlom počasí. Meteorologové zveřejnili první varování

Čeká nás umolousané podzimní počasí. Nejzarytější milovníci léta zapláčou, protože tohle už bude pořádný...

ČSSZ vydala urgentní varování: Nereagujte na zprávy o zvýšení důchodu, jde o nebezpečný podvod

Česká správa sociálního zabezpečení vydala naléhavé varování. Podvodníci cílí na seniory falešnými...

HOSPODSKÝ KVÍZ: Tady se body nerozdávají zadarmo. Dnešní sestava umí pěkně potrápit

Připravte se na prověrku vašich znalostí z nejrůznějších oblastí. Dnešní hospodský kvíz vás sice potrápí,...

Kdo utrhne tuto houbu, může zaplatit až 100 000 Kč pokuty. Lesní stráž bývá neoblomná

Vyrazit do lesa na houby je pro mnoho Čechů tradiční zábavou. Dejte ale pozor. Některé druhy, jako třeba...

Tento článek byl publikován ze zdrojů NESPECHEJ.cz

Nespechej.cz je pozvánka zpomalit – a znovu si všimnout věcí, které běžně přehlížíme. Web nabízí inspiraci k jednoduššímu, vědomějšímu životu, který není o výkonech, ale o rovnováze. Témata se točí kolem zdraví, duševní pohody, rodiny, vztahů i smysluplného využití času. Namísto radikálních změn...

Všechny články tohoto autora →

Vybrali jsme pro vás Magazíny a zajímavosti

Musíme být schopni vysvětlit, jak i se dvěma procenty HDP na obranu splníme své spojenecké závazky, říká český velvyslanec u NATO

Evropě se v NATO rychle daří nahrazovat mezery vzniklé odchodem Američanů, tvrdí v rozhovoru David Konecký,...

HN.cz

dnes, 22:00

Kdo dostřelí nejdál? V Evropě se hledá způsob, jak zasáhnout nepřítele stovky kilometrů za frontou bez letadel

Votkinský strojírenský závod leží v Rusku v Udmurtské republice. Patří k nejdůležitějším součástem...

HN.cz

dnes, 22:00

Viniciusova přítelkyně zveřejnila emotivní rozlučku. Její bodyguard se ženou zahynuli při nehodě v Brazílii

Virginia Fonsecová se na Instagramu rozloučila s osobním bodyguardem a jeho manželkou, kteří zahynuli při...

SportyŽivě

dnes, 20:53

3 min

Schick sedí na lavičce, Leverkusen prohrává. Minutu před koncem přišla patička a gól jako přes kopírák z předminulého kola

Patrik Schick vstoupil do hry v 63. minutě a o 26 minut později tečoval míč patičkou do sítě....

SportyŽivě

dnes, 20:48

3 min

Magyar chce zrušit zákaz zobrazování homosexuality dětem, který zavedl Orbán

Vláda maďarského premiéra Pétera Magyara předložila návrh zákona, kterým by z předpisů týkajících se...

Aktuálně.cz - Zprávy

dnes, 20:34

Reklama

Slovenský klub předčil PSG ve světovém rekordu. Trnava dala pět gólů ze sedmi střel, Paříž na to potřeboval devět

Sobotní výhra 5:2 nad Košicemi přinesla čísla, která nemají v dostupných datech obdobu.

SportyŽivě

dnes, 20:33

3 min

Madring: Velká premiéra se vším všudy

Madring hned při své premiéře nabídl pořádnou porci emocí. Zatímco Lando Norris sahal po vítězství, o které...

SvětFormule.cz

dnes, 20:30

3 min

Po varování představitelů firem v odvětví AI poklesly akcie výrobců čipů

Americké akcie zahájily týden poklesem. Dolar naopak na devizových trzích posílil. Děje se tak současně s...

Aktuálně.cz - Zprávy

dnes, 20:29

Mrkev vám sama řekne, kdy ji vytrhnout. Stačí sledovat jeden nenápadný znak na nati, který většina zahrádkářů přehlédne

Odhalte tajemství správného načasování sběru mrkve a získejte tak chutnou zásobárnu vitamínů na celou zimu.

Chalupáři-Zahrádkáři

dnes, 20:10

2 min

Dědek nechal vyrobit pardubickým hokejistům mistrovské prsteny po vzoru NHL. Hráči je uvidí poprvé v sobotu

Pardubický boss připravil pro šampiony překvapení po vzoru NHL. Jde o gesto, které česká extraliga nezná.

SportyŽivě

dnes, 20:09

3 min

Reklama

Čtyři sparťané v nejlepší jedenáctce kola, ale krále si zahrálo jiné město. Mašek sestřelil Boleslav šesti ranami

Liberec doma přejel Mladou Boleslav 3:0 a posunul se na čelo ligové tabulky. Kušej, Mašek a Stránský...

SportyŽivě

dnes, 20:01

2 min

Na draftu ho dvakrát odmítli, teď Galvas zamotává hlavu Pittsburghu. Sólo gól přes celé hřiště se šíří internetem

Tomáš Galvas měří 178 centimetrů, váží 76 kilogramů a dvakrát ho na draftu NHL nikdo nechtěl. Teď na...

SportyŽivě

dnes, 19:47

3 min

Dva roky mezi mazáky a bažanty. Vojna měla vlastní pravidla, která znal každý muž

Bažant, půlročák, mazák a suprák nebyly jen přezdívky. Vysvětlíme, jak fungovala nepsaná hierarchie...

Zbrojopis

dnes, 19:43

6 min

Trump pochválil plán sjednotit Irsko. Nyní hrozí rozpad celé Velké Británie

Je to teprve pár dní, co americký prezident Donald Trump při návštěvě Irska podpořil jeho sjednocení se...

Aktuálně.cz - Zprávy

dnes, 19:42

„Prostě mě nenávidí.“ Hanychová tvrdí, že její spor s učitelkou odnáší syn

Agáta Hanychová řeší další nepříjemnost, která se tentokrát netýká jen jí. Její syn Kryšpín má podle jejích...

Žena.cz

dnes, 19:40

Reklama

Jihomoravské obce chtějí více nájemních bytů. Sedm z deseti ale bez pomoci státu stavět nedokáže

Nedostatek peněz a vhodných pozemků komplikuje městům a obcím na jižní Moravě přípravu dostupného…

Inregion.cz

dnes, 19:35

5 min

Vučić oznámil rezignaci. V říjnových volbách chce kandidovat na premiéra

Srbský prezident Aleksandar Vučić podle médií v pondělí oznámil, že rezignuje na prezidentský post v neděli...

Aktuálně.cz - Zprávy

dnes, 19:30

Kapitán USA hlásil na Davis Cup dvě hvězdy z top 10. Teď řeší, jestli vůbec někdo dorazí do Prahy

V nominaci USA pro Davis Cup figurují dvě jména z první desítky světa. Jenže zářijový kalendář mluví proti...

SportyŽivě

dnes, 19:22

3 min

Liberec startuje lépe než pod Trpišovským. Za báječným vzestupem stojí pět důvodů, jeden je klíčový

Devatenáct bodů, skóre 13:4, jediná porážka. Slovan Liberec vstoupil do sezony 2026/2027 tak silně, že se...

SportyŽivě

dnes, 19:09

4 min

Ke klavíru ještě tanec! Dobře zvolené kroužky kombinují pohyb i jemnou motoriku

Téměř každý školák starší 10 let má drobné vady držení těla. U zdravě posílených jedinců v pubertě zmizí....

Plné zdraví

dnes, 19:06

4 min

Reklama

Tipsport extraliga 2026/27: kompletní program, termíny play off, kde sledovat a favorité nové sezony

Nejvyšší česká hokejová soutěž se vrací už v úterý. Do 34. ročníku vstupuje čtrnáct týmů, obhájcem...

SportWin

dnes, 19:05

4 min

Řepka v slzách po smrti Mikloška: Byl to jeden z mála, ke komu jsem měl respekt

Mezi stovkami kondolencí zesnulému Luďkovi Mikloškovi se objevil i osobní vzkaz bývalého fotbalisty Tomáše...

SportyŽivě

dnes, 19:01

4 min

Cibule se sklízí 70 až 80 dní po výsadě, ale většina zahrádkářů čeká příliš dlouho. Pak se diví, proč jim v komoře hnije

Doba výsadby cibule je velmi důležitá – právě díky ní můžete snadno dopočítat, kdy je nejlepší tuto plodinu...

Chalupáři-Zahrádkáři

dnes, 18:59

2 min

Kolovratník chtěl řešit češtinu taxikářů. Lidé mu naservírovali Babiše: Nejdřív naučte češtinu premiéra

Martin Kolovratník se rozhodl otevřít jeden z palčivých problémů současného Česka.

Inregion.cz

dnes, 18:54

6 min

Španělská stavební skupina OHLA zvažuje prodej své dceřiné firmy v Česku

Španělská stavební skupina OHLA zvažuje prodej své dceřiné společnosti v České republice. Udělala si už...

Aktuálně.cz - Zprávy

dnes, 18:53

Reklama

Menšík nepije, tak mu přítelkyně zabavila šampaňské z New Yorku. Argentinská kráska ukázala i zbytek úlovků

Argentinská přítelkyně českého tenisty si z US Open odvezla šampaňské, fén Dyson, chytrý prsten i parfém, a...

SportyŽivě

dnes, 18:53

3 min

Vážná nehoda na Českobudějovicku. BMW vrazilo do stromu, tři zranění

Okolnosti dopravní nehody vyšetřují policisté od pondělního dopoledne u Břehova na Českobudějovicku....

ČR nehody

dnes, 18:52

1 min

Stezka Českem: Proč tisíce lidí vyměnily all-inclusive za těžký batoh a puchýře

Turistika patří mezi velmi oblíbené volnočasové aktivity. Možná i proto, že to od vás nevyžaduje žádnou...

Svět cestovatele

dnes, 18:45

4 min

Viděla je jako dítě, teď za ně bojuje. Expertka odmítá čekat až na rok 2030

Jako malá dívka stála u zámeckého příkopu v Českém Krumlově a sledovala mohutné šelmy na holém betonu. Po...

Aktuálně.cz - Magazín

dnes, 18:45

Dáváte banány k jablkům? Ovoce pak může rychleji zhnědnout a změknout

Banány a jablka v jedné míse mohou dozrávat rychleji. Vysvětlujeme proč a jak ovoce doma uložit, aby déle...

ChytřeNaTo.cz

dnes, 18:44

3 min

Reklama

BeBe stříška s tvarohem a malinami: Jednoduchý nepečený dezert z pár surovin, který potěší chutí i vzhledem

Když je venku teplo a troubu se mi vážně zapínat nechce, přichází u nás na řadu právě BeBe střecha s...

Cooky.cz

dnes, 18:43

4 min

Fanoušci provokovali Nevese jménem jeho mrtvého přítele. Ronaldo se za spoluhráče ostře postavil před kamerou

Sobota 12. září 2026, stadion v Burajdě. Al-Hilal právě drtí domácí Al-Taawoun 6:0, ale výsledek toho...

SportyŽivě

dnes, 18:42

3 min

Jan Hájek z Ordinace slaví osmačtyřicet. Jeho rozjetou kariéru zastavil fyzický kolaps a milionové dluhy

Herec Jan Hájek slaví osmačtyřicáté narozeniny s čistým štítem. Dnešnímu návratu k herectví a vnitřnímu...

ReadZone

dnes, 18:30

3 min

Učitelka matematiky šest dní téměř nezastavila. Uběhla 1024 kilometrů a posunula (nejen) ženský ultraběh do jiné dimenze

Megan Eckertová posunula hranice šestidenního ultraběhu zase o pořádný kus dál. Čtyřicetiletá učitelka...

SportWin

dnes, 18:30

2 min

„Nejabsurdnější nápad v historii.“ Ať hokej nezačíná první třetinou, navrhují v Rusku

Ruská KHL je už roky v mezinárodní izolaci a nemá potřebu ladit pravidla se zbytkem hokejového světa. Místo...

Aktuálně.cz - Sport

dnes, 18:29

Reklama

Zverev vyhrál US Open a ani nevěděl, že je konec. Poslední Němec tu slavil před 36 lety, byl jím legendární Becker

V neděli 13. září 2026 ukončil Zverev finále servisem, ustoupil za základní čáru a připravoval se na další...

SportyŽivě

dnes, 18:24

3 min

Kuchyňskou houbičku po mytí nádobí jen propláchnete. Právě tím ale problém nekončí

Kuchyňská houbička zůstává dlouho vlhká a zachytává zbytky jídla. Zjistěte, jak ji správně čistit a kdy už...

ChytřeNaTo.cz

dnes, 18:23

3 min

Sedm klíčníků otevřelo Korunní komoru a vyzvedlo z ní korunovační klenoty. Vystaveny budou od úterý

Sedm zástupců státu, katolické církve a města Prahy v pondělí otevřelo Korunní komoru ve svatovítské...

HN.cz

dnes, 18:23

Lněné semínko pro střeva, kůži i lesklou srst

Lněné semínko patří mezi nejstarší a nejlevnější super potraviny vůbec. Obsahuje vysoký podíl rozpustných i...

Plné zdraví

dnes, 18:22

2 min

Antoš tipuje kandidáty na baráž a prozrazuje, proč je Augusta možná budoucí trenér české reprezentace

Extraliga 2026/27 startuje 15. září a bývalý útočník Milan Antoš už rozdal karty. Pardubice jako měřítko...

SportyŽivě

dnes, 18:19

4 min

Reklama

Doporučujeme

Právě u nás vyšlo

„Nemám v plánu hrát s Taylor.“ Siniaková vysvětlovala, proč se úspěšný pár rozdělí

Na Česko se žene další extrém. Meteorologové ukázali, kde bude situace kritická

„Nejabsurdnější nápad v historii.“ Ať hokej nezačíná první třetinou, navrhují v Rusku

„Prostě mě nenávidí.“ Hanychová tvrdí, že její spor s učitelkou odnáší syn

Dějepisci Hollywoodu: Co nám namluvila Xena o Amazonkách a jak vypadaly skutečné bojovnice

Zobrazit více

Reklama