CENTRUM.CZ > Techzpravy.cz > dnes, 12:05

Zastavte vývoj, dokud je čas: Odborníci a veřejnost varují před nebezpečnou AI

| 4 min

Sdílet

Iniciativa, kterou podporuje Future of Life Institute, odráží neobvyklé spojenectví vědců, politiků a známých osobností napříč ideologickým spektrem.

Zastavte vývoj, dokud je čas: Odborníci a veřejnost varují před nebezpečnou AI

Zdroj: [email protected] / Depositphotos

Letos vám nadělíme víc než Ježíšek!

Hrajte s námi o předplatné HBO, knížky i další ceny každý týden, ale hlavně o velkou vánoční výhru 15. prosince - 300.000 Kč.

Vše o soutěži Pravidla soutěže

Iniciativa, kterou podporuje Future of Life Institute, odráží neobvyklé spojenectví vědců, politiků a známých osobností napříč ideologickým spektrem.

Společenské znepokojení v souvislosti s rychlým rozvojem umělé inteligence (AI) již není čistě technickou debatou, ale celosvětovým problémem. A na důkaz toho více než 800 osobností z vědecké, politické, náboženské a kulturní sféry. Mezi nimi průkopníci umělé inteligence Geoffrey Hinton a Yoshua Bengio, spoluzakladatel společnosti Apple Steve Wozniak, bývalý stratég Donalda Trumpa Steve Bannon nebo princ Harry a Meghan Markle podepsalo otevřený dopis vyzývající k zastavení vývoje „superinteligence„, prozatím hypotetické formy umělé inteligence schopné překonat člověka ve všech kognitivních úkolech.

V dokumentu se sešly hlasy téměř ze všech koutů ideologického spektra: od konzervativců, jako je Steve Bannon (bývalý šéf štábu Donalda Trumpa) a Glenn Beck, až po pokrokáře, jako je Susan Riceová (bývalá velvyslankyně USA při OSN za Obamy), nebo náboženské osobnosti, jako je mnich a poradce papeže pro otázky AI Paolo Benanti. Připojilo se také pět nositelů Nobelovy ceny, podnikatel Richard Branson a herec Stephen Fry.

Iniciativa, kterou prosazuje Future of Life Institute (FLI), nevyžaduje symbolickou přestávku: požaduje úplný zákaz vývoje superinteligentních systémů, který by měl být zrušen až po dosažení „širokého vědeckého konsensu“ o jejich bezpečnosti a ověřitelné podpory veřejnosti.

Mohlo by vás zajímat: Apple konečně pochopil, že ne každý chce průhledný cirkus na displeji. Liquid Glass se mění

Propast mezi společností a velkými technologickými společnostmi

Dopis se shoduje se zveřejněním zprávy Future of Life Institute, která ukazuje masivní nespokojenost Američanů s rychlostí vývoje umělé inteligence a dochází k závěru, že existuje „jasný rozpor mezi deklarovaným posláním velkých společností zabývajících se umělou inteligencí a přáními veřejnosti„.

AI companies are racing to build superintelligent AI, despite its many risks.

Let's take our future back.

Sign the Superintelligence Statement and join the growing call to ban the reckless development of superintelligence, until it can be made safely.#KeepTheFutureHuman pic.twitter.com/Hx8WBC1byI

— Future of Life Institute (@FLI_org) October 22, 2025

Fyzik Anthony Aguirre, výkonný ředitel FLI, v komentáři pro NBC uvedl, že problém není jen technický, ale také demokratický:

„Tuto cestu si zvolily korporace a ekonomický systém, který je pohání, ale téměř nikdo se nezeptal zbytku lidstva, zda to chceme.“

Zatímco tedy korporace jako OpenAI, Google, Meta a xAI soutěží o dosažení takzvané AGI (neboli „obecné AI“), občané žádají opatrnost, transparentnost a kontrolu. Z průzkumu, který byl proveden mezi 29. zářím a 5. říjnem 2025, vyplývá, že

64 % dospělých se domnívá, že superinteligence by se neměla vyvíjet, dokud nebude bezpečná a kontrolovatelná,
69 % Američanů se domnívá, že vláda nedělá dost pro regulaci umělé inteligence,
více než polovina nedůvěřuje technologickým společnostem, že tuto technologii vyvíjejí zodpovědně,
73 % požaduje přísnou regulaci,
pouze 5 % podporuje status quo rychlého, nekontrolovaného pokroku.

Firmy zrychlují, odborníci vyzývají ke zpomalení

Technologický závod zatím nevykazuje žádné známky zpomalení. Společnost Meta oznámila vytvoření skupiny zabývající se budováním „superinteligence“ pod názvem Meta Superintelligence Labs a OpenAI pokračuje ve vývoji stále výkonnějších modelů. Její generální ředitel Sam Altman nedávno prohlásil, že doufá v dosažení superinteligence do roku 2030 a že potenciální přínosy stojí za rizika.

Obavy z nekontrolovaného vývoje umělé inteligence nejsou nové. Odborníci na technologie a etiku již léta varují před potenciálními riziky AI bez odpovídající regulace. Obávají se, že bez jasného etického a právního rámce by mohla být UI využívána ke škodlivým účelům, od manipulace s veřejným míněním až po vytváření autonomních zbraní. Časopis Nature publikoval články o potřebě mezinárodních standardů pro vývoj AI a zdůraznil význam globální spolupráce při řešení těchto problémů.

Video k článku ZDE

Zdroj: Youtube.com

Kromě toho se diskuse o AI zintenzivnila na politické scéně. V roce 2021 navrhla Evropská unie soubor předpisů pro AI, které klasifikují její aplikace do různých úrovní rizika a stanovují přísné požadavky pro vysoce rizikové aplikace. Tento přístup byl považován za potenciální vzor pro další země, které se snaží vyvážit inovace s veřejnou bezpečností. Více informací o tomto návrhu naleznete na internetových stránkách Evropské komise.

S tím, jak technologické společnosti rychle směřují k vytvoření superinteligence, se mezinárodní společenství, včetně vědců, politiků a občanů, stále více zajímá o etické a sociální důsledky tohoto vývoje. Otevřený dopis, který podepsalo více než 800 osobností, je naléhavou výzvou k zamyšlení a přijetí opatření, která zajistí, že budoucnost umělé inteligence bude bezpečná a prospěšná pro celé lidstvo.

Zdroje článku: time.com, futurism.com, nature.com, www.techzpravy.cz

Reklama

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Receptář Prima nápadů: Rady pro rybáře, tipy, jak na dýni, babiččiny brambory, stromy i plísně v domácnosti

V neděli se v pravé poledne na obrazovky vrací oblíbený pořad Receptář Prima nápadů. Diváci se mohou těšit...

V Telce|

dnes, 15:30

| 2 min

Leclerc: Ztrácí 40 bodů, budu překvapený, pokud získá titul

V paddocku stále častěji zaznívají slova, že Max Verstappen je zpátky v boji o titul a McLaren ještě čeká...

SvětFormule.cz|

dnes, 15:29

| 1 min

Netanjahu by podle průzkumu vyhrál volby, většinu v parlamentu by ale získala opozice

Strana Likud izraelského premiéra Benjamina Netanjahua by zřejmě vyhrála parlamentní volby, pokud by se...

Zprávy - Aktuálně.cz|

dnes, 15:19

Auto pro řidiče, co stále bourají: Top 5 nejbezpečnějších držáků s nejlevnějšími náhradními díly

Pokud pořád bouráte a už vás nebaví platit za vysoké škody, možná je čas změnit auto. Ideální volba pro...

MotoGuru|

dnes, 15:19

| 3 min

Fotbalisté Sparty v dohrávce Konferenční ligy podlehli Rijece 0:1

Fotbalisté Sparty v dohrávce 2. kola ligové fáze Konferenční ligy podlehli Rijece na jejím hřišti 0:1. V...

Pražská Drbna|

dnes, 15:10

| 2 min

Reklama

Podívejte, jak krásná žena hrála Marfušu v Mrazíkovi. Nastěnka jí nesahá ani po kotníky

Když se řekne Marfuša, každý si okamžitě vybaví tu rozmazlenou holku pod ojíněnou jedlí. S přehnaně...

VIP show|

dnes, 15:06

| 4 min

TIP NA VÝLET: Divočina, vodopády, ale i nádherné výhledy. To je Bílá Opava s Ovčárnou

Údolí Bílé Opavy nabízí výlet okolo nejkrásnější horské bystřiny v Jeseníkách. Vede tudy i naučná stezka,...

Hanácká Drbna|

dnes, 15:03

| 2 min

Hra oceněná Pulitzerem míří v české premiéře na prkna plzeňského divadla

Na prkna plzeňského divadla míří česká premiéra amerického dramatu Vtip. Jeho autorka Margaret Edson za...

Plzeňská Drbna|

dnes, 15:01

| 2 min

Mezi Otrokovicemi a Vizovicemi nepojedou vlaky

Provoz na železniční trati mezi Otrokovicemi a Vizovicemi na Zlínsku zastaví na déle než týden plánovaná...

Náš REGION|

dnes, 15:00

| 2 min

Chytrá vejce z Brna pomáhají zachraňovat ohrožené ptáky po celém světě

Brněnská zoo se zapojila do unikátního výzkumu, který má pomoci zachránit ohrožené druhy ptáků. V hnízdech...

Brněnská Drbna|

dnes, 15:00

| 1 min

Reklama

Zima se blíží. Nenechejte zahradní nábytek napospas rozmarům počasí

Ať už máme dům se zahradou, chalupu, chatu nebo balkón, jedno máme většinou společné. Tím je vybavení...

FAJNTIP.cz|

dnes, 15:00

| 3 min

Kvíz o Starých pověstech českých: 10 otázek z Jiráskových českých bájí, které potrápí i dospělé

Vyzkoušejte, jak dobře znáte Staré pověsti české. Od Libuše po Blanické rytíře. Deset otázek, které...

kroniQa|

dnes, 14:58

| 3 min

Vetřelci v přírodě: jak invazní druhy tiše přepisují pravidla života na Zemi

Nemají zbraně, ale dobývají kontinenty. Nemluví, ale mění celé ekosystémy.

Kód Enigma|

dnes, 14:52

| 4 min

Dohrávaný poločas odplaveného zápasu Spartě nevyšel, z Rijeky veze porážku

Fotbalisté pražské Sparty v dohrávce přerušeného utkání 2. kola ligové fáze Konferenční ligy prohráli v...

Sport - Aktuálně.cz|

dnes, 14:51

Liberecká nemocnice uvádí do provozu nový přístroj na léčbu rakoviny, čeká ještě dva

Velkou obměnou lineárních urychlovačů, které slouží k ozařování nádorových onemocnění, prochází v současné...

Liberecká Drbna|

dnes, 14:49

| 4 min

Reklama

Červené auto srazilo u Tiché chodkyni. Policie hledá řidiče, který z místa ujel

Novojičínští dopravní policisté vyšetřují dopravní nehodu, ke které došlo v neděli 19. října okolo půl...

Ostravská Drbna|

dnes, 14:46

| 1 min

Okrasné trávy: některé potřebují zimní ochranu, jiné zvládnou zimu samy

Okrasné trávy dodávají zahradě lehkost a pohyb, ale když přijde zima, ne všechny snášejí sníh, mráz a ostré...

Naše zahrada|

dnes, 14:40

| 2 min

Tesco v Anglii testuje skenery zralosti avokáda

Tesco ve velké Británii zavedlo skener, který vás může zaujmout. Jestli přijde i k nám, to je otázka, ale...

NESPECHEJ.cz|

dnes, 14:30

| 2 min

Simona Stašová: Kdo by ji dnes poznal? Tohle musíte vidět

Simona Stašová letos oslavila 70. narozeniny. Málokdo by jí ale tento věk hádal. Simona je stále plná...

KINOTIP2.cz|

dnes, 14:30

| 2 min

Nejničivější výbuch historie: Jak Krakatoa smetla ostrov, ochladila Zemi a inspirovala Čapka

Výbuch sopky Krakatoa v roce 1883 zničil ostrov, změnil klima a ovlivnil umění i vědu. Co se tehdy stalo a...

kroniQa|

dnes, 14:26

| 3 min

Reklama

Doporučujeme

Právě u nás vyšlo

"Nikdy nevíš, který den je poslední," říká Marek Dvořák a popisuje smrt pacienta

Zastavte vývoj, dokud je čas: Odborníci a veřejnost varují před nebezpečnou AI

"Nikdy nevíš, který den je poslední," říká Marek Dvořák a popisuje smrt pacienta

Herec Jakub Prachař přišel o vlasy. Neuvěříte, jak bude dlouhé měsíce vypadat

Počasí o víkendu: Ochladí se a bude i sněžit, prozradila meteoroložka

Šéf ČNB si s přítelkyní užíval luxusu za peníze národní banky. Maličkost, nebo ukázka pokrytectví?

Vilma Cibulková zkolabovala. V jejím domě zasahovala i policie