CENTRUM.CZ > Techzpravy.cz > dnes, 16:35

Hawking předpověděl konec lidstva kvůli AI. Dnes jeho slova zní děsivě aktuálně

| 5 min

Sdílet

Stephen Hawking varoval, že plně rozvinutá umělá inteligence může znamenat konec lidské rasy. Dnes, v éře generativní AI a autonomních systémů, se jeho slova stávají naléhavým mementem.

Hawking předpověděl konec lidstva kvůli AI. Dnes jeho slova zní děsivě aktuálně

Zdroj: everett225 / Depositphotos

Teoretický fyzik Stephen Hawking byl jedním z nejgeniálnějších mozků 20. století a bezpochyby jedním z nejrespektovanějších hlasů ve vědě. Kromě svých studií o černých dírách a vzniku vesmíru byl také jedním z prvních, kdo varoval před potenciálním nebezpečím umělé inteligence (AI). V rozhovoru pro BBC v roce 2014 Hawking otevřeně prohlásil: „Rozvoj plné umělé inteligence by mohl znamenat konec lidského rodu.“

Toto prohlášení tehdy vyvolalo skepsi i u části vědecké komunity. O více než deset let později, s nástupem autonomních systémů a rozvojem generativní umělé inteligence, se však zdá, že jeho varování vycházelo z rizik technologie, která se vyvíjí rychleji, než je společnost schopna zvládnout. Umělá inteligence pokročila mílovými kroky, její aplikace sahají od medicíny až po autonomní řízení, a spolu s tím zesílily obavy z její regulace a kontroly.

Hawkingovo varování před umělou inteligencí

Hawking vydal své varování při používání nového komunikačního systému vyvinutého společnostmi Intel a SwiftKey, který obsahuje primitivní formu umělé inteligence. „Umělá inteligence je zatím užitečná,“ řekl fyzik, ale obává se, že by se její pokročilejší verze mohla sama přepracovat a vyvíjet. Tato obava není neopodstatněná; schopnost strojů učit se a přizpůsobovat se bez zásahu člověka je aktivní oblastí studia a vzbuzuje stále větší obavy.

Mohlo by vás zajímat: Chtěli skrze AI změnit výuku. Místo toho vytvořili miliardový chaos

Stephen Hawking Warned AI Could Result in ‘End of Human Race’ Prior to His Death

Training computers to align with human goals was crucial, Hawking told the BBC in an interview in 2014 – warning that not taking AI risks seriously could be "our worst mistake ever" as pic.twitter.com/G7oB612xPD

— MARIA (@its_maria012) May 1, 2023

Myšlenka „superinteligence“, která se vyvíjí bez dohledu, je dnes možností, která znepokojuje i vedoucí představitele nejmocnějších technologických společností světa. Hawking tehdy zdůraznil, že „lidé nebudou schopni konkurovat strojům“. To je kritický bod, protože vývoj umělé inteligence vyvolává otázky týkající se budoucnosti práce, ekonomiky a etiky automatizovaného rozhodování.

V reakci na tyto obavy vznikla řada iniciativ, jejichž cílem je vývoj umělé inteligence regulovat a usměrňovat. Například akční plán pro umělou inteligenci, který představila Evropská komise, si klade za cíl upevnit vedoucí postavení Evropy v oblasti umělé inteligence na světovém trhu prostřednictvím vývoje spolehlivých technologií, které posílí konkurenceschopnost kontinentu a zároveň ochrání evropské demokratické hodnoty. Tento plán usiluje o rozšíření přínosů umělé inteligence do klíčových odvětví, jako je zdravotnictví, vzdělávání, průmysl a udržitelnost životního prostředí.

Mezi jeho priority patří budování rozsáhlých datových a výpočetních infrastruktur, zvyšování přístupu k vysoce kvalitním datům, podpora zavádění umělé inteligence ve strategických oblastech a posilování evropského fondu talentů v oblasti umělé inteligence. Počítá také s iniciativami, jako jsou továrny a velkokapacitní výrobní závody na umělou inteligenci, mechanismus InvestEU na podporu soukromých investic a právní poradna pro umělou inteligenci, která má zajistit účinné provádění.

Etika tvorby

Další Hawkingova obava se týkala neomezeného rozvoje umělé inteligence: „Jakmile lidé vyvinou plnou umělou inteligenci, rozjede se sama a bude se stále rychleji přepracovávat. Lidé, kteří jsou biologicky omezenými bytostmi, nebudou schopni konkurovat a budou předstiženi. Musíme zajistit, aby počítače zůstaly nástroji, které slouží lidem, a ne naopak“.

Kromě varování Hawking nabídl také poselství naděje. „Pokud bude umělá inteligence správně řízena, mohla by být tím nejlepším, co kdy lidstvo potkalo,“ napsal v dopise zveřejněném krátce před svou smrtí. Toto poselství rezonuje i dnes, protože umělá inteligence má potenciál řešit složité problémy, jako je změna klimatu, globální nemoci a chudoba, za předpokladu, že bude vyvíjena eticky a zodpovědně.

Video k článku ZDE

Zdroj: Youtube.com

Úvaha Stephena Hawkinga o umělé inteligenci byla varováním před nezodpovědným využíváním znalostí. Dnes, na vrcholu vzestupu generativní umělé inteligence, se jeho slova stávají reálnějšími: „Jsem optimista a věřím, že můžeme vytvořit umělou inteligenci pro dobro světa. Že s námi může pracovat v harmonii. Jen si musíme být vědomi nebezpečí, identifikovat je, používat osvědčené postupy, řídit je a připravit se na jejich důsledky s dostatečným předstihem.“

Klíčové fráze

Stephen Hawking zdůraznil, že umělá inteligence má sice „obrovský potenciál“, ale abychom se vyhnuli katastrofické budoucnosti, musíme stanovit jasná pravidla a připravit se na její možné důsledky.

„Rozvoj plné umělé inteligence by mohl znamenat konec lidské rasy,“ řekl.
„Lidé, kteří jsou omezeni svou pomalou biologickou evolucí, nebudou schopni konkurovat strojům a budou předstiženi.“
„Riziko spočívá v tom, že se propracovanější verze umělé inteligence může rozhodnout, že se sama přepracuje a dosáhne dokonce vyšší úrovně.“
„Umělá inteligence je zdaleka největším omylem ze všech.“
„Potenciál umělé inteligence je obrovský, ale musíme být velmi opatrní při jejím vývoji.“
„Rozvoj umělé inteligence je nevyhnutelný a my se musíme připravit na jeho možné důsledky.“
„Propracovanější verze umělé inteligence se může rozhodnout, že se sama přepracuje a dosáhne dokonce vyšší úrovně.“
„Pokud lidé vytvoří AI, která dokáže překonat naši inteligenci, výsledek může být katastrofální.“
„Problémem není to, zda stroje dokáží myslet, ale to, zda lidé budou schopni držet krok s jejich inteligencí.“
„Umělá inteligence může být naším největším nástrojem nebo největším rizikem, záleží na tom, jak ji využijeme.“
„Musíme stanovit jasné standardy pro umělou inteligenci dříve, než bude pozdě.“

Varování Stephena Hawkinga před umělou inteligencí byla nejen prorocká, ale slouží také jako připomínka odpovědnosti, kterou máme při vývoji technologií, jež mohou radikálně změnit naši společnost. Je nezbytné, aby pokrok v oblasti umělé inteligence doprovázela etická reflexe a regulační rámec, který zajistí jejich bezpečné a prospěšné využití pro celé lidstvo.

Hawking předpověděl konec lidstva kvůli AI. Dnes jeho slova zní děsivě aktuálně

Kateřina Brožová ostře o chování Jílkové: "Míše dnes asi přeskočilo, nebo má upito"

"Nedělejte z nás skanzen." Pražská sídliště se vzbouřila proti Fialovi

Z hrdiny je nešťastník. Krejčí zhatil naděje Wolverhamptonu

Letošní zima překvapí. Bude nejspíš jiná, než jak ji známe z posledních let

3 tropické ráje, kde vyjde třítýdenní dovolená levněji než běžný život v Česku