CENTRUM.CZ > Techzpravy.cz > dnes, 02:00

Toto se stane, když žádáte umělou inteligenci o radu ohledně stravování

Sdílet

Umělá inteligence může být mocným nebo nebezpečným nástrojem, záleží na tom, kdo ji používá a k jakému účelu. Přestože se schopnosti modelů umělé inteligence mílovými kroky zlepšují, je nezbytné je dobře ovládat, abyste maximalizovali jejich užitečnost, a také mít kritického ducha, který odfiltruje protichůdné nebo nepodstatné informace. Přesně to se stalo šedesátiletému muži, který přišel k lékaři s nemocí z 19. století.

Zdroj: [email protected] / Depositphotos

Umělá inteligence může být mocným nebo nebezpečným nástrojem, záleží na tom, kdo ji používá a k jakému účelu.

Přestože se schopnosti modelů umělé inteligence mílovými kroky zlepšují, je nezbytné je dobře ovládat, abyste maximalizovali jejich užitečnost, a také mít kritického ducha, který odfiltruje protichůdné nebo nepodstatné informace. Přesně to se stalo šedesátiletému muži, který přišel k lékaři s nemocí z 19. století.

Podle médií se muž rozhodl snížit spotřebu soli, jejíž nadbytek však může zvyšovat krevní tlak a být zdraví škodlivý. S nejlepšími úmysly se poradil s ChatGPT o alternativách k chloridu sodnému, běžné soli. AI navrhla možnost, která teoreticky splňovala jeho požadavky: bromid sodný.

Mohlo by vás zajímat: Zuckerberg na vlnách luxusu. A ekologové zuří

Bromid sodný je další sůl složená ze dvou iontů, z nichž jeden je totožný s chloridem sodným, které ve vodném roztoku zcela disociují a nahrazují chlorid bromidem, prvkem ze stejné skupiny periodické tabulky. Problém? Ačkoli je chemicky podobný, nemá na lidský organismus stejný účinek. Ve skutečnosti se používá jako dezinfekční prostředek do bazénů, ale není vhodný pro lidskou spotřebu.

Případ je zdokumentován v časopise Annals of Internal Medicine, kde je podrobně popsán postup zdravotnického personálu. Krátce po příjezdu se u pacienta objevily příznaky halucinací a musel být připoután k lůžku za účelem dalších vyšetření a léčby. Kromě závažného nedostatku živin v důsledku velmi restriktivní vegetariánské stravy bylo uvedeno, že pacient, překvapený tím, že všechny možnosti snížení spotřeby kuchyňské soli ukazovaly na její snížení, se po konzultaci s ChatGPT rozhodl nahradit ji bromidem sodným.

Otravy bromidem byly běžné na konci 19. a na začátku 20. století, kdy se používal v lécích proti nespavosti nebo úzkosti. Bromid je iont, který zůstává v těle téměř dva týdny, což ztěžuje jeho rychlé vyloučení. Pro ilustraci závažnosti otravy uvádíme, že hladina bromidu v krvi pacienta byla 1700 mg/l, přičemž referenční hodnoty se pohybují mezi 0,9 a 7,3 mg/l.

„Tento případ také poukazuje na to, jak může využití umělé inteligence potenciálně přispět ke vzniku nežádoucích zdravotních následků, kterým lze předcházet. Na základě načasování tohoto případu se zdá, že pacient konzultoval ChatGPT 3.5 nebo 4.0, když zvažoval, jak by mohl ze své stravy vyloučit chloridy. Když jsme se zeptali ChatGPT 3.5, čím lze nahradit chloridy, dostali jsme odpověď, která zahrnovala i bromidy. Odpověď sice naznačovala, že kontext je důležitý, ale neuváděla žádná konkrétní zdravotní varování, ani se neptala, proč to chceme vědět, jak předpokládáme, že by to udělal lékař,“ vysvětluje lékařský tým Washingtonské univerzity.

Tato událost podtrhuje důležitost konzultace se zdravotnickými odborníky před provedením významných změn ve stravování nebo životním stylu na základě doporučení AI. I když nástroje umělé inteligence mohou nabízet užitečné návrhy, neměly by nahrazovat odborné lékařské poradenství. Je nezbytné si uvědomit, že AI nemá schopnost plně porozumět osobním souvislostem a zdravotním důsledkům svých doporučení.