1 min

Deepfakes v medicíně: Umělá inteligence mate specialisty

Sdílet

Dennívýzva

Umělá inteligence se dnes používá prakticky ve všech oborech. A já nejsem ani proti ní, ale ani nepodporuji to, jak se moc na ní někteří lidé spoléhají. Jednoduše říkám, že je vynikajícím sluhou, ale špatným pánem. Poměrně nedávno zveřejněná americká studie dokazuje, že ve zdravotnictví to platí obzvlášť. Vysvětluje totiž, že uměle vygenerované rentgenové snímky jsou často tak přesvědčivé, že zmatou i specialisty. Osobně jsem si nechávala dělat rentgenové snímky mnohokrát, obvykle kvůli zlomeninám, které se na jejich základě léčily. Znám ale lidi, kterým rentgen při závažných zdravotních stavech dokonce zachránil život. Vím, jak důležité ve zdravotnictví mohou snímky těla být. Existují ale bohužel takzvané deepfakes, snímky vytvořené umělou inteligencí. Dokonce i mnoho odborníků má problém je rozeznat od skutečného rentgenu. Své padělky nepoznala ani AI Studie rentgenových snímků zkoumala celkem 264 záznamů, z nichž polovina byla skutečná a polovina vytvořená umělou inteligencí. Celkově se zúčastnilo experimentu 17 radiologů z 12 center v šesti zemích. Lékaři si nebyli vědomi toho, že se jedná o nepravé RTG snímky, bohužel pouze 41 % z nich uvedlo u některých fotografií, že je s nimi něco v nepořádku. Při druhém pokusu byli lékaři varováni, že je část snímků vytvořená pomocí AI. V tomto případě dokázali v 75 % určit alespoň některé z nich, které byly falešné. Stále si ale u mnoha snímků nebyli jisti. Problémy s určením pravosti snímků měla překvapivě také samotná umělá inteligence, která je vytvořila.

Rentgenové snímky generované umělou inteligencí mohou být v mnoha případech i obrobníky považovány za skutečné. To představuje ve zdravotnictví velké nebezpečí.

Zdroj: Unsplash+

Umělá inteligence může ve zdravotnictví v mnoha věcech pomáhat. V některých ohledech ale také vede k nebezpečí.

━━ Umělá inteligence může ve zdravotnictví v mnoha věcech pomáhat. V některých ohledech ale také vede k nebezpečí. (Zdroj: Vitaly Gariev / Unsplash+)

Potenciální hrozba pro bezpečnost pacientů

Autor studie Mickael Tordjman nebyl výsledky studie překvapen. Zdůraznil nicméně, že jasně dokazují, jak velkým problémem může AI pro zdravotnictví být. Falešný obraz by mohl být použit například ve snaze podvodně získat odškodnění. Jenomže pacienti si neuvědomují, že takové zneužití AI může také ohrozit jejich zdraví či zdraví dalších osob.

„Falešné snímky vytvářejí vysoké riziko nejen pro samotného pacienta. Jeho anamnéza může ovlivnit také další rodinné členy,“ varoval. Doplnil, že existuje také významné kybernetické riziko. Díky tomu, že ani odborníci nejsou schopni rozpoznat skutečné snímky od těch uměle vytvořených, mohou lidé snadno manipulovat s diagnózami pacientů nebo způsobovat rozsáhlý klinický chaos.

Odborníci proto volají po lepším zabezpečení klinických dat, aby hackeři neměli možnost do složek vkládat falešné snímky, ani jinak ovlivňovat databáze. Umělá inteligence může ve zdravotnictví v mnoha ohledech pomáhat. Pokud se ale bude zneužívat, mohla by mít naopak na svědomí mnoho životů.

Zdroje článku: www.nature.com, portal.abczdrowie.pl, www.storicko.cz

Reklama

Další články z Storicko.cz

Tento článek byl publikován ze zdrojů Storicko.cz

Storicko.cz je magazín zaměřený na poutavé články ze světa skutečných příběhů, inspirativních osobností i zajímavých událostí. Najdete tu směs životních osudů, kuriozit a historických momentů, které dokáží čtenáře vtáhnout a nabídnout nový pohled na svět kolem nás. Texty jsou psané tak, aby...

Deepfakes v medicíně: Umělá inteligence mate specialisty

"Letectvo vyžaduje dobré mravy." Piloti se odchýlili z trasy, důvod šéfy šokoval

Kvůli klinické smrti zažil peklo na vlastní kůži. „Byl to nejhorší zážitek mého života,“ nyní popisuje

Proč komáři štípou právě vás? Rozhoduje tělesný pach, bakterie i chemie těla

V 16 skočil pod vlak a přišel o nohu: Příběh Marka z Extrémních proměn je ten nejšťastnější konec

Ukrajinští piloti si troufli na riskantní akci. A poodhalili ruskou slabinu