CENTRUM.CZ > Brněnská Drbna > dnes, 21:20

Umělá inteligence nesmí nahradit lidský přístup, zdůrazňuje ombudsman

Sdílet

Umělá inteligence se podle ombudsmana Stanislava Křečka stane důležitým tématem v oblasti ochrany lidských práv. Křeček zdůrazňuje, že lidem mají odpovídat lidé, nikoli algoritmy. Úřad ombudsmana už AI využívá například pro rešerše či překlady, přičemž dodržuje přísná pravidla.

Ilustrační fotografie

Zdroj: Brněnská Drbna - zprávy z Brna a Jihomoravského kraje

Umělá inteligence (AI) a lidská práva se podle veřejného ochránce práv Stanislava Křečka stanou jedním z témat, kterými se ombudsman bude zabývat. Důležité ale podle něj je, aby lidem odpovídali lidé, ne umělá inteligence. Křeček to napsal ČTK. V úřadu ombudsmana také využívají umělou inteligenci, třeba k rešerším.

„Myslím si, že umělá inteligence a lidská práva budou jedním z témat, kterým se já a mojí nástupci budeme zabývat, a to i s ohledem na to, že jsme nově národní lidskoprávní instituce. Úřady, já a můj tým se zabýváme skutečnými problémy opravdových lidí. Proto je důležité, aby lidem odpovídali lidé, a ne umělá inteligence. Odpovědi musí reflektovat to, co lidi trápí, a musí obsahovat reakce na konkrétní situace a námitky. Nikoli to, co má umělá inteligence v databázi,“ uvedl Křeček.

Veřejný ochránce práv se podle Václava Rendla z Kanceláře ombudsmana ve stížnostní agendě v souvislosti s umělou inteligencí vědomě dosud ničím nezabýval. Nedá se to podle něj ale vyloučit, protože použití nějakého AI systému nemusí být zjevné na první pohled.

I Rendl ale očekává, že se ombudsman problematikou zabývat začne. „Umělá inteligence bude vstupovat do všech oblastí života, a tím pádem také do agend v působnosti ombudsmana. Jako národní lidskoprávní instituce (NHRI) se budeme hodně věnovat oblastem, ve kterých rozvoj a používání AI může zasahovat do základních práv,“ uvedl Rendl.

Umělou inteligenci používají i pracovníci ombudsmana. Podle Rendla mají pro práci s ní nastavena striktní pravidla. „Zásadně do nástrojů AI nevkládáme žádné osobní/chráněné údaje. Zaměstnanci byli také proškoleni, jak současné nástroje AI používat. Máme interní citační pravidla při využití AI nástrojů,“ uvedl Rendl.

Pracovníci v Kanceláři ombudsmana AI zatím využívají podle něj spíše k některým rešeršním pracím. Například DeepL pomáhá s překlady odborných textů z méně frekventovaných jazyků, NotebookLM s analýzou odborných textů, ChatGPT k tvorbě stručných anotací judikatury nebo jiných shrnutí. Hledají podle něj i další cesty, jak využití AI nástrojů rozšířit a činnost zefektivnit. Jde například o bezpečný nástroj pro strojovou anonymizaci textů.

Umělá inteligence se v posledních letech rozšířila díky pokroku ve výpočetní technice a algoritmech strojového učení. Stále více ji využívají firmy i státní instituce, a to zejména pro automatizaci, analýzu dat a podporu rozhodování. Prosadily se také jazykové modely.