CENTRUM.CZ > Techzpravy.cz > dnes, 08:00

Nový směr OpenAI: Méně výkonu, více porozumění

| 3 min

Sdílet

Organizace OpenAI zahájila nový projekt, jehož cílem je pochopit, jak umělá inteligence funguje zevnitř, a vytvořit nový, pomalejší model, který může odhalit, jak funguje a plní naše požadavky.

Nový směr OpenAI: Méně výkonu, více porozumění

Zdroj: Skorzewiak / Depositphotos

OpenAI přemýšlí o tom, jak postupovat v budoucnosti, kdy fungování velkých experimentálních jazykových modelů je stále méně pochopeno. V exkluzivním rozhovoru pro MIT Technology Review výzkumný pracovník OpenAI poskytl náhled na novou práci, která by mohla odhalit fungování ChatGPT. Jedná se o raný výzkum, který je v počátečních fázích, ale je velkým příslibem, protože je malý a umožní plně pochopit, jak funguje ve srovnání s jinými modely, které jsou složitější.

OpenAI LLM může odhalit fungování umělé inteligence

Kolikrát se nám stalo, že jsme nepoužili motor umělé inteligence a nakonec jsme nepochopili, jak dokázal odpovědět na jednoduchou otázku? Je to všechno vnitřní fungování, o které ani nevíme, a někteří uživatelé ani nechtějí vědět. OpenAI bude i nadále překvapovat svět a nyní tak učiní s experimentálním jazykovým modelem, který je mnohem srozumitelnější než jakýkoli jiný.

To pomůže ostatním, aby mohli využít své vlastní modely poté, co pochopí, jak takové modely strojového učení obecně fungují. Projekt se především zabývá tím, jak jsou modely chybné a proč jsou chybné. Leo Gao, výzkumník OpenAI, s nímž byl veden rozhovor, uvedl, že pokud se systém umělé inteligence stane výkonnějším, je téměř jisté, že se zapojí do významných oblastí.

Mohlo by vás zajímat: Hráči čekají revoluční konzoli. Valve přináší počítač, co vypadá jako past na nadšence

Na základě toho přišla společnost OpenAI s modelem, který není nejrelevantnější z hlediska výkonu, ale z hlediska interpretovatelnosti, alespoň z komplexního hlediska. Analýza jeho fungování pomůže pochopit všechny vnitřní mechanismy, které jsou obvykle u velkých modelů AI skryty. Taková práce je součástí nové oblasti výzkumu nazvané „mechanistická interpretovatelnost“, která bude „mapovat vnitřní mechanismy, které modely používají“, když jsou instruovány k plnění určitých úkolů.

OpenAI’s new LLM exposes the secrets of how AI really works https://t.co/MeNMHggGrS
— MIT Technology Review (@techreview) November 13, 2025

Tyto modely jsou vytvářeny pomocí „neuronových sítí“, které jsou tvořeny vrstvami. Vedoucí týmu mechanistické interpretovatelnosti OpenAI Dan Mossing uvedl, že tyto neuronové sítě jsou velmi rozsáhlé, složité a obtížně pochopitelné. Jeho návrhem je změnit je na něco jednoduššího.

Zpátky na začátek

Typ neuronové sítě, který OpenAI pro tento výzkum vytvořila, je známý jako „řídký váhový transformátor“. Každý neuron je propojen s několika dalšími neurony, místo aby byl na rozdíl od husté sítě, kde jsou neurony propojeny v mnoha vrstvách. Model je pomalý, ale je snadné identifikovat neurony, které odpovídají „specifickým konceptům a funkcím“.

Nejjednodušší požadavek zahrnuje možnost zjistit, jak byla síť neuronů vytvořena, takže s novým modelem by bylo možné konkrétně vysvětlit, jak to bylo provedeno. Neočekává se, že by bylo možné pochopit, jak funguje GPT-5, ale alespoň by mohl být vytvořen podobný model, jako byl svého času GPT-3, avšak srozumitelný. Výzvou je umět interpretovat, fungování 4 roky starého modelu.

Budoucnost interpretovatelnosti ve světě AI

Snaha o interpretovatelnost v umělé inteligenci není jen akademickým cvičením, ale rostoucí nutností ve světě, kde AI hraje klíčovou roli v rozhodování. Systémy umělé inteligence jsou stále více integrovány do našich životů, od zdravotnictví po finančnictví, a pochopení toho, jak se rozhodují, je nezbytné pro zajištění jejich důvěryhodnosti a etiky.

Video k článku ZDE

Zdroj: Youtube.com

Zaměření na interpretovatelnost může také pomoci zmírnit zkreslení, která jsou modelům AI vlastní. Zkreslení mohou vznikat z tréninkových dat a struktur modelů a bez jasného pochopení toho, jak tyto modely fungují, je obtížné tato zkreslení identifikovat a korigovat. Výzkum mechanistické interpretovatelnosti prováděný organizací OpenAI by mohl být důležitým krokem k vytvoření spravedlivějších a transparentnějších systémů umělé inteligence.

Kromě toho by tento výzkum mohl otevřít dveře novým aplikacím AI. Díky lepšímu pochopení fungování modelů mohou vývojáři vytvářet inovativnější a přizpůsobenější aplikace, které plně využívají možností AI. To by mohlo zahrnovat vše od chytřejších osobních asistentů až po přesnější nástroje pro analýzu dat.

Nový směr OpenAI: Méně výkonu, více porozumění

Laďka Něrgešová otevřeně promluvila o své nemoci. Slova o tom, kolik jí zbývá času, zasáhla celé Česko

"Hanba,táhni pryč, neonácku!" Turek se musel k pietnímu místu na Národní prodrat

Chtěla plavat za Česko. Místo toho bojovala o život své dcery narozené už ve 32. týdnu těhotenství

Bydžovská, Cibulková, Etzler. Podivný starý milostný trojúhelník, který má zajímavou dohru i dnes

Zima se přihlásí v plné síle. Husté sněžení potrápí celé Česko, meteorologové hlásí nepříjemnou sérii dní