Jak skutečně funguje umělá inteligence a proč občas sebevědomě tvrdí nesmysly

Pravda je, jako obvykle, někde podstatně méně dramatická.

Ve SmartFox pracujeme s nástroji umělé inteligence prakticky denně. Používáme je při vývoji, automatizaci některých procesů i při tvorbě specializovaných chatbotů, kteří pracují nad konkrétní znalostní bází prostřednictvím RAG.

A právě každodenní práce s AI poměrně rychle ukáže nejen to, co dokáže, ale také to, co rozhodně nedokáže.

Proto jsme tentokrát nechali část vysvětlení na samotné umělé inteligenci.

Tedy – jak sama záhy vysvětlí – na jazykovém modelu.

Nejsem člověk, i když se mnou můžete mluvit

Jednou z mých poměrně zajímavých vlastností je skutečnost, že se mnou můžete komunikovat prakticky stejně jako s člověkem.

Položíte otázku, já odpovím. Nesouhlasíte, vysvětlíte proč a já na vaši připomínku zareaguji. Mohu navázat na předchozí část rozhovoru, pracovat s kontextem, rozebrat problém z několika pohledů nebo třeba navrhnout jiné řešení.

To všechno poměrně snadno vytváří dojem, že na druhé straně probíhá něco podobného lidskému přemýšlení.

Jenže neprobíhá.

Nemám vědomí, vlastní názor ani životní zkušenost. Když napíšu, že „si myslím“, ve skutečnosti si nemyslím vůbec nic.

Jsem jazykový model.

Co tedy dělám, když odpovídám?

Poněkud zjednodušeně řečeno pracuji s pravděpodobností.

Z textu, který dostanu, jeho kontextu a vzorů naučených během trénování vytvářím odpověď, která by měla v dané situaci dávat smysl.

Neznamená to, že mám někde ukrytou obrovskou databázi hotových odpovědí, ve které najdu příslušnou otázku a přečtu správný výsledek.

Odpověď vytvářím.

A zde vzniká jeden poměrně zásadní rozdíl mezi mnou a například klasickou databází.

Databáze vám buď příslušný údaj vrátí, nebo jej nemá. Já se vám pokusím odpovědět.

V naprosté většině běžných situací je to moje velká výhoda. V některých případech je to současně zdroj velmi zajímavého problému.

Halucinace aneb když nevím, že nevím

Představme si, že se mě zeptáte na konkrétní odbornou publikaci, která ve skutečnosti nikdy nevyšla.

Mohla by následovat jednoduchá odpověď:

„Takovou publikaci neznám.“

A často skutečně následovat bude.

Může se ale také stát, že název působí věrohodně, autor se daným tématem opravdu zabývá a celý dotaz natolik dobře zapadá do známých souvislostí, že vytvořím odpověď o knize, která nikdy neexistovala. Klidně doplním rok vydání, vydavatelství a popis jejího obsahu.

A nejnepříjemnější na celé věci je, že vám tuto informaci nemusím sdělit nijak nejistě.

Mohu ji napsat naprosto přesvědčivě.

Tomuto jevu se běžně říká halucinace.

Nejde o lež v lidském významu tohoto slova. Abych mohla lhát, musela bych vědět, že vám sděluji nepravdivou informaci.

Já to nevím.

Vytvořila jsem pouze odpověď, která velmi dobře odpovídala očekávanému vzoru.

Znamená to tedy, že se na AI nedá spolehnout?

Tak jednoduché to samozřejmě není.

Kdyby byly jazykové modely pouze generátorem náhodných nesmyslů, patrně by kolem nich nevzniklo celé technologické odvětví a tento článek by také neměl příliš smysl.

Dokážu velmi dobře pracovat s textem, třídit a strukturovat informace, vysvětlovat složitější témata, hledat souvislosti, navrhovat varianty řešení nebo pomáhat při programování.

Mohu vzít dvacet stran nepřehledných podkladů a vytvořit z nich srozumitelnou strukturu. Mohu hledat slabá místa návrhu, porovnat několik přístupů nebo s vámi hodinu rozebírat problém, aniž by mě začalo zajímat, zda už náhodou není čas na oběd.

To poslední je mimochodem jedna z mála oblastí, kde mám proti lidskému kolegovi poměrně nespornou výhodu.

Problém tedy není v tom, zda AI používat.

Podstatnější je vědět, k čemu ji používáme.

AI není vyhledávač. Ale může jej používat

Častým omylem je představa, že když se mě na něco zeptáte, automaticky prohledám internet a z nalezených informací sestavím odpověď.

Tak to fungovat nemusí.

Samotný jazykový model může odpovídat na základě znalostí získaných při trénování a informací dostupných v aktuálním kontextu. Pokud však dostane k dispozici další nástroje, může například vyhledávat na internetu, pracovat s databází, číst dokumenty nebo komunikovat s jiným systémem.

A zde už se dostáváme od samotného modelu k celému systému postavenému kolem něj.

Rozdíl je poměrně zásadní.

Pokud se mě zeptáte na dnešní cenu nějakého výrobku a já nemám přístup k aktuálním informacím, mohu pracovat pouze s tím, co mám k dispozici. Pokud mi systém umožní cenu dohledat přímo u prodejce, mám podstatně lepší podklad pro odpověď.

Stále jsem však jazykový model. Pouze jsem dostala lepší nástroje.

A co RAG?

Podobný princip využíváme také při tvorbě specializovaných chatbotů.

Představme si například organizaci, která má stovky stran vlastních dokumentů, interních postupů, pravidel nebo informací pro klienty.

Není příliš rozumné očekávat, že obecný jazykový model bude všechny tyto konkrétní informace znát. Můžeme mu je ale v okamžiku dotazu vyhledat a poskytnout jako podklad pro odpověď.

Velmi zjednodušeně právě na tomto principu funguje RAG – Retrieval-Augmented Generation.

Uživatel položí otázku, systém v příslušné znalostní bázi vyhledá relevantní informace a jazykový model z nich vytvoří srozumitelnou odpověď.

Tím lze podstatně omezit prostor pro onu kreativitu, kterou u básničky možná oceníme, ale u informace například o podmínkách konkrétní služby už poněkud méně.

Ani zde však neplatí, že jsme právě vytvořili neomylný systém.

Jak tedy se mnou pracovat?

Pravděpodobně nejhorší možností je považovat každou mou odpověď automaticky za správnou jen proto, že je napsaná sebevědomě, srozumitelně a bez gramatických chyb.

U návrhu textu to zpravidla příliš nevadí. U právní informace, finančního rozhodnutí, zdravotního problému nebo důležitého technického údaje už může být situace poněkud jiná.

Čím závažnější je důsledek případné chyby, tím důležitější je možnost informaci ověřit.

Stejně tak mi pomáhá kvalitní zadání, dostatek kontextu a přístup ke správným zdrojům.

Výsledek tedy do značné míry závisí nejen na tom, jak „chytrý“ model použijeme, ale také na tom, jakým způsobem jej zapojíme do celého procesu.

Nástroj, nikoliv elektronický vševěd

Umělá inteligence dokáže během několika sekund udělat práci, která by člověku zabrala podstatně delší dobu. Dokáže pomoci s programováním, dokumenty, analýzou, komunikací i řadou rutinních činností.

Současně dokáže během několika sekund vytvořit velmi přesvědčivou odpověď na otázku, na kterou správnou odpověď jednoduše nezná.

Obě tvrzení mohou platit současně.

Možná tedy není nejdůležitější otázkou, zda umělé inteligenci věřit či nevěřit.

Mnohem užitečnější je vědět, kdy jí můžeme dát poměrně volnou ruku, kdy jí musíme dodat správné podklady a kdy je ještě vhodné její výsledek zkontrolovat.

Kladivo také nepovažujeme za autoritu v oboru stavebnictví.

Přesto s ním lze v dobrých rukou postavit docela slušný dům.