Jak funguje umělá inteligence? Neuronové sítě polopatě

Jak funguje umělá inteligence? Neuronová síť v kostce

Umělá inteligence, se kterou si dnes povídáte v chatu na webu, je v jádru neuronová síť - program složený z vrstev umělých „neuronů“, které mezi sebou posílají čísla. Otázka na vstupu se rozloží na čísla, ta projdou vrstvami sítě, každá vrstva je trochu přepočítá, a na konci vypadne odpověď. Nikdo do sítě předem nenapsal pravidlo typu „pokud otázka obsahuje slovo X, odpověz Y“ - síť se pravidla naučila sama z obrovského množství příkladů.

To je ten rozdíl oproti běžnému softwaru, na který jsme zvyklí z úřadu nebo z e-shopu. Umělá inteligence, která dnes píše texty, odpovídá na dotazy nebo rozpoznává obrázky, je produktem strojového učení, ne ručně napsaného kódu. Jak přesně to učení probíhá a proč z něj plynou i chyby, si rozebereme dál.

Co je neuronová síť a jak si ji představit

Neuronovou síť si představte jako obří tabulku vah. Vstup (třeba věta, kterou napíšete) se rozloží na čísla a ta putují přes tisíce až miliardy propojení mezi umělými neurony. Každé propojení má svou váhu - číslo, které říká, jak moc má daný signál ovlivnit výsledek. Propojení s vysokou vahou má na odpověď větší vliv, propojení s nízkou vahou téměř žádný.

Váhy jsou to jediné, co se při tréninku mění. Na začátku jsou nastavené prakticky náhodně, takže síť odpovídá nesmyslně. Postupným laděním milionů až miliard vah se z náhodného šumu stane systém, který rozezná, že „kočka“ a „kocour“ spolu souvisí, nebo že po slově „Praha“ často následuje „je hlavní město“.

Odkud se vzal nápad na neuronovou síť

Nápad napodobit síť neuronů v mozku není nový - první matematický model umělého neuronu (perceptron) popsal americký psycholog Frank Rosenblatt už v roce 1958. Skutečný obrat ale přišel až o víc než padesát let později, když v roce 2012 vyhrál soutěž v rozpoznávání obrázků ImageNet model postavený na hlubokých neuronových sítích a s velkým náskokem porazil starší přístupy. Od té doby je hluboké učení hlavním směrem, ze kterého vychází i dnešní jazykové modely.

Jak se učí umělá inteligence - trénink na příkladu dítěte

Nejsrozumitelnější analogie je učení řeči u malého dítěte. Nikdo dítěti nedá gramatickou příručku - poslouchá rodiče, samo zkouší věty, dostává zpětnou vazbu a postupně odvodí pravidla, aniž by je dokázalo vyjmenovat. Umělá inteligence se učí podobně, jen v mnohem větším měřítku a bez emocí.

1. Model dostane vstup (třeba část věty) a odhadne, co by mělo následovat.
2. Odhad se porovná se skutečnou odpovědí z trénovacích dat.
3. Podle velikosti chyby se mírně upraví váhy v síti, aby byl příští odhad blíž realitě.
4. Celý krok se opakuje miliardkrát, dokud model soustavně nezlepšuje své odhady.

Rozdíl oproti dítěti je hlavně v objemu a rychlosti. Dítě se za pár let naposlouchá řádově miliony vět. Velký jazykový model při tréninku zpracuje biliony slov - víc textu, než by člověk stihl přečíst za desítky životů. Proto model plynule píše v mnoha jazycích a stylech, ale nemá žádnou vlastní zkušenost se světem - zná jen vzory v textu, ne realitu, o které ten text mluví.

Strojové učení jednoduše: v čem se liší od klasického programování

V klasickém programování napíše člověk přesná pravidla a počítač je poslušně vykoná. Ve strojovém učení je to obráceně - člověk dodá data a příklady správných odpovědí a pravidla si program odvodí sám. Tenhle rozdíl vysvětluje, proč se AI chová jinak než software, na který jsme zvyklí z běžné agendy obce nebo firmy.

Právě proto AI někdy odpoví jinak na dvě téměř identické otázky, zatímco klasický program by na ně reagoval pořád stejně. Neřídí se pevným kódem, ale pravděpodobností - vybírá odpověď, která je nejvíc podobná tomu, co viděla při tréninku.

Proč AI někdy odpoví jinak na stejnou otázku

Protože si otázku nepamatuje jako záznam v databázi, ale pokaždé znovu spočítá pravděpodobnou odpověď - a do výpočtu vstupuje i řízená míra náhody, která textu dodává přirozenost. U faktických údajů (ceny, termíny, čísla jednací) je proto rozumné nechat AI čerpat z pevně daného zdroje, ne spoléhat na to, že si je „pamatuje“ přesně.

Proč AI dělá chyby a co jsou halucinace

AI dělá chyby ze dvou hlavních důvodů. Za prvé se učí pravděpodobnost, ne pravdu - vybere odpověď, která statisticky nejvíc odpovídá tomu, co viděla, ale nemá jak si ji sama ověřit v realitě. Za druhé, když narazí na téma, ke kterému v trénovacích datech nebylo dost informací, stejně nějakou odpověď vytvoří, protože jiný způsob reakce neumí.

Tomuto jevu se říká halucinace: AI si sebevědomě vymyslí fakt, datum nebo citaci, která zní věrohodně, ale ve skutečnosti neexistuje. Nejde o poruchu, kterou by šlo jednou provždy vypnout - je to přirozený důsledek toho, jak model funguje. Proto se u důležitých odpovědí fakta vždy ověřují a v ideálním případě se AI omezí jen na ověřené podklady, ne na svou obecnou „paměť“ z tréninku.

Proč AI potřebuje kvalitní podklady

Platí staré pravidlo informatiky „odpad dovnitř, odpad ven“ a u umělé inteligence platí dvojnásob. Pokud jsou podklady, ze kterých AI čerpá, neúplné, zastaralé nebo chybné, stejně tak bude vypadat i odpověď - jen ji AI podá velmi sebevědomě. Aktualizace zdrojů proto není administrativní detail, ale podmínka, aby AI vůbec mohla odpovídat spolehlivě.

Jak to funguje u AI chatbota na webu

U chatbota na webu obce nebo firmy jde riziko halucinací výrazně omezit - stačí mu nedovolit odpovídat z obecné „paměti“ a nechat ho čerpat jen z konkrétních podkladů, které organizace sama dodá: dokumenty, ceník, provozní řád, obsah webu. Model pak neodhaduje z celého internetu, ale hledá odpověď v ohraničeném a ověřeném souboru informací a u každé odpovědi ukáže, ze kterého zdroje čerpal.

Přesně takhle funguje Dotazio: AI asistent na váš web odpovídá výhradně z vašich dokumentů a stránek webu, ke každé odpovědi přidá citaci zdroje a když odpověď nezná, řekne to a předá kontakt na vás, místo aby si něco vymyslel.