Celkový přehled
Klasický software tvoří pokyny napsané lidmi: když se stane tohle, udělej tamto. AI tento postup obrací. Místo psaní pravidel ukážou vývojáři systému mnoho příkladů a nechají algoritmus strojového učení, aby pravidla objevil sám.
Téměř každý AI systém, který dnes používáte, prochází stejnými kroky.
| Fáze | Co se děje | Příklad: chatovací asistent |
|---|---|---|
| Data | Shromáždění a vyčištění příkladů. | Velké množství textů, kódu a konverzací. |
| Model | Výběr architektury s nastavitelnými parametry. | Neuronová síť typu Transformer s miliardami parametrů. |
| Trénování | Úprava parametrů tak, aby model dělal méně chyb. | Předpovídání dalšího tokenu a následné vylepšování na základě zpětné vazby od lidí a AI. |
| Vyhodnocení | Testování na datech, která model dosud neviděl. | Srovnávací testy, testy bezpečnosti a lidské hodnocení. |
| Inference | Použití modelu na nový vstup. | Odpověď na vaši zprávu během několika sekund. |
Krok 1: Data
Data jsou základní surovinou AI. Model se může naučit jen vzorce, které jsou v jeho trénovacích datech, takže kvalita, rozmanitost a vyváženost těchto dat ovlivňuje vše, co následuje.
- Strukturovaná data: tabulky, například transakce, údaje ze senzorů nebo zdravotní záznamy.
- Nestrukturovaná data: text, obrázky, zvuk a video, které tvoří většinu informací na světě.
- Označená data: příklady se správnou odpovědí, například fotografie označené jako "kočka" nebo "pes".
- Syntetická data: příklady vytvořené jinými AI modely, které se dnes běžně používají k trénování a dolaďování nových modelů.
Před trénováním se data čistí, odstraňují se duplicity a filtruje se škodlivý nebo nekvalitní obsah. Poté se data převádějí na čísla, se kterými model dokáže pracovat. U textu to znamená rozdělení na tokeny, tedy slova nebo části slov.
Krok 2: Metody učení
Strojové učení nabízí několik způsobů, jak se učit z dat. Moderní systémy je často kombinují.
Učením s učitelem
Učí se z označených příkladů. Používá se k odhalování spamu, klasifikaci lékařských snímků a předpovídání cen.
Učení bez učitele
Hledá strukturu v neoznačených datech, například skupiny zákazníků nebo neobvyklé transakce.
Učení s vlastním dozorem
Vytváří si vlastní označení ze surových dat, například skryje slovo a snaží se ho předpovědět. Takto probíhá předtrénování LLM.
Učení posilováním
Učí se metodou pokusů a omylů na základě odměn. Používá se u AI pro hraní her, v robotice a při trénování modelů pro uvažování.
Krok 3: Neuronové sítě
Většina moderních AI systémů používá umělé neuronové sítě. Síť tvoří vrstvy malých jednotek (neuronů). Každá jednotka vynásobí své vstupy váhami, sečte je a výsledek předá přes jednoduchou nelineární funkci do další vrstvy.
- Vstupní vrstva přijímá čísla, která představují data, například hodnoty pixelů nebo číselné reprezentace tokenů.
- Skryté vrstvy tato čísla postupně převádějí na abstraktnější rysy, například hrany, tvary a objekty na obrázku.
- Výstupní vrstva vytváří výsledek, například pravděpodobnost každého možného následujícího slova.
Hluboké učení jednoduše znamená učení v sítích s mnoha vrstvami. Pro různé typy dat se hodí různé architektury: konvoluční sítě pro obrázky, rekurentní sítě pro starší systémy rozpoznávání řeči, difuzní modely pro generování obrázků a Transformery pro jazyk i stále více dalších úloh.
Krok 4: Trénování
Trénování je optimalizační cyklus, který se opakuje miliardkrát.
- Dopředný průchod: model vytvoří předpověď pro dávku příkladů.
- Ztráta: ztrátová funkce měří, jak moc se předpověď mýlila.
- Zpětné šíření chyby: algoritmus vypočítá, jak moc jednotlivé váhy přispěly k chybě.
- Gradientní sestup: každá váha se mírně upraví směrem, který chybu zmenšuje.
Nejpokročilejší jazykové modely se trénují na obrovských datových sadách pomocí tisíců specializovaných čipů (GPU nebo TPU) po dobu týdnů či měsíců. Podle veřejných odhadů stojí trénování největších modelů desítky až stovky milionů dolarů. Proto je od základu vytváří jen několik společností.
Častým problémem je přeučení: model si zapamatuje trénovací příklady, místo aby se naučil obecné vzorce. Vývojáři ho odhalují testováním na oddělených validačních datech a předcházejí mu pomocí většího množství dat, regularizace a včasného zastavení trénování.
Krok 5: Inference
Inference probíhá ve chvíli, kdy AI skutečně používáte. Natrénované váhy se už nemění a váš vstup projde sítí jednou (při generování textu jednou pro každý vygenerovaný token), čímž vznikne výstup.
Inference je mnohem levnější než trénování, ale při stovkách milionů uživatelů stále vyžaduje velká datová centra. Poskytovatelé proto nabízejí modely různých velikostí: malé, rychlé modely pro jednoduché úkoly a větší modely nebo modely s pokročilým uvažováním pro složité problémy.
Jak fungují velké jazykové modely
Velké jazykové modely (LLM), jako jsou OpenAI GPT, Anthropic Claude, Google Gemini nebo modely s veřejně dostupnými vahami, například Llama, Mistral, Qwen či DeepSeek, vznikají v několika fázích.
Tokeny a embeddingy
Text se rozdělí na tokeny a každý token se převede na embedding: dlouhý seznam čísel, který zachycuje jeho význam. Slova s podobným významem mají podobné embeddingy.
Transformer a mechanismus pozornosti
Architektura Transformer, představená v roce 2017, používá mechanismus zvaný pozornost. U každého tokenu určuje, které další tokeny v kontextu jsou nejdůležitější. Díky tomu dokáže model přiřadit zájmeno ke správnému podstatnému jménu nebo propojit otázku s relevantní částí dlouhého dokumentu.
Předtrénování
Model zpracovává obrovské množství textu a učí se předpovídat další token. Aby to zvládal dobře, musí si osvojit gramatiku, fakta, způsoby uvažování i vzorce používané při psaní kódu.
Následné trénování
Samotný předtrénovaný model pouze pokračuje v textu. Dolaďování podle instrukcí, posilované učení z lidské zpětné vazby (RLHF) a podobné metody ho učí řídit se pokyny, vést konverzaci, odmítat škodlivé požadavky a přiznat nejistotu.
Kontext a nástroje
Při inferenci má model k dispozici kontextové okno s vaší konverzací, instrukcemi a někdy i dohledanými dokumenty. Generování s podporou vyhledávání (RAG) a vyhledávání na webu mu poskytují aktuální fakta, která se během trénování nenaučil.
Modely zaměřené na uvažování a AI agenti
Od roku 2024 změnily fungování pokročilé AI v praxi dva vývojové směry.
Modely s pokročilým uvažováním se trénují, často pomocí posilovaného učení, aby si problém před konečnou odpovědí promyslely v několika krocích. Více výpočetního výkonu věnovaného tvorbě odpovědi obvykle zlepšuje výsledky v matematice, vědě, programování a plánování. Většina velkých poskytovatelů už nabízí režimy uvažování či „přemýšlení“.
AI agenti používají model v opakujícím se cyklu: naplánují postup, provedou akci pomocí nástroje, vyhodnotí výsledek a znovu plánují. Mezi nástroje může patřit procházení webu, spouštění kódu, úprava souborů nebo jiný software. Agenti zvládnou vícekrokové úkoly, ale stále potřebují jasné cíle, oprávnění a kontrolu člověkem.
Systémy s více agenty jdou ještě dál a umožňují několika AI rolím spolupracovat nebo spolu debatovat. Výzkum „AI debat“ naznačuje, že vzájemná kritika modelů může odhalit chyby, které by jedinému modelu unikly.
Co to znamená pro každodenní použití
Když víte, jak AI funguje, dokážete ji používat lépe.
- Poskytněte kontext. Model zná jen to, co obsahovala jeho trénovací data a co mu uvedete v zadání.
- U důležitých faktů požádejte o vysvětlení postupu a zdroje, pak si je ověřte.
- Na složité problémy použijte model s pokročilým uvažováním, na rychlé návrhy rychlý model.
- Porovnávejte různé pohledy. Modely trénované na odlišných datech mohou dojít k různým závěrům.
S Debatly je porovnávání pohledů snadné: několik AI postav debatuje o vaší otázce a AI soudce shrne, kdo argumentoval nejlépe a proč. Ve stejné aplikaci můžete také přímo chatovat s nejnovějšími modely od OpenAI, Anthropic a Google.