Difuzní model

Vektorová databáze je specializovaná databáze optimalizovaná pro ukládání, indexování a dotazování vícerozměrných vektorových embeddingů. Umožňuje rychlé vyhledávání podobnosti, které je klíčové pro RAG systémy, doporučovací enginy a sémantické vyhledávání. Mezi populární vektorové databáze patří Pinecone, Weaviate, Qdrant a pgvector pro PostgreSQL.

Transformer je architektura neuronové sítě představená v článku „Attention Is All You Need" z roku 2017, která zásadně změnila zpracování přirozeného jazyka. Na rozdíl od rekurentních sítí zpracovává transformery celé sekvence paralelně pomocí mechanismu self-attention, což umožňuje efektivně zachytit závislosti na velké vzdálenosti. Prakticky všechny moderní LLM, včetně GPT a Claude, jsou postaveny na architektuře transformer.

Zpracování přirozeného jazyka (NLP) je odvětví AI zaměřené na umožnění počítačům porozumět, interpretovat a generovat lidský jazyk. NLP pohání aplikace jako chatboty, překladové služby, analýzu sentimentu a sumarizaci textu. Moderní NLP bylo transformováno modely založenými na architektuře transformer, které dosahují pozoruhodných výsledků na úlohách, jež dříve vyžadovaly rozsáhlá ručně vytvořená pravidla.

V kontextu AI se halucinací rozumí situace, kdy jazykový model generuje sebejistě znějící, ale fakticky nesprávné nebo vymyšlené informace. Dochází k tomu, protože LLM predikují statisticky pravděpodobný text, místo aby ověřovaly fakta. Mezi strategie zmírnění patří RAG, zakotvení odpovědí ve zdrojových dokumentech, validace strukturovaného výstupu a nastavení teploty pro snížení kreativní odchylky.

Neuronová síť je výpočetní model inspirovaný lidským mozkem, složený z vrstev propojených uzlů (neuronů), které zpracovávají data úpravou vážených spojení během trénování. Hluboké neuronové sítě s mnoha vrstvami tvoří základ moderní AI a pohánějí vše od rozpoznávání obrazu po porozumění jazyku. Mezi běžné architektury patří dopředné sítě, konvoluční sítě (CNN) a transformery.

Retrieval-Augmented Generation (RAG) je technika, která vylepšuje odpovědi LLM tím, že před generováním odpovědi načte relevantní dokumenty z externí znalostní báze. Model tak může zakládat svůj výstup na aktuálních, doménově specifických informacích místo spoléhání pouze na trénovací data. RAG se široce používá v podnikových chatbotech, dokumentačních asistentech a AI aplikacích s vyhledáváním.