RAG

Chain of Thought (CoT) je technika promptování, která vybízí LLM k rozložení složitého uvažování na mezikroky před dosažením konečné odpovědi. Explicitním uvažováním přes jednotlivé kroky modely dosahují výrazně lepší přesnosti u matematických, logických a vícekrokových problémů. Rozšířené myšlení a „thinking" tokeny u modelů jako Claude představují zabudovanou formu chain-of-thought uvažování.

Velký jazykový model (LLM) je model hlubokého učení trénovaný na rozsáhlých textových datech, který rozumí přirozenému jazyku a generuje lidsky znějící text. Modely jako GPT, Claude a LLaMA pohánějí chatboty, programátorské asistenty a nástroje pro generování obsahu. Fungují na principu predikce dalšího tokenu v sekvenci na základě naučených statistických vzorů napříč miliardami parametrů.

V kontextu AI jazykových modelů je token základní jednotka textu, kterou model zpracovává — obvykle slovo, část slova nebo znak v závislosti na tokenizéru. Ceny LLM, kontextová okna i limity rychlosti se měří v tokenech. Pochopení tokenizace je klíčové pro optimalizaci nákladů a dodržení limitů kontextu modelu při vývoji AI aplikací.

Neuronová síť je výpočetní model inspirovaný lidským mozkem, složený z vrstev propojených uzlů (neuronů), které zpracovávají data úpravou vážených spojení během trénování. Hluboké neuronové sítě s mnoha vrstvami tvoří základ moderní AI a pohánějí vše od rozpoznávání obrazu po porozumění jazyku. Mezi běžné architektury patří dopředné sítě, konvoluční sítě (CNN) a transformery.

Vektorová databáze je specializovaná databáze optimalizovaná pro ukládání, indexování a dotazování vícerozměrných vektorových embeddingů. Umožňuje rychlé vyhledávání podobnosti, které je klíčové pro RAG systémy, doporučovací enginy a sémantické vyhledávání. Mezi populární vektorové databáze patří Pinecone, Weaviate, Qdrant a pgvector pro PostgreSQL.

Počítačové vidění je oblast AI, která trénuje stroje k interpretaci a porozumění vizuálním informacím z obrázků a videí. Aplikace zahrnují detekci objektů, rozpoznávání obličejů, autonomní řízení a analýzu medicínských snímků. Moderní počítačové vidění využívá modely hlubokého učení jako CNN a vision transformery (ViT) a stále více se integruje s jazykovými modely v multimodálních AI systémech.