Teplota

technický pojem

Temperature

Proč někdy umělá inteligence odpovídá naprosto přesně – a jindy překvapí kreativní, ale nesmyslnou odpovědí? Klíčem je tzv. teplota. Tento nenápadný parametr rozhoduje o tom, zda bude model mluvit „jako úředník“ nebo „jako básník“ – tedy zda bude výsledek spíše formální a konzistentní, nebo naopak nápaditý a originální.

Teplota je parametr velkých jazykových modelů (LLM), který určuje míru náhody v generování textu. Hodnota se obvykle pohybuje v rozmezí od 0 do 2. Nízká teplota znamená vyšší předvídatelnost a konzistenci odpovědí, zatímco vyšší teplota přináší větší variabilitu a kreativitu. Prakticky to znamená, že model s nižší teplotou vybírá slova s nejvyšší pravděpodobností, zatímco model s vyšší teplotou častěji zkouší méně pravděpodobné, ale zajímavé možnosti.

Parametr teploty a jeho vliv na chování jazykových modelů

Velké jazykové modely nevybírají „správné“ odpovědi, ale generují další slova podle pravděpodobnostního rozložení. Parametr teploty toto rozložení rozšiřuje nebo zužuje – tedy určuje, jak „odvážně“ model experimentuje s volbou dalšího slova.

Nízká teplota (0–0.3): Výstupy jsou stabilní, přesné a málo kreativní. Vhodné pro odborné texty, úřední komunikaci, sumarizace nebo analýzy, kde je důležitá jednoznačnost a konzistence. Při nulové teplotě dostáváme téměř identické výsledky při opakování stejného dotazu.
Střední teplota (0.5–0.8): Vyvážený přístup – model zachovává smysl i strukturu, ale může nabídnout různé formulace nebo alternativní přístupy. Hodí se pro interní brainstorming, návrhy textů či úprav stylu.
Vysoká teplota (1–2): Model „riskuje“ – vytváří originální, ale často i nepravdivé nebo nesmyslné odpovědi. Vhodné spíše pro kreativní úkoly, jako jsou slogany, příběhy nebo metafory. Hodnoty nad 1 se běžně nedoporučují pro seriózní použití.

Jak teplotu nastavit?

Parametr temperature určuje míru kreativity a náhodnosti odpovědí generativního modelu – nižší hodnoty (např. 0–0,3) vedou k přesnějším a konzistentnějším výstupům, vyšší (např. 1,0–2,0) pak k rozmanitějším, ale méně předvídatelným výsledkům. Tento princip je společný pro většinu velkých jazykových a multimodálních modelů (např. ChatGPT, Claude, Gemini, Mistral aj.).

Možnost ručně nastavit teplotu bývá dostupná především při práci s rozhraním API nebo na tzv. hřištích (playgrounds), která výrobci modelů poskytují ve své dokumentaci. V běžných konverzačních rozhraních (např. ChatGPT, Claude.ai) uživatel teplotu obvykle přímo nenastavuje – model ji volí podle typu rozhraní nebo podle tzv. systémového promptu, který definuje chování asistenta. Proto je první zadání zásadní, protože určuje tón, styl a přesnost celé konverzace.

Souvislost s halucinacemi

Teplota přímo ovlivňuje pravděpodobnost vzniku halucinací – tedy situací, kdy AI vytváří přesvědčivě znějící, ale nepravdivé informace. Při vyšší teplotě model častěji „riskuje“ a doplní neznámá místa v textu vlastní domněnkou. Naopak nízká teplota vede k opatrnějším, ale méně originálním odpovědím. Proto je při práci s AI v institucích důležité zvolit rovnováhu – například v analýzách a legislativě preferovat nižší teplotu, zatímco pro kreativní nástroje může být vhodná vyšší.

AI GRAMOTNOST

Proč by měl úředník rozumět teplotě

Porozumění teplotě pomáhá úředníkům chápat, proč model někdy odpovídá přesně a jindy odbočuje. Vědí, že nejde o „nespolehlivost“, ale o nastavení míry náhody, která ovlivňuje styl a tón odpovědí.

Při přípravě textů pro veřejnost nebo při tvorbě interních podkladů tak mohou úředníci rozlišit, kdy se vyplatí využít nízkou teplotu pro stabilní výsledky, a kdy naopak zvolit vyšší teplotu pro kreativní návrhy nebo brainstorming.