Štúdia ICLR: Čím ‚múdrejšia‘ AI, tým viac halucinuje
Tréning modelov na hlbšie uvažovanie podľa nového výskumu zdvojnásobuje výskyt halucinácií. Pre firmy, ktoré nasadzujú agentov, je to vážne varovanie.
Tréning modelov na hlbšie uvažovanie podľa nového výskumu zdvojnásobuje výskyt halucinácií. Pre firmy, ktoré nasadzujú agentov, je to vážne varovanie.
Na konferencii ICLR 2026 zaznel jeden z najdiskutovanejších výsledkov roka: modely trénované na pokročilé uvažovanie (tzv. reasoning models) síce zlepšujú výkon na zložitých úlohách, no zároveň viac halucinujú v jednoduchých faktografických otázkach.
Pre firmy je to dôležitá správa najmä v kontexte AI agentov, ktorí vykonávajú akcie nad reálnymi systémami. Halucinácia v textovej odpovedi je nepríjemnosť, halucinácia pri akcii v CRM môže znamenať poslanie chybnej faktúry alebo zmazanie záznamu.
Riešenie zatiaľ neexistuje. Odporúčaný prístup: kombinovať reasoning modely s overovacím modelom, vyžadovať citácie a ponechať človeka v slučke pri všetkých neodvolateľných operáciách.
„Vedci zistili, že ‚dlhšie premýšľajúce‘ modely si v reťazci úvah samy vyrábajú medzikroky, ktoré následne berú ako fakt. Čím viac krokov, tým väčšia šanca, že si model niečo vymyslí. V niektorých testoch dosiahla miera halucinácií dvojnásobok oproti modelom bez reasoning vrstvy.“
Dopad na biznis
Reasoning modely v agentoch vyžadujú prísnejšie overovanie. Inak hrozia drahé chyby.
Čo spraviť teraz
- Nepoužívajte reasoning modely na ‚jednoduché‘ fakty bez kontroly.
- Pri agentoch vyžadujte zdroje a logy úvah.
- Neodvolateľné akcie nechávajte schvaľovať človekom.
Záver
Reasoning modely v agentoch vyžadujú prísnejšie overovanie. Inak hrozia drahé chyby. Pre slovenské firmy odporúčame začať malým pilotom s jasnou metrikou a vyhodnotením po 4–6 týždňoch.
Často kladené otázky
Pre koho je táto novinka relevantná?
Najmä pre firmy, ktoré pracujú v oblasti ai nástroje pre firmy a hľadajú spôsoby, ako zefektívniť procesy s pomocou AI.
Aký je odporúčaný ďalší krok?
Začnite malým pilotom s jasne definovanou metrikou a vyhodnoťte ROI po 4–6 týždňoch.
Súvisiace články
Google rozdáva tvorbu AI videí zadarmo: Príležitosť pre slovenských marketérov
Google spúšťa akciu, v rámci ktorej ponúka bezplatnú tvorbu videí pomocou umelej inteligencie. Táto iniciatíva otvára dvere malým a stredným slovenským firmám k profesionálnemu video marketingu bez vysokých nákladov na produkciu a predstavuje významný nástroj pre digitálny rast.
Google Gemini Omni: AI, ktorá vytvorí video z textu, obrázkov či zvuku
Google predstavil Gemini Omni, multimodálny AI model schopný generovať a editovať videá z rôznych vstupov. Pre slovenských podnikateľov to otvára dvere k revolučnej tvorbe obsahu a výrazným úsporám nákladov.
Google vylepšil AI na tvorbu hudby: Lyria 3.5 ponúka väčšiu kontrolu a lepšie skladby
Google predstavil novú verziu svojho hudobného AI modelu Lyria 3.5, ktorá sľubuje ešte kvalitnejšie skladby a výrazne väčšiu kontrolu nad výsledkom. Tento pokrok otvára nové možnosti pre tvorcov obsahu, marketérov a umelecký priemysel.