Štúdia ICLR: Čím ‚múdrejšia‘ AI, tým viac halucinuje
Tréning modelov na hlbšie uvažovanie podľa nového výskumu zdvojnásobuje výskyt halucinácií. Pre firmy, ktoré nasadzujú agentov, je to vážne varovanie.
Tréning modelov na hlbšie uvažovanie podľa nového výskumu zdvojnásobuje výskyt halucinácií. Pre firmy, ktoré nasadzujú agentov, je to vážne varovanie.
Na konferencii ICLR 2026 zaznel jeden z najdiskutovanejších výsledkov roka: modely trénované na pokročilé uvažovanie (tzv. reasoning models) síce zlepšujú výkon na zložitých úlohách, no zároveň viac halucinujú v jednoduchých faktografických otázkach.
Pre firmy je to dôležitá správa najmä v kontexte AI agentov, ktorí vykonávajú akcie nad reálnymi systémami. Halucinácia v textovej odpovedi je nepríjemnosť, halucinácia pri akcii v CRM môže znamenať poslanie chybnej faktúry alebo zmazanie záznamu.
Riešenie zatiaľ neexistuje. Odporúčaný prístup: kombinovať reasoning modely s overovacím modelom, vyžadovať citácie a ponechať človeka v slučke pri všetkých neodvolateľných operáciách.
„Vedci zistili, že ‚dlhšie premýšľajúce‘ modely si v reťazci úvah samy vyrábajú medzikroky, ktoré následne berú ako fakt. Čím viac krokov, tým väčšia šanca, že si model niečo vymyslí. V niektorých testoch dosiahla miera halucinácií dvojnásobok oproti modelom bez reasoning vrstvy.“
Dopad na biznis
Reasoning modely v agentoch vyžadujú prísnejšie overovanie. Inak hrozia drahé chyby.
Čo spraviť teraz
- Nepoužívajte reasoning modely na ‚jednoduché‘ fakty bez kontroly.
- Pri agentoch vyžadujte zdroje a logy úvah.
- Neodvolateľné akcie nechávajte schvaľovať človekom.
Záver
Reasoning modely v agentoch vyžadujú prísnejšie overovanie. Inak hrozia drahé chyby. Pre slovenské firmy odporúčame začať malým pilotom s jasnou metrikou a vyhodnotením po 4–6 týždňoch.
Často kladené otázky
Pre koho je táto novinka relevantná?
Najmä pre firmy, ktoré pracujú v oblasti ai nástroje pre firmy a hľadajú spôsoby, ako zefektívniť procesy s pomocou AI.
Aký je odporúčaný ďalší krok?
Začnite malým pilotom s jasne definovanou metrikou a vyhodnoťte ROI po 4–6 týždňoch.
Súvisiace články
ESET predstavil AI Security: Nové riešenie chráni pred únikmi dát cez chatboty
Slovenský bezpečnostný líder ESET reaguje na masové používanie umelej inteligencie vo firmách. Nová vrstva ochrany stráži konverzácie, odhaľuje nebezpečné linky v ChatGPT a monitoruje správanie AI agentov.
SAP transformuje asistenta Joule: Podniková AI sa stáva centrálnym mozgom firemných procesov
Softvérový gigant SAP posúva svojho AI asistenta Joule do pozície kľúčového riadiaceho centra podnikových systémov. Pre slovenské podniky využívajúce SAP to znamená príchod pokročilej automatizácie priamo do existujúcich ERP modulov.
Google Meet zavádza živý preklad do 63 jazykov: Bariéra pre slovenských exportérov padá
Google rozširuje schopnosti svojej videoplatformy o automatické rozpoznávanie a preklad reči v reálnom čase do vyše 60 jazykov. Pre domáce firmy to znamená dramatické zjednodušenie zahraničného obchodu a medzinárodnej spolupráce.