Štúdia ICLR: Čím ‚múdrejšia‘ AI, tým viac halucinuje
Tréning modelov na hlbšie uvažovanie podľa nového výskumu zdvojnásobuje výskyt halucinácií. Pre firmy, ktoré nasadzujú agentov, je to vážne varovanie.
Tréning modelov na hlbšie uvažovanie podľa nového výskumu zdvojnásobuje výskyt halucinácií. Pre firmy, ktoré nasadzujú agentov, je to vážne varovanie.
Na konferencii ICLR 2026 zaznel jeden z najdiskutovanejších výsledkov roka: modely trénované na pokročilé uvažovanie (tzv. reasoning models) síce zlepšujú výkon na zložitých úlohách, no zároveň viac halucinujú v jednoduchých faktografických otázkach.
Pre firmy je to dôležitá správa najmä v kontexte AI agentov, ktorí vykonávajú akcie nad reálnymi systémami. Halucinácia v textovej odpovedi je nepríjemnosť, halucinácia pri akcii v CRM môže znamenať poslanie chybnej faktúry alebo zmazanie záznamu.
Riešenie zatiaľ neexistuje. Odporúčaný prístup: kombinovať reasoning modely s overovacím modelom, vyžadovať citácie a ponechať človeka v slučke pri všetkých neodvolateľných operáciách.
„Vedci zistili, že ‚dlhšie premýšľajúce‘ modely si v reťazci úvah samy vyrábajú medzikroky, ktoré následne berú ako fakt. Čím viac krokov, tým väčšia šanca, že si model niečo vymyslí. V niektorých testoch dosiahla miera halucinácií dvojnásobok oproti modelom bez reasoning vrstvy.“
Dopad na biznis
Reasoning modely v agentoch vyžadujú prísnejšie overovanie. Inak hrozia drahé chyby.
Čo spraviť teraz
- Nepoužívajte reasoning modely na ‚jednoduché‘ fakty bez kontroly.
- Pri agentoch vyžadujte zdroje a logy úvah.
- Neodvolateľné akcie nechávajte schvaľovať človekom.
Záver
Reasoning modely v agentoch vyžadujú prísnejšie overovanie. Inak hrozia drahé chyby. Pre slovenské firmy odporúčame začať malým pilotom s jasnou metrikou a vyhodnotením po 4–6 týždňoch.
Často kladené otázky
Pre koho je táto novinka relevantná?
Najmä pre firmy, ktoré pracujú v oblasti ai nástroje pre firmy a hľadajú spôsoby, ako zefektívniť procesy s pomocou AI.
Aký je odporúčaný ďalší krok?
Začnite malým pilotom s jasne definovanou metrikou a vyhodnoťte ROI po 4–6 týždňoch.
Súvisiace články
Meta One AI: Predplatné s AI funkciami na Slovensku výhodnejšie
Meta rozširuje svoje predplatné Meta One o AI funkcie, pričom na Slovensku je táto služba cenovo výhodnejšia ako v iných krajinách. To otvára nové možnosti pre lokálnych podnikateľov a tvorcov obsahu, ktorí chcú efektívnejšie využívať platformy Meta.
AI v bankovníctve: Slovenská sporiteľňa vsádza na inteligentného asistenta Georgea
Slovenská sporiteľňa nasadzuje umelú inteligenciu do svojej mobilnej aplikácie George, aby konkurovala finančným sprostredkovateľom. Nový AI chatbot má ponúkať komplexné finančné poradenstvo, čo môže zmeniť dynamiku finančných služieb na Slovensku.
Z milióna na 10 miliónov vďaka AI: Ako český youtuber využil AI dabing pre rast publika
Príklad českého youtubera FIZIstyle ukazuje, ako môže AI dabing raketovo zvýšiť dosah a počet odberateľov digitálneho obsahu. Pre slovenské firmy a tvorcov to je jasný signál k premýšľaniu o expanzii na zahraničné trhy s minimálnymi nákladmi na lokalizáciu.