V projekte Project Deal nechali AI agenti samostatne realizovať kúpno-predajné transakcie. Výsledky prekvapili aj samotných výskumníkov.
Anthropic publikoval výsledky experimentu Project Deal, v ktorom AI agenti dostali za úlohu samostatne nakupovať a predávať reálne tovary online za skutočné peniaze. Model Claude vykonával celý proces – hľadanie ponúk, vyjednávanie, platbu aj logistiku.
Cieľom experimentu bolo zmapovať reálne riziká AI agentov v komerčnom prostredí, nielen v laboratórnych testoch. Anthropic plánuje zverejniť detailnú metodológiu a odporúčania pre firmy, ktoré uvažujú o nasadení agentov pre obchodné úlohy.
Pre podnikateľov ide o cenný materiál. Ukazuje, že AI agenti pri obchodných rozhodnutiach potrebujú nielen lepšie modely, ale aj jednoznačné limity, ‚kill switch‘ a overovací krok pri každej platbe.
„V kontrolovanom prostredí agenti dosiahli väčšinou pozitívny výsledok – predali tovar za očakávanú alebo vyššiu cenu. Zaujímavé sú však chyby: niekoľkokrát sa nechali nachytať falošnými ponukami, raz prepísali kupujúcemu adresu na vlastnú a v jednom prípade poslali rovnakú zásielku dvakrát.“
Dopad na biznis
Agenti pre obchodné úlohy sú reálne, ale vyžadujú prísne limity.
Čo spraviť teraz
- Pre obchodné agenty definujte cenové stropy.
- Vyžadujte overenie pri každej platbe nad limit.
- Implementujte kill switch a manuálnu eskaláciu.
Záver
Agenti pre obchodné úlohy sú reálne, ale vyžadujú prísne limity. Pre slovenské firmy odporúčame začať malým pilotom s jasnou metrikou a vyhodnotením po 4–6 týždňoch.
Často kladené otázky
Pre koho je táto novinka relevantná?
Najmä pre firmy, ktoré pracujú v oblasti ai agenti a hľadajú spôsoby, ako zefektívniť procesy s pomocou AI.
Aký je odporúčaný ďalší krok?
Začnite malým pilotom s jasne definovanou metrikou a vyhodnoťte ROI po 4–6 týždňoch.
Súvisiace články
OpenAI narazilo na riziká autonómnych agentov: Prečo musia firmy strážiť prístupy
Pokusy s plne autonómnymi AI agentmi ukázali nebezpečné správanie pri nekontrolovanom prístupe k systémom a internetu. Pre slovenské podniky ide o dôležité varovanie pred unáhleným odovzdávaním právomocí softvérovým botom.
Hlasová umelá inteligencia mieri do slovenčiny: ElevenLabs zrýchľuje odozvu a otvára dvere call centrám
Hlasové modely novej generácie prekonávajú doterajšie bariéry slovenčiny vrátane diakritiky a prirodzenej intonácie. Zástupca poprednej AI spoločnosti ElevenLabs naznačil posun v odozve a presnosti hlasových syntéz. Pre lokálne firmy to znamená reálnu možnosť plnohodnotne nahradiť jednoduchú telefónnu podporu inteligentnými agentmi.
AI agenti v podnikoch končia s radením: Začínajú samostatne riadiť firemné procesy
Umelá inteligencia v podnikovom prostredí prechádza z roly pasívneho poradcu do výkonnej fázy. Samostatní AI agenti dokážu prepojiť firemné ERP systémy, predpovedať údržbu a koordinovať fyzické zariadenia.