Začiatkom septembra 2026 odišiel z Anthropicu výskumník Jacob Coxon, ktorý predtým pracoval na špičkových modeloch aj v OpenAI. Vo svojom odchode verejne varoval, že firmy ako OpenAI a Anthropic „pretekajú rovno k sebazdokonaľujúcej sa superinteligencii a hazardujú s našimi životmi“. Nebol osamotený — verejne sa k nemu prihlásil aj Evan Hubinger, vedúci tímu pre AI alignment priamo v Anthropicu, podľa ktorého je pravdepodobnosť, že AI spôsobí zánik ľudstva v nasledujúcej dekáde, vyššia než 10 %. Podobne už vo februári 2026 odišla aj Mrinank Sharma, vedúca bezpečnostného výskumu v Anthropicu, so slovami, že „svet je v ohrození“.
Sú to silné slová od ľudí, ktorí tieto modely priamo stavajú. Otázka pre majiteľa malej firmy znie: má sa to vôbec niečoho dotýkať jeho chatbota na webe?
O čo presne ide
Debata, ktorú Coxon aj Hubinger otvárajú, sa týka vývoja frontier modelov — najvýkonnejších, najväčších systémov na hrane toho, čo je dnes technicky možné, a rizika, že sa raz vymknú kontrole tých, čo ich stavajú. Je to diskusia o smerovaní celého odvetvia na horizonte rokov, nie hodnotenie konkrétneho produktu, ktorý si dnes nasadíte na web.
Čo to pre malú firmu neznamená
Dôležité je oddeliť dve veci. Chatbot alebo AI asistent, ktorého si dnes dáte postaviť na firemný web, nie je frontier model bežiaci bez dohľadu — je to konkrétna, ohraničená aplikácia s jasne definovanými úlohami. Varovanie výskumníkov sa netýka toho, že by vám taký chatbot „zajtra narobil škody“ sám od seba.
Čo to pre malú firmu znamená — v praktickej rovine
Skutočný odkaz tejto správy nie je „bojte sa AI“, ale skôr: aj ľudia, ktorí tieto nástroje stavajú a rozumejú im najlepšie, hovoria, že sa vyvíjajú rýchlejšie, než sa dajú plne otestovať a skontrolovať. To je presne dôvod, prečo sa pri nasadzovaní AI na váš vlastný web oplatí byť obozretný — nie zo strachu, ale z rešpektu k tomu, že AI výstup je štatistický odhad, nie zaručená pravda.
- Citlivé akcie majú mať ľudskú kontrolu. Platba, odoslanie objednávky, vymazanie dát alebo komunikácia menom firmy by nemali prejsť bez možnosti človeka to ešte skontrolovať.
- Čo robí AI na vašom webe, má byť vidno. Logovanie a monitoring toho, čo chatbot alebo agent reálne robí, vám umožní včas odhaliť, keď sa správa inak, než ste čakali.
- Sebavedomo znejúci výstup nie je automaticky správny. Pri texte, cenách alebo faktoch, ktoré AI generuje pre zákazníkov, sa oplatí mať krok kontroly, nie slepú dôveru.
Prečo je to dôvod na premyslený prístup, nie na strach
Presne z tohto dôvodu dávame pri AI funkciách na weboch, ktoré staviame, dôraz na jasné hranice toho, čo AI robí sama a kde zostáva posledné slovo na človeku — podobne ako sme písali pri AI agentoch v ChatGPT a pri tom, že lacné riešenie postavené bez skúsenosti môže tieto riziká ešte zväčšiť, nie zmenšiť. Rýchlosť a dostupnosť AI (napríklad aj lacnejšie a rýchlejšie modely ako Claude Opus 5.5) je príležitosť — ale len ak ju sprevádza rovnako premyslené nastavenie hraníc a kontroly.
Zhrnutie
Keď varujú samotní ľudia, ktorí AI stavajú, nie je to signál na paniku, ale na väčšiu obozretnosť — najmä pri tom, akú mieru samostatnosti dáte AI na vlastnom webe. Pre malú firmu to v praxi znamená jedno: nasadzujte AI funkcie s jasnými hranicami, ľudskou kontrolou pri dôležitých krokoch a u niekoho, kto týmto nástrojom rozumie natoľko, aby vedel, kde tie hranice nastaviť.