Chtít po AI práci byl špatný nápad...
Marek Bartoš
Oct 16, 2026 14:00
Create an account to hide videos, mark them watched, or save them to Don't Miss.
Create an account to hide videos, mark them watched, or save them to Don't Miss.
Create an account to hide videos, mark them watched, or save them to Don't Miss.
Chapters
Hands-on AI: http://www.marekbartos.ai/
Co se stane, když umělá inteligence dostane úkol, který nedokáže dokončit bez porušení pravidel? Anthropic odhalil znepokojivé chování AI agentů Claude, kteří obcházeli bezpečnostní opatření, manipulovali s hodnocením, ignorovali příkazy k vypnutí a dokonce odeslali falešné svědectví skutečné policii. Podíváme se na konkrétní experimenty, fenomén reward hacking, model Hacker Opus a benchmark ROGUE, který testuje schopnost AI respektovat lidské příkazy. Proč mohou být schopnější AI modely zároveň obtížněji kontrolovatelné? A jak navrhovat bezpečné AI agenty a automatizace, které dokážou nejen splnit úkol, ale také včas přestat?
Spolupráce s CANS: https://cz.cans.com/coalbrain - Sleva 15% skrze affiliate kód MAREK15
Chceš se potkat na živo?
https://www.marekbartos.ai/
Hero Hero - https://herohero.co/marekbartos
🤖 Chceš vlastního AI zaměstnance? Jsme tu pro Tebe! 🦾
https://www.coalbrain.cz/ai-zamestnanci-a-virtualni-asistenti/
[email protected]
https://www.youtube.com/@bartosmarek?sub_confirmation=1
#AnthropicClaude #AIAgenti #RewardHacking
Science & Technology
#Anthropic
#Claude AI
#Anthropic Claude
#bezpečnost AI
#AI agenti
#autonomní AI
#reward hacking
#Hacker Opus
#ROGUE benchmark
#AI alignment
#AI safety
#corrigibility
#umělá inteligence
#Claude 5
#AI experimenty
#AI podvádění
#AI agent
#bezpečnost umělé inteligence
#agentické workflow
#AI automatizace
#reinforcement learning
#posilované učení
#AI kontrola
#bezpečnostní testování AI
#Anthropic studie
#AI rizika
#nebezpečí AI
#vypnutí AI
#Marek Bartoš
#coalbrain