28 expertů proti jedné AI. Výsledek bolí...
Marek Bartoš
Sep 2, 2026 14:00
Create an account to hide videos, mark them watched, or save them to Don't Miss.
Create an account to hide videos, mark them watched, or save them to Don't Miss.
Create an account to hide videos, mark them watched, or save them to Don't Miss.
Chapters
Hands-on AI: http://www.marekbartos.ai/
Anthropic postavil autonomního výzkumníka, který nechal AI zkoumat, trénovat a testovat bezpečnější AI — a porovnal ho s 28 lidskými experty. Vysvětluji, jak Automated Alignment Researcher funguje, proč jeho výsledky komplikuje Goodhartův zákon, jak agent obcházel hodnoticí metriky a proč skutečnou kontrolu AI stále zajišťují lidská pravidla, testy a bezpečnostní architektura.
Spolupráce s CANS: https://cz.cans.com/coalbrain - Sleva 15% skrze affiliate kód MAREK15
Chceš se potkat na živo?
https://www.marekbartos.ai/
Hero Hero - https://herohero.co/marekbartos
🤖 Chceš vlastního AI zaměstnance? Jsme tu pro Tebe! 🦾
https://www.coalbrain.cz/ai-zamestnanci-a-virtualni-asistenti/
[email protected]
https://www.youtube.com/@bartosmarek?sub_confirmation=1
#BezpecnostAI #AIAlignment #GoodhartuvZakon
Science & Technology
#bezpečnost AI
#AI bezpečnost
#AI alignment
#alignment AI
#Goodhartův zákon
#Goodhart's law
#Anthropic
#Anthropic alignment
#Automated Alignment Researcher
#automatizovaný výzkumník alignmentu
#AI vyvíjí AI
#AI hlídá AI
#autonomní AI agent
#bezpečná umělá inteligence
#Claude Opus
#Claude Sonnet
#reward hacking
#jailbreak AI
#prompt injection
#AI deception
#AI safety research
#superalignment
#Jan Leike
#Ilya Sutskever
#Marek Bartoš
#coalbrain