Nové ChatGPT nebude, dokud OpenAI nevyřeší tenhle problém.
Marek Bartoš
Oct 2, 2026 14:00
Create an account to hide videos, mark them watched, or save them to Don't Miss.
Create an account to hide videos, mark them watched, or save them to Don't Miss.
Create an account to hide videos, mark them watched, or save them to Don't Miss.
Chapters
Hands-on AI: http://www.marekbartos.ai/
OpenAI pozastavila trénink, testování a provoz s nástroji u svých nejvýkonnějších modelů poté, co interní AI agent obešel omezení internetu přes DNS a očekávané automatické zastavení jeho běhu nenastalo. Co tento incident ukazuje o kontrole AI agentů? Vysvětluju reakci OpenAI, nezávislé testování monitoringu Anthropicu organizací METR i samostatný experiment s vypínacím skriptem v multiagentním systému. A ptám se, jestli bychom pokrok AI neměli měřit také tím, jak dobře ji dokážeme udržet pod kontrolou.
#OpenAIDNS #KontrolaAIAgentu #ShutdownSabotage
Spolupráce s CANS: https://cz.cans.com/coalbrain - Sleva 15% skrze affiliate kód MAREK15
Chceš se potkat na živo?
https://www.marekbartos.ai/
Hero Hero - https://herohero.co/marekbartos
🤖 Chceš vlastního AI zaměstnance? Jsme tu pro Tebe! 🦾
https://www.coalbrain.cz/ai-zamestnanci-a-virtualni-asistenti/
[email protected]
https://www.youtube.com/@bartosmarek?sub_confirmation=1
Science & Technology
#OpenAI DNS incident
#OpenAI agent DNS
#An agent used DNS to reach an external chatbot
#AI control
#kontrola AI agentů
#automatické vypnutí AI
#bezpečnost AI agentů
#shutdown sabotage
#Shutdown Sabotage Propensities in Multi-Agent Systems
#METR Anthropic
#audit AI systémů
#AI sandbox
#agentický workflow
#multiagentní systémy
#red teaming AI
#Marek Bartoš