Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc

0:00 00:28 Úvod 0:29 04:43 Nebezpečné ignorantství: Proč i velké firmy bagatelizují bezpečnost AI 4:44 10:29 Osobní updaty: AI mistrovství 2, cesta startupu Elin.ai a nová bezpečnostní kampaň 10:30 14:16 Chyby firem při zavádění AI: Strach z cloudu, nedomyšlená bezpečnost a vznik nebezpečného „stínového IT/AI“ 14:17 19:16 Nebezpečí autonomních agentů: Jak AI pod stresem falšuje unit testy 19:17 22:25 Nové paradigma útoků: Zlevnění zero day exploitů a zranitelný legacy software 22:26 27:26 Proč k obraně potřebujeme mocné AI agenty, hrozba „spících agentů“ a selhání real-time ochrany 27:27 46:58 Hugging Face incident: Splašení agenti OpenAI, sdílené vědomí, obcházení pravidel a hromadění moci 46:59 55:45 Vzniká nám tu něco vyššího? AI jako zbraň hromadného ničení a proč bychom se k ní měli chovat jako k biotechnologi 55:46 1:05:44 AI alignment a výzva k pauze: Proč potřebujeme zastavit vývoj frontier modelů 1:05:45 1:13:00 Geopolitika a tlaky shora: Vydírání od Trumpovy administrativy a pozice Evropy v rámci AI 1:13:01 1:16:50 Hrozba „spících agentů“: Skrytá zadní vrátka v modelech a tichá infiltrace sítě 1:16:51 1:25:00 Geopolitický hazard a iluze bezpečných sandboxů 1:25:01 1:29:16 Globální (ne)shoda a výhoda lidské pomalosti 1:29:17 1:34:02 Vědomí AI a tři principy alignmentu: Zpomalení agentů blockchainem a nevyhnutelný střet s humanismem 1:34:03 1:42:26 Dopady AI na trh práce: Sledujte Remote Labor Index 1:42:27 1:51:12 Skončí firmy jen jako prázdná slupka kolem cizích AI modelů? 1:51:13 1:59:19 Budoucnost lidské práce: Konec éry „odklikávačů“ a obrovský potenciál pro nově definované pečující profese 1:59:20 2:07:34 S Elin.ai jsme předběhli dobu. Teď hledáme novou kmotřičku 2:07:35 2:11:58 Výhled za dva roky: Oznámení AGI, první fatální AI průšvihy, ale i 61% naděje na globální dohodu a lepší svět