🪖 Dosavadní užití AI v armádě nahrává existenčním rizikům | Vědátornews

Americká armáda byla podle zdrojů CNN letos na jaře blízko operaci proti čínské lodi kvůli zpravodajské zprávě vytvořené s pomocí AI. Dokument nesprávně tvrdil, že loď veze součásti jaderného zbrojního programu. Ozbrojení vojáci se připravovali na zásah a vojenská letadla už byla ve vzduchu, než hlubší kontrola odhalila chybu použitého chatbotu. Problém není v tom, že by AI sama chtěla rozpoutat válku. Selhal lidsko-technický proces: analytik použil nespolehlivý výstup a informace prošla systémem dost daleko na to, aby vyvolala reálné vojenské přípravy. Jeden ze zdrojů CNN situaci popsal tak, že použití AI umožňuje „dostat se ke špatnému nápadu rychleji“. Právě rychlost je u vojenského nasazení AI zásadní problém. Automatizace může zkrátit dobu mezi informací a rozhodnutím, ale zároveň zkracuje čas dostupný pro lidské ověření. Tento případ sám o sobě nedokazuje, že AI povede k existenční katastrofě – velmi konkrétně však ukazuje, jak může chyba systému zvýšit riziko nechtěné eskalace mezi státy. Vědátor vznikl jako spinoff olomouckého spolku studentů a popularizátorů vědy UP Crowd. Naším cílem je popularizovat vědu a kritické myšlení primárně na sociálních sítích. …což v praxi znamená, že na to nemáme moc prachy, málokdo nás podporuje a děláme na to na koleni, jak se jen dá – na našem YouTube kanálu přesto týden co týden najdete novinky ze světa vědy, krátká osvětová videa i delší rozhovory a tématické videa! Váš Vědátor