← Archiv

Štítek: Bezpečnost AI

Počet analýz: 3

2026-10-12
Microsoft chce nouzové vypínače AI a povinné hlášení incidentů
  • Brad Smith 12. října 2026 vyzval k zavedení globálních bezpečnostních pravidel pro umělou inteligenci.
  • Microsoft požaduje povinné hlášení bezpečnostních incidentů spojených s AI.
  • Smith prosazuje informování osob zasažených nebezpečným chováním AI.
  • Navrhovaná opatření zahrnují nouzové mechanismy pro pozastavení nebo zpomalení AI systémů.
  • Microsoft podporuje nezávislé hodnocení schopností a rizik pokročilých modelů před jejich nasazením.
  • Britský AI Security Institute má díky dobrovolným dohodám přístup k některým pokročilým modelům před jejich uvedením na trh.
2026-09-24
Šéfové AI firem varovali OSN před ztrátou kontroly nad umělou inteligencí
  • Sam Altman, Dario Amodei a Clément Delangue vystoupili před Radou bezpečnosti OSN k bezpečnostním rizikům AI.
  • Altman a Amodei vyzvali vlády k mezinárodní spolupráci při řízení rizik pokročilé AI.
  • Amodei navrhl společné standardy pro testování AI modelů a mezinárodní systém oznamování závažných incidentů.
  • Mezi zmiňovaná rizika patřila ztráta lidské kontroly nad pokročilými systémy a zneužití AI k vývoji biologických zbraní.
  • Americký představitel Michael Kratsios odmítl, že by rizika AI měla být důvodem k novému globálnímu regulačnímu rámci.
2026-09-14
Šéfové AI firem chtějí přibrzdit, Trump odmítá ustoupit Číně
  • Dario Amodei vyzval ke zpomalení tempa růstu schopností nejpokročilejších modelů AI.
  • Sam Altman a Elon Musk veřejně podpořili Amodeiho výzvu.
  • Amodeiho návrh nepožaduje okamžité zastavení vývoje AI.
  • Plán počítá s nezávislými hodnotiteli, koordinací předních AI firem a mezinárodní spoluprací.
  • OpenAI připustila možnost koordinovaného zpomalení vývoje s dalšími laboratořemi.
  • Donald Trump odmítl výrazné zpomalování amerického vývoje AI.
  • Trump zdůvodňuje svůj postoj snahou udržet náskok Spojených států před Čínou.
  • Trump připouští určitá bezpečnostní pravidla, ale varování před rychlým vývojem označil za přehnaná.
  • Amodei rovněž považuje případný čínský náskok v AI za závažné bezpečnostní riziko.