Štítek: Bezpečnost AI
Počet analýz: 3
2026-10-12
Microsoft chce nouzové vypínače AI a povinné hlášení incidentů
- Brad Smith 12. října 2026 vyzval k zavedení globálních bezpečnostních pravidel pro umělou inteligenci.
- Microsoft požaduje povinné hlášení bezpečnostních incidentů spojených s AI.
- Smith prosazuje informování osob zasažených nebezpečným chováním AI.
- Navrhovaná opatření zahrnují nouzové mechanismy pro pozastavení nebo zpomalení AI systémů.
- Microsoft podporuje nezávislé hodnocení schopností a rizik pokročilých modelů před jejich nasazením.
- Britský AI Security Institute má díky dobrovolným dohodám přístup k některým pokročilým modelům před jejich uvedením na trh.
2026-09-24
Šéfové AI firem varovali OSN před ztrátou kontroly nad umělou inteligencí
- Sam Altman, Dario Amodei a Clément Delangue vystoupili před Radou bezpečnosti OSN k bezpečnostním rizikům AI.
- Altman a Amodei vyzvali vlády k mezinárodní spolupráci při řízení rizik pokročilé AI.
- Amodei navrhl společné standardy pro testování AI modelů a mezinárodní systém oznamování závažných incidentů.
- Mezi zmiňovaná rizika patřila ztráta lidské kontroly nad pokročilými systémy a zneužití AI k vývoji biologických zbraní.
- Americký představitel Michael Kratsios odmítl, že by rizika AI měla být důvodem k novému globálnímu regulačnímu rámci.
2026-09-14
Šéfové AI firem chtějí přibrzdit, Trump odmítá ustoupit Číně
- Dario Amodei vyzval ke zpomalení tempa růstu schopností nejpokročilejších modelů AI.
- Sam Altman a Elon Musk veřejně podpořili Amodeiho výzvu.
- Amodeiho návrh nepožaduje okamžité zastavení vývoje AI.
- Plán počítá s nezávislými hodnotiteli, koordinací předních AI firem a mezinárodní spoluprací.
- OpenAI připustila možnost koordinovaného zpomalení vývoje s dalšími laboratořemi.
- Donald Trump odmítl výrazné zpomalování amerického vývoje AI.
- Trump zdůvodňuje svůj postoj snahou udržet náskok Spojených států před Čínou.
- Trump připouští určitá bezpečnostní pravidla, ale varování před rychlým vývojem označil za přehnaná.
- Amodei rovněž považuje případný čínský náskok v AI za závažné bezpečnostní riziko.