← Archiv

Štítek: AI bezpečnost

Počet analýz: 2

2026-10-05
Sam Altman: Společnost musí přijmout část rizik AI
  • Sam Altman uvedl, že svět by měl přijmout některé negativní dopady AI výměnou za její přínosy a širší dostupnost.
  • Altman odmítá představu, že by bylo možné nebo žádoucí zaručit nulové riziko hacků, zneužití a podvodů spojených s AI.
  • OpenAI prosazuje mírnější regulační přístup a širší veřejný přístup k pokročilé AI.
  • Altman zároveň uvedl, že ztráta lidské kontroly nad AI je nepřijatelné riziko.
  • Altman v září před Radou bezpečnosti OSN uvedl, že OpenAI nechce vyvíjet systémy, u nichž nelze zajistit dostatečně silnou kontrolu, monitorovatelnost a bezpečnost.
2026-09-29
Nvidia představila otevřenou platformu pro kontrolu AI agentů
  • Nvidia 28. září představila Open Agent Safety Platform.
  • Platforma zahrnuje open-source runtime OpenShell a referenční návrh bezpečnostního systému Sentry.
  • OpenShell umožňuje omezovat přístup AI agentů k systémům, datům, službám a API prostřednictvím pravidel.
  • Sentry má průběžně sledovat chování agentů a zastavit nebo izolovat ty, kteří překročí stanovené hranice.
  • OpenShell lze podle Nvidie používat s hardwarem Nvidie i dalších výrobců včetně Arm a Intelu.