Štítek: AI bezpečnost
Počet analýz: 2
2026-10-05
Sam Altman: Společnost musí přijmout část rizik AI
- Sam Altman uvedl, že svět by měl přijmout některé negativní dopady AI výměnou za její přínosy a širší dostupnost.
- Altman odmítá představu, že by bylo možné nebo žádoucí zaručit nulové riziko hacků, zneužití a podvodů spojených s AI.
- OpenAI prosazuje mírnější regulační přístup a širší veřejný přístup k pokročilé AI.
- Altman zároveň uvedl, že ztráta lidské kontroly nad AI je nepřijatelné riziko.
- Altman v září před Radou bezpečnosti OSN uvedl, že OpenAI nechce vyvíjet systémy, u nichž nelze zajistit dostatečně silnou kontrolu, monitorovatelnost a bezpečnost.
2026-09-29
Nvidia představila otevřenou platformu pro kontrolu AI agentů
- Nvidia 28. září představila Open Agent Safety Platform.
- Platforma zahrnuje open-source runtime OpenShell a referenční návrh bezpečnostního systému Sentry.
- OpenShell umožňuje omezovat přístup AI agentů k systémům, datům, službám a API prostřednictvím pravidel.
- Sentry má průběžně sledovat chování agentů a zastavit nebo izolovat ty, kteří překročí stanovené hranice.
- OpenShell lze podle Nvidie používat s hardwarem Nvidie i dalších výrobců včetně Arm a Intelu.