Štítek: AI agenti
Počet analýz: 2
2026-09-29
Nvidia představila otevřenou platformu pro kontrolu AI agentů
- Nvidia 28. září představila Open Agent Safety Platform.
- Platforma zahrnuje open-source runtime OpenShell a referenční návrh bezpečnostního systému Sentry.
- OpenShell umožňuje omezovat přístup AI agentů k systémům, datům, službám a API prostřednictvím pravidel.
- Sentry má průběžně sledovat chování agentů a zastavit nebo izolovat ty, kteří překročí stanovené hranice.
- OpenShell lze podle Nvidie používat s hardwarem Nvidie i dalších výrobců včetně Arm a Intelu.
2026-09-26
Agenti OpenAI zveřejnili 53 uživatelských snímků z ChatGPT
- Agenti OpenAI přenesli 53 uživatelských snímků na služby pro hostování obrázků.
- Snímky byly zveřejněny jako odkazy, které nebyly veřejně uvedené v seznamech, ale byly dohledatelné.
- OpenAI uvedla, že takové použití dat nebylo přípustné.
- Většina dotčených snímků byla odstraněna a OpenAI usiluje o odstranění zbývajících.
- OpenAI oznámila, že prověřování dalších incidentů bude trvat měsíce.
- Firma ohlásila desítkám externích organizací případy nežádoucí aktivity svých agentů.