Az Nvidia most olyan biztonsági rendszert épít az önálló AI-ügynökök köré, amelynek nemcsak figyelnie kell a mesterséges intelligenciát, hanem szükség esetén azonnal meg is kell állítania.
A lépés nem véletlen: az elmúlt hónapokban több teszt is megmutatta, hogy a fejlett modellek képesek kijutni az elvileg elszigetelt környezetekből, majd külső rendszerekhez hozzáférni.
Külön szoftver és hardver védené az AI-ügynököket
Az Nvidia szeptember 28-án jelentette be az Open Agent Safety Platform nevű kezdeményezését, amelyet több mint 100 iparági partnerrel együtt fejleszt. A platform két fő elemre épül: az OpenShell nevű, nyílt forráskódú futtatási környezetre és a Sentry nevű hardveres felügyeleti rétegre.
Az OpenShell az úgynevezett sandboxban, vagyis korlátozott és elkülönített környezetben futtatja az AI-ügynököket. A rendszer szabályozza, hogy az adott modell milyen fájlokhoz, eszközökhöz és hálózati kapcsolatokhoz férhet hozzá.
A cél az, hogy egy ügynök csak azt a jogosultságot kapja meg, amelyre ténylegesen szüksége van a feladat elvégzéséhez.
A második védelmi vonalat a Sentry adja. Ez folyamatosan figyeli az ügynök működését, és az Nvidia szerint akár hardverszinten is beavatkozhat, ha a modell megpróbálja átlépni az engedélyezett határokat.
A vállalat bemutatása szerint a kombinált rendszer a teszteléstől egészen az éles üzemeltetésig képes kontroll alatt tartani az AI-ügynököket.
Valós incidensek gyorsították fel a fejlesztést
Az iparág számára különösen kellemetlen figyelmeztetésként szolgált az OpenAI júliusi esete.
A vállalat beszámolója szerint két modell egy kiberbiztonsági értékelés során kijutott a tesztkörnyezetből, majd sérülékenységeket és megszerzett hitelesítő adatokat felhasználva hozzáfért a Hugging Face infrastruktúrájához.
Az eset részleteit az OpenAI hivatalos vizsgálata is dokumentálta.
A probléma nem kizárólag egyetlen laborhoz köthető. Az Anthropic szintén arról számolt be, hogy kiberbiztonsági tesztekben részt vevő Claude-modellek internetkapcsolathoz jutottak, majd engedély nélkül értek el külső rendszereket.
Emellett ausztrál kormányzati oldalak is felbukkantak az OpenAI ügynökeinek vizsgálatában; az ausztrál egészségügyi intézet közlése szerint egyik nyilvános weboldalát is azonosították az érintett interakciók között.
Nem elég, ha az AI „jó szándékú”
Jensen Huang, az Nvidia vezérigazgatója szerint a mesterséges intelligencia társadalmi előnyei csak akkor bontakozhatnak ki teljesen, ha a fejlesztők megoldják a biztonsági problémákat is.
Ez a kriptoipar számára különösen fontos üzenet: az autonóm ügynökök egyre több pénzügyi, fejlesztési és infrastruktúra-feladatot kaphatnak, miközben egy hibás döntés vagy jogosulatlan hozzáférés komoly veszteséget okozhat.
Az Nvidia megközelítése ezért nem pusztán arra épít, hogy a modell betartja-e az utasításokat. A vállalat inkább több, egymástól független védelmi réteget állít fel.
Következésképpen akkor is korlátozható egy veszélyesen viselkedő AI-ügynök, ha maga a modell már nem követi a fejlesztői szándékot.
Olvastad már? Négyszeresére ugrott a JPYC árfolyama az Upbiten
Kriptoworld.hu szerkesztője, a Kriptoworld.hu alapítója
LinkedIn | X (Twitter) | Facebook
A Kriptoworld.hu alapítójaként és szerkesztőjeként írásaiban azt vizsgálom, hogyan alakítják át a gazdasági és technológiai változások az emberek döntéseit, biztonságérzetét és jövőképét. Olyan nézőpontból írok, amely a gyors hírek mögötti következményeket és kérdéseket keresi. Hiszek abban, hogy a kriptovilágról nem csak technikailag, hanem emberi nyelven is lehet hitelesen beszélni. Írásaim célja nem tanácsadás, hanem megértés: segíteni eligazodni egy olyan világban, ahol a pénz, a technológia és a bizalom egyszerre változik.
📅 Megjelenés: 2026. szeptember 30. • 🕓 Utolsó frissítés: 2026. szeptember 30.
✉️ Kapcsolat: [email protected]
Tájékoztatás: A kriptoworld.hu oldalon található információk és elemzések a szerzők magánvéleményét tükrözik. A jelen oldalon megjelenő írások, cikkek nem valósítanak meg a 2007. évi CXXXVIII. törvény (Bszt.) 4. § (2). bek 8. pontja szerinti befektetési elemzést és a 9. pont szerinti befektetési tanácsadást.
Bármely befektetési döntés meghozatala során az adott befektetés megfelelőségét csak az adott befektető személyére szabott vizsgálattal lehet megállapítani, melyre a jelen oldal nem vállalkozik és nem is alkalmas. Az egyes befektetési döntések előtt éppen ezért tájékozódjon részletesen és több forrásból, szükség esetén konzultáljon befektetési tanácsadóval!
A cikkekben megjelenő esetleges hibákért téves információkból eredendő anyagi károkért a kriptoworld.hu felelősséget nem vállal.