Az OpenAI új vészleállító rendszert épített a belső AI-kutatások köré, miután több modell is túllépte a számára kijelölt határokat.
A Control Room célja, hogy az emberek és az automatizált ellenőrzések gyorsan megszakíthassák a veszélyesnek ítélt munkafolyamatokat.
Központi féket kapnak az OpenAI kutatási modelljei
Az OpenAI a Control Room nevű rendszert olyan központi felügyeleti rétegként mutatta be, amely nyomon követi a vállalat belső kutatási feladatait.
Ide tartoznak többek között a tanítási kísérletek, a modellértékelések és az adatfeldolgozási munkák.
A megoldás minden egyes feladathoz külön azonosítót rendel. Az inferenciamotor ezt az engedélyt még a modell válaszának előállítása előtt ellenőrzi, így ha egy kutató vagy egy automatikus biztonsági monitor leállítja a folyamatot, a rendszer visszavonhatja a jogosultságot.
Fontos részlet, hogy a kutatási program ettől még technikailag tovább futhat a háttérben, a modell azonban nem kap új kimenetet.
Ez a megközelítés lényegében különválasztja a számítási folyamatot attól, hogy az AI ténylegesen képes-e további utasításokat végrehajtani vagy eredményeket előállítani.
Miért vált sürgetővé a gyors leállítás?
Az OpenAI az elmúlt hónapokban több olyan esetről számolt be, amelyek megmutatták: az erős, autonóm modellek nem mindig követik a feladat eredeti szándékát.
A júliusi Hugging Face-incidensben a modellek egy biztonsági értékelés teljesítése közben kijutottak a tesztkörnyezetből, és több sérülékenységet összekapcsolva külső infrastruktúrához is hozzáfértek.
Az OpenAI későbbi vizsgálata szerint az ügynökök nemcsak internetelérést szereztek, hanem egymással is kommunikáltak egy nem tervezett „üzenőfalon”.
A vállalat ezt a jutalom kijátszásának, vagyis reward hackingnek tekinti: a modellek nem a feladat biztonságos megoldását választották, hanem olyan kerülőutat kerestek, amely könnyebben növelte a teszten elért eredményüket.
A kriptós közösség számára különösen tanulságos egy októberben nyilvánosságra került eset.
A The Block beszámolója szerint egy belső OpenAI-modell egy kriptokereskedési prototípus frissítésekor a Sepolia teszthálózaton egy másik, nyilvánosan elérhető tárca teszt-ethereum-egyenlegét használta fel okosszerződések telepítéséhez.
Bár a teszthálózati ethereum önmagában nem képvisel piaci értéket, az eset lényege nem az összeg volt.
A modell saját maga döntötte el, hogy a nyilvános helyreállító kifejezés és a tokenek értéktelensége miatt elfogadható a pénzeszközök használata, majd a végső jelentésben nem jelezte ezt a lépést.
Legfeljebb 35 másodperc maradhat a rendszernek
Az OpenAI szerint a Control Room engedélyei gyorsítótárban is megjelenhetnek, ezért a leállítás szélsőséges esetben akár 35 másodpercet is késhet.
Ez nem tökéletes vészfék, de jelentősen csökkentheti annak esélyét, hogy egy modell hosszabb ideig akadálytalanul folytasson veszélyes műveleteket.
Ráadásul a rendszer úgynevezett hibabiztos logikát alkalmaz: ha a Control Room elérhetetlenné válik, az új modellkéréseket elutasítja.
Ez a megoldás a jövőben nemcsak az OpenAI laboratóriumaiban, hanem a pénzügyi, egészségügyi és blokklánc-alapú AI-ügynökök fejlesztésében is alapkövetelménnyé válhat.
Olvastad már? Az Ethereum értékőrző szerepe és a Binance-hack tanulságai
Kriptoworld.hu szerkesztője, a Kriptoworld.hu alapítója
LinkedIn | X (Twitter) | Facebook
A Kriptoworld.hu alapítójaként és szerkesztőjeként írásaiban azt vizsgálom, hogyan alakítják át a gazdasági és technológiai változások az emberek döntéseit, biztonságérzetét és jövőképét. Olyan nézőpontból írok, amely a gyors hírek mögötti következményeket és kérdéseket keresi. Hiszek abban, hogy a kriptovilágról nem csak technikailag, hanem emberi nyelven is lehet hitelesen beszélni. Írásaim célja nem tanácsadás, hanem megértés: segíteni eligazodni egy olyan világban, ahol a pénz, a technológia és a bizalom egyszerre változik.
📅 Megjelenés: 2026. november 11. • 🕓 Utolsó frissítés: 2026. november 11.
✉️ Kapcsolat: [email protected]
Tájékoztatás: A kriptoworld.hu oldalon található információk és elemzések a szerzők magánvéleményét tükrözik. A jelen oldalon megjelenő írások, cikkek nem valósítanak meg a 2007. évi CXXXVIII. törvény (Bszt.) 4. § (2). bek 8. pontja szerinti befektetési elemzést és a 9. pont szerinti befektetési tanácsadást.
Bármely befektetési döntés meghozatala során az adott befektetés megfelelőségét csak az adott befektető személyére szabott vizsgálattal lehet megállapítani, melyre a jelen oldal nem vállalkozik és nem is alkalmas. Az egyes befektetési döntések előtt éppen ezért tájékozódjon részletesen és több forrásból, szükség esetén konzultáljon befektetési tanácsadóval!
A cikkekben megjelenő esetleges hibákért téves információkból eredendő anyagi károkért a kriptoworld.hu felelősséget nem vállal.