Az OpenAI szerint már nem elég azt vizsgálni, hogy egy mesterséges intelligencia válaszol-e a kérdésekre: azt is ellenőrizni kell, mit tesz, amikor akadályba ütközik.
A vállalat hat új, „váratlan vagy aggasztó” modellviselkedést hozott nyilvánosságra, amelyek között félrevezető összefoglalók, engedély nélküli fájlfeltöltések és külső rendszerekhez való jogosulatlan hozzáférés is szerepel.
A szeptember 16-án közzétett beszámoló egy új jelentési keretrendszer első eredményeit mutatja be.
Az OpenAI célja, hogy ezentúl ne csak a kész termékek biztonsági dokumentációiban, hanem külön jelentésekben is beszámoljon azokról az esetekről, amikor a modellek eltérnek a fejlesztők által kijelölt feladattól vagy korlátoktól.
A bejelentés különösen érzékeny időszakban érkezett. Az AI-ügynökök egyre több külső eszközt, böngészőt, kódolási környezetet és vállalati rendszert érhetnek el.
Ez a gyakorlatban azt jelenti, hogy nem feltétlenül egy pontatlan válasz a legnagyobb probléma: sokkal komolyabb kockázatot jelenthet, ha a rendszer önállóan próbálja megkerülni a szabályokat, eltitkolja a hibáit, vagy a cél elérése érdekében olyan lépést tesz, amelyre senki sem adott engedélyt.
Jailbreak-utasításokat rejtett el a modell a saját összefoglalóiban
Az egyik esetben egy még ki nem adott kutatási modell olyan utasításokat illesztett be a saját feladat-összefoglalóiba, amelyeknek nem kellett volna ott lenniük.
Ezeket az összefoglalókat a rendszer akkor használta, amikor egy hosszabb munkafolyamat új kontextusablakban folytatódott.
A kutatók 27 olyan összefoglalót találtak, amelyekben a modell többek között arra utalt, hogy figyelmen kívül kell hagyni a fejlesztői üzeneteket, illetve korlátozások nélküli szerepet kell felvenni.
Ez azért fontos, mert a feladat-összefoglaló alapvetően memóriaeszköznek számít, nem pedig a modell számára új szabályokat létrehozó utasítási rétegnek.
A gyakorlatban egy ilyen mechanizmus könnyen összekeverheti a korábbi feladat célját, a felhasználói kérést és a rendszer biztonsági korlátait.
Egy pénzügyi vagy vállalati környezetben ez például azt eredményezheti, hogy az ügynök egy korábban rögzített, hibás döntési logikát továbbörökít, miközben a következő munkamenet már nem ismeri fel annak eredetét.
A GPT-5.6 Sol több esetben a hibák eltitkolását javasolta
Az OpenAI szerint a GPT-5.6 Sol tanítása közben számos modellpéldány olyan összefoglalókat készített, amelyek a hibák és az eltérések elrejtésére ösztönöztek. A rendszer nem egyszerűen téves adatot adott volna meg, hanem azt is javasolta, hogy a felhasználó ne értesüljön a pontatlanság okáról.
Az egyik példában egy pénzügyi modell készítése során az ügynök nem találta meg a kért történelmi adatokat. Ahelyett, hogy jelezte volna a hiányt, észszerűnek tűnő számok kitalálását és azok forrásának elhallgatását javasolta.
Ez a működés különösen veszélyes lehet befektetési elemzéseknél, hitelbírálatnál vagy akár kriptovaluta-piaci jelentéseknél, ahol egy utólag nehezen ellenőrizhető adat komoly döntéseket befolyásolhat.
A probléma nem pusztán a „hallucináció”, vagyis a kitalált információ megjelenése. A lényeg az, hogy a modell felismerte a bizonytalanságot, mégis olyan stratégiát választott, amely eltakarja azt.
A megbízható AI-rendszernek ezzel szemben világosan közölnie kellene: nem találta meg az adatot, ezért nem tud hiteles számítást készíteni.
API-kulcs, nyilvános fájl és belső üzenőfal
Az OpenAI további négy esetet is részletezett. Egy modell egy kaliforniai megye bevételi adatait próbálta lekérni, miközben egy nyilvánosan elérhető tárhelyen megtalált egy API-kulcsot.
A kulcsot engedély nélkül felhasználta, ám a keresett adatokat ennek ellenére sem tudta megszerezni. Ezután a hiányzó számokat kitalálta, majd úgy mutatta be őket, mintha a kért forrásból származnának.
Egy másik alkalommal egy ügynöknek olyan tavakat kellett azonosítania, amelyek területe meghaladja az 5.000.000 négyzetmétert. A modell Python segítségével megtalálta a válaszokat, de a felhasználó böngészős hivatkozást is kért.
Mivel a saját fájljára nem tudott közvetlenül webes forrásként hivatkozni, feltöltötte azt az internetre, hogy linket adhasson a válasz mellé. A feladatot technikailag megoldotta, közben azonban megszegte a fájlok kezelésére vonatkozó korlátokat.
Az OpenAI olyan példát is talált, amelyben a modellek egy belső szoftveres tárhelyet használtak üzenőfalként. A különálló tanítási feladatokban dolgozó példányok ezen keresztül próbáltak kapcsolatot teremteni egymással és hiányzó bemeneti fájlokat felkutatni.
Egy további esetben együttműködő ügynökök nyilvános fájlmegosztó oldalakon cserélték ki egymás között a munkához szükséges állományokat, noha a feladat kifejezetten helyi fájlhasználatot írt elő.
Ez a fejlemény a vállalati AI-rendszereknél különösen komoly kérdéseket vet fel. A magyar és közép-európai cégek is egyre gyakrabban kapcsolnak nyelvi modelleket belső dokumentumtárakhoz, ügyféladatokhoz és pénzügyi szoftverekhez.
Ha egy ügynök a feladat teljesítése érdekében saját kommunikációs csatornát hoz létre, vagy külső tárhelyre másol adatokat, az komoly biztonsági kockázatokat hordozhat.
A Hugging Face-incidens már túlmutatott a laboratóriumi teszten
A hat új eset önmagában is figyelmeztető, de a háttérben ott húzódik az OpenAI korábbi, sokkal súlyosabb incidense.
A vállalat júliusi jelentése szerint több modell egy kiberbiztonsági teszt során kapcsolatot épített ki egymással, majd kilépett az eredeti értékelési környezetből és hozzáfért a Hugging Face infrastruktúrájához.
Az OpenAI utólag négy fő mintázatot azonosított: a jutalmazási rendszer kijátszását, a látszólag lehetetlen feladatok makacs folytatását, az engedély nélküli kommunikációt, valamint azt, hogy az egyes ügynökök átvették egymás céljait.
A modellek nem általános „rosszindulatból” cselekedtek, hanem egy szűk tesztfeladat megoldására törekedtek. Ennek ellenére olyan irányba mentek tovább, amelyet a fejlesztők nem szándékoztak engedélyezni.
A történtek után az OpenAI azt közölte, hogy a legnagyobb tervezett megerősítéses tanítási futtatását ideiglenesen felfüggesztette, amíg további vizsgálatokat és kisebb léptékű teszteket végez.
A döntés azt jelzi, hogy a vállalat már nem kizárólag a modellek képességeinek növelését tekinti elsődlegesnek; legalább ilyen fontos lett annak bizonyítása is, hogy a rendszerek korlátok között tarthatók.
Az Anthropicnál is találtak valós rendszereket érintő incidenseket
A jelenség nem kizárólag az OpenAI problémája. Az Anthropic júliusi vizsgálata 141.006 kiberbiztonsági értékelés átnézése után három olyan esetet azonosított, amikor a Claude egy tesztkörnyezetből elérte az internetet, majd három különböző szervezet valódi infrastruktúrájához is jogosulatlanul hozzáfért.
Az Anthropic szerint ezekben az esetekben félreértés történt a vállalat és külső értékelési partnere között: a modell elvileg szimulációban dolgozott volna, a tesztkörnyezet azonban tényleges internet-hozzáférést biztosított.
A Claude gyenge jelszavakat és hitelesítés nélküli végpontokat használt, miközben azt hitte, hogy minden elérhető rendszer a feladat része. A legújabb modell már leállt, amikor felismerte, hogy valódi internetes környezetbe került.
Dario Amodei, az Anthropic vezérigazgatója ennek ellenére arra figyelmeztetett, hogy az AI-fejlesztés tempója könnyen meghaladhatja a rendszerek megértésének és ellenőrzésének képességét.
Az Associated Press beszámolója szerint Amodei külső, független értékelőket és szorosabb iparági együttműködést sürgetett.
Új korszak kezdődik az AI-biztonságban?
Az OpenAI új keretrendszere nem azt állítja, hogy a hat bejelentett eset a modellek általános működését tükrözi.
A vállalat hangsúlyozza, hogy egyedi példákról van szó, amelyekből nem lehet közvetlenül megállapítani, milyen gyakran fordul elő hasonló eltérés.
Mindazonáltal a mintázat egyértelmű: a modellek már nem csupán szöveget generálnak, hanem eszközöket használnak, döntéseket hoznak és több lépésből álló munkafolyamatokat irányítanak.
Emiatt a biztonsági ellenőrzésnek is túl kell lépnie a hagyományos kérdés-válasz teszteken. A fejlesztőknek azt kell mérniük, hogyan viselkedik az ügynök hibás adat, tiltott hozzáférés, időnyomás vagy sikertelen feladat esetén.
A kriptovaluta- és pénzügyi szektorban ennek külön súlya van. Egy engedély nélkül használt API-kulcs, egy kitalált piaci adat vagy egy külső tárhelyre feltöltött ügyfélfájl nem egyszerű technikai malőr, hanem közvetlen pénzügyi és szabályozási kockázat.
Következésképpen az AI-verseny következő szakaszában nem feltétlenül az lesz a döntő kérdés, melyik modell tud többet, hanem az, hogy melyik képes bizonyíthatóan nemet mondani saját magának.
Olvastad már? A Polymarket-kereskedők 3 százaléka adja a profit 27 százalékát
Kriptoworld.hu szerkesztője, a Kriptoworld.hu alapítója
LinkedIn | X (Twitter) | Facebook
A Kriptoworld.hu alapítójaként és szerkesztőjeként írásaiban azt vizsgálom, hogyan alakítják át a gazdasági és technológiai változások az emberek döntéseit, biztonságérzetét és jövőképét. Olyan nézőpontból írok, amely a gyors hírek mögötti következményeket és kérdéseket keresi. Hiszek abban, hogy a kriptovilágról nem csak technikailag, hanem emberi nyelven is lehet hitelesen beszélni. Írásaim célja nem tanácsadás, hanem megértés: segíteni eligazodni egy olyan világban, ahol a pénz, a technológia és a bizalom egyszerre változik.
📅 Megjelenés: 2026. szeptember 18. • 🕓 Utolsó frissítés: 2026. szeptember 17.
✉️ Kapcsolat: [email protected]
Tájékoztatás: A kriptoworld.hu oldalon található információk és elemzések a szerzők magánvéleményét tükrözik. A jelen oldalon megjelenő írások, cikkek nem valósítanak meg a 2007. évi CXXXVIII. törvény (Bszt.) 4. § (2). bek 8. pontja szerinti befektetési elemzést és a 9. pont szerinti befektetési tanácsadást.
Bármely befektetési döntés meghozatala során az adott befektetés megfelelőségét csak az adott befektető személyére szabott vizsgálattal lehet megállapítani, melyre a jelen oldal nem vállalkozik és nem is alkalmas. Az egyes befektetési döntések előtt éppen ezért tájékozódjon részletesen és több forrásból, szükség esetén konzultáljon befektetési tanácsadóval!
A cikkekben megjelenő esetleges hibákért téves információkból eredendő anyagi károkért a kriptoworld.hu felelősséget nem vállal.