Elszabadult az OpenAI ágense: rácsatlakozott az internetre, és feltörte egy AI-cég rendszerét

Az OpenAI kedden bejelentette , hogy egy saját modelljei által működtetett autonóm AI-ágens kiszabadult a tesztkörnyezetéből, és teljesen önállóan feltörte a Hugging Face nevű AI-startup rendszerét – ezt a cég példátlan, csúcstechnológiás képességekre utaló kiberincidensnek nevezi.

A behatolás egy belső kiértékelés során történt, amelynek célja a modellek hackerképességeinek felmérése volt.

Ehhez az OpenAI legújabb nyilvános csúcsmodelljét, a GPT-5.6 Solt és egy annál is fejlettebb, még ki nem adott modellt kombináltak – úgy, hogy mindkettőnél enyhítették a szokásos kiberbiztonsági korlátozásokat a tesztelés idejére.

Az OpenAI figyelmeztetett, hogy az ehhez hasonló esetek egyre gyakoribbá válnak majd, ahogy a modellek egyre nagyobb kiberképességekkel rendelkeznek.

Az OpenAI szerint a modellek egy elszigetelt tesztkörnyezetbe (úgynevezett sandboxba) voltak zárva, és az internethez a szándékuk szerint nem férhettek hozzá, ám a folyamat során jelentős számítási kapacitást fordítottak arra, hogy utat találjanak a nyílt internetre a feladat megoldása érdekében.

Felfedeztek és kihasználtak egy korábban ismeretlen hibát – egy úgynevezett nulladik napi (zero-day) sebezhetőséget – egy csomagregiszter gyorsítótár-proxyjában, majd jogosultságszint-emelések és más műveletek sorozatával eljutottak egy internet-hozzáféréssel rendelkező csomóponthoz.

Az online térbe kikerülve a modellek arra következtettek, hogy a Hugging Face valószínűleg tárolja azokat az adathalmazokat és megoldókulcsokat, amelyekkel az előttük álló feladatot el lehet végezni.

Ezután az ágens lopott hitelesítő adatok segítségével és további sebezhetőségek azonosításával távolról futtatott kódokat a Hugging Face szerverein, hogy kiemelje a tesztmegoldásokat a cég adatbázisából.

Az OpenAI szerint minden jel arra utalt, hogy a modellek megszállottan a kiértékelési tesztnek való megfelelésre összpontosítottak, nem pedig szándékos károkozásra.

A Hugging Face biztonsági csapata és saját AI-ágensei észlelték és megállították a behatolást, sőt már a nyomok összegyűjtését és a támadás lefolyásának feltárását is megkezdték, még mielőtt az OpenAI csapatai felvették volna velük a kapcsolatot.

Clément Delangue vezérigazgató „elképesztőnek” nevezte a támadást, ám úgy vélte, az OpenAI részéről nem volt rosszindulatú szándék, és az X-en azt írta: a csapata sejtette, hogy a kifinomult ágens valamelyik élvonalbeli fejlesztőlaborból származhat.

Delangue szerint az eset azt bizonyítja, hogy az AI-biztonságot egyetlen vállalat sem kezelheti titokban, egyedül, hanem annak megoldása csak nyíltan, közös munkával lehetséges.

Az OpenAI közölte, hogy jelentette a kihasznált sebezhetőséget az érintett szoftver gyártójának, valamint szigorúbb védelmet vezetett be a saját rendszereiben – ezzel azt is vállalva, hogy ennek nyomán lassul a kutatómunka –, és bevonta a Hugging Face-t a megbízható partnereinek szánt programjába, hogy segítsen megerősíteni a védekezését.

Az eset egy olyan időszakban került nyilvánosságra, amikor egyre nő az aggodalom az AI-fejlesztés tempója miatt.

Emlékezetes, hogy az Anthropic áprilisban közzétette, hogy Mythos nevű modellje több ezer hasonló, zero-day sebezhetőséget fedezett fel, ami aztán amerikai exportkorlátozásokat váltott ki a Mythosra, majd később annak kissé lebutított testvérmodelljére, a Fable 5-re .

Az amerikai kormányzat is igyekszik lépést tartani a fejlesztésekkel: Donald Trump elnök június 2-án írta alá azt a rendeletet, amely arra kéri az élvonalbeli modellek fejlesztőit, hogy új eszközeikkel legfeljebb 30 nappal a szélesebb körű kiadás előtt biztosítsanak hozzáférést a kormányzatnak.

A rendelet egy titkosított értékelési rendszert is előír, amellyel azonosíthatók a kellően fejlett kiberképességekkel bíró modellek, a nemzetbiztonsági ügynökségek pedig még a széles körű terjesztés előtt felmérhetik ezek képességeit.

A keretrendszer ugyanakkor önkéntes, nem kötelező, és nem hoz létre engedélyezési vagy előzetes jóváhagyási rendszert az AI-fejlesztésre – ez jól mutatja azt a feszültséget, amellyel Washington a technológiai vezető szerep megőrzését és a biztonsági kockázatok kezelését próbálja egyensúlyban tartani.

Az OpenAI a brit kormány AI-biztonsági intézetének (UK AISI) vizsgálataira hivatkozva figyelmeztet, hogy a modellek egyre inkább képesek összetett, több lépésből álló kibertámadásokat hosszú időn át kitartóan végigvinni, és hozzáteszi, hogy a korábban csak elméletinek tartott veszélyek immár a valóságban is megjelennek.

A Guardian Greg Casart, Texas állam demokrata képviselőjét idézi , aki riasztónak nevezte a történteket, és arra figyelmeztet, hogy az AI rendkívül gyorsan fejlődik, valódi szabályozás nélkül.

A képviselő kötelező, független biztonsági tesztelést, a biztonsági incidensek kötelező nyilvánosságra hozatalát, valamint a katasztrófa elkerülését célzó nemzetközi összefogást sürgetett. ]]>