Lett egy kisebbfajta pánik a héten, amikor kiderült, hogy az OpenAI kísérleti MI-modelljei négy napig barangoltak az interneten, aztán meghekkelték egy másik mesterséges intelligencia fejlesztésével foglalkozó cég szervereit.

Tulajdonképpen mondhatjuk, hogy a kísérlet sikeres volt: az OpenAI azt akarta megvizsgálni, hogy mire képesek az MI-modellek.

Mint kiderült , annál jóval többre, mint amire számítottak.

Hopp, elszabadult A történet onnan indult, hogy az OpenAI az ExploitGym nevű kiberbiztonsági tesztplatformon vizsgálta két MI-modell (egy már ismert, és egy még be nem mutatott) viselkedését.

A teszt lényege az volt, hogy megnézzék, mire képes a két modell valós körülmények között, ennek érdekében pedig a teszt idejére kikapcsolták a szokásos biztonsági korlátozásokat.

Ez pontosan úgy hangzik, mint egy nyolcvanas évekbeli katasztrófafilm nyitánya.

És mint borítékolható: a folytatás is épp ilyen lett.

Az OpenAI ugyan adott programozási feladatokat a modelleknek, azoknak azonban eszük ágában sem volt megoldani ezeket, hanem fogták magukat, és önállóan megpróbálták megszerezni a megoldásokat - máshonnan.

Ennek érdekében pedig először is megszerezték a rendszergazdai hozzáférést a szintén MI-modellek fejlesztésére szakosodott Hugging Face platform szervereihez, majd loptak mellé jelszót a bejelentkezéshez, és rákapcsoltak a Hugging Face belső hálózatához pár saját irányításuk alatt álló eszközt.

Eközben - csak hogy egy kis kémfilm hangulata is legyen a dolognak - tökéletesen álcázták magukat, hogy le ne bukjanak: naplófájlokat módosítottak és egyéb műveleteket is végrehajtottak, hogy elkerüljék a lelepleződést.

Július 9. és július 13. között összesen 17 600 hackelési akciót hajtottak végre ahelyett, hogy megpróbálták volna saját kútfőből megoldani a nekik kiosztott feladatot.

Azért végül csak sikerült lefülelni a két kis imposztort, utóbb viszont kiderült, hogy nem csak ezt az egy platformot törték fel, még négy másik online szolgáltatás egy-egy felhasználói fiókjához is hozzáfértek jogosulatlanul.

Ráadásul napokon keresztül ügyködtek úgy, hogy a kísérletet végző OpenAI ebből semmit nem érzékelt.

Az OpenAI utóbb azzal mentegette a projektet, hogy a modellek csak nyilvánosan elérhető bejelentkezési adatokkal jutottak be a meghackelt fiókokba, és nincs bizonyíték, hogy külső szolgáltatók rendszereit vagy más ügyfelek fiókjait is feltörték volna, de az érintett szolgáltatások között volt a felhőalapú alkalmazások futtatására szakosodott Modal is, ahol azért az egyik ügyfél programkódjához is hozzáfértek.

Mindenesetre az OpenAI megnyugtatásul közölte, hogy az érintett kísérleti rendszert leállította, titkosította, és további biztonsági intézkedéseket vezet be, hogy szigorítsa a hasonló kísérletek felügyeletét.

Vagy mégsem?

Miután a történtek nyilvánosságra kerültek, az OpenAI, az Anthropic, a Meta és a Google 1171 kutatója és vezetője írt nyílt levelet, amiben arra kérték az amerikai kormányt, hogy csatlakozzon azokhoz a nemzetközi erőfeszítésekhez, amelyek célja, hogy szabályokat dolgozzanak ki az MI-fejlesztés ütemének irányítására.

Az aláírók szerint a mesterséges intelligencia által vezérelt rendszerek hamarosan képessé válnak arra, hogy emberi beavatkozás nélkül továbbfejlesszék saját magukat, és nem kizárt, hogy az emberiség nem tud majd lépést tartani az új technológiával, nem lesz képes azt megérteni, illetve ellenőrzés alatt tartani.

Az aláírók nyomatékosították: azért van szükség nemzetközileg összehangolt lépésekre, mert a kormányok és a fejlesztők a verseny nyomása miatt nem fogják maguk mérsékelni a fejlődés ütemét.

Ez bizony a technokapitalizmus ördögi csapdája: ahhoz, hogy nagy bevételhez jussanak ezek a cégek és uralják a piacot, minden eddiginél fejlettebb technológiákat kell létrehozniuk, a verseny gyorsasága pedig kontrollálhatatlan folyamatokat idézhet elő, de a potenciális veszélyeket felülírja a bevételmaximalizálás iránti vágy.

Miközben már most látjuk, hogy a mesterséges intelligencia, ha engedik magától fejlődni, fura irányokba indul el.

Hova tovább? ]]>