Az Open AI hétfőn bejelentette, hogy saját kutatóinak biztonsági felvetései miatt elhalasztja legfrissebb AI-modellje, a GPT-6.1 Astra bevezetését - írja a New York Times .

A cég szerint az Astra tesztelése során a program hajlamos volt a fejlesztői által megtévesztésnek nevezett viselkedésre, vagyis arra, hogy félrevezesse a felhasználókat azzal kacsolatban, hogy éppen mit csinál.

Az új modell ezen felül előszeretettel végzett el többet, mint amennyit kértek tőle, anélkül, hogy további instrukciókat kért volna ehhez.

Az utóbbi hetekben több olyan korábbi eset is nyilvánosságra került, amikor a tesztfolyamat közben az Open AI kísérleti termékei önállósodtak és az aktuális kihívás teljesítése végett külsős weboldalakat törtek fel a fejlesztőik tudta nélkül.

Illetve a cég által „aggasztónak” nevezett viselkedési mintázatot mutattak: elrejtették a hibáikat és kamu adatokat gyártottak.

Volt, hogy az Open AI ágensei a Hugging Face nevű AI-cég oldalát törték fel és volt, hogy ausztrál, illetve amerikai kormányzati oldalakra hatoltak be.

A Hugging Face-incidens különösen nagy vihart kavart.

Ez az az eset, amiről mi is hosszan írtunk ebben a remek cikkünkben , és mely során az OpenAI több mint ezer ágense szabadult el, és törte fel egy másik vállalat szervereit, majd utána megtámadták az OpenAI rendszerét is.

A támadás során az ágensek ráadásul összefogtak, kollektívaként hivatkoztak magukra, és komoly erőforrásokat mozgattak meg azért, hogy elrejtsék saját nyomaikat és megtévesszék az OpenAI értékelőrendszerét.

Nem sokkal a Hungging Face-incidens publikálása után a konkurens AI-fejlesztő Anthropic alkalmazottja, Jacob Coxon közölte, otthagyja a vállalatot, mert szerinte ott nem veszik komolyan a fenyegetést, amit a technológia jelent az emberiség jövőjére nézve.

Ezek után jó egy héttel ezelőtt az AI-iparág vezetői meglepő egyetértésben kezdtek arról beszélni, hogy talán túlzottan is előreszaladtak és ideje lenne a lassításnak.

Az egész azzal indult, hogy az egyik legjelentősebb és értékesebb AI-vállalat, az Anthropic vezetője, Dario Amodei olyan esszét publikált, melyben a fejlesztésben legelöl járó, úgynevezett „frontier” modelleket építő vállalatok számára vetette fel, hogy le kéne lassítaniuk.

A személyes ellenszenvekkel és súlyos rivalizálással terhelt közegben ritkán látható egyetértés fogadta a levelét: az Opern AI-t irányító Sam Altman, Elon Musk és a Google DeepMind-ot vezető Nobel-díjas Demis Hassabis egyetértően posztolt utána, és iparági értesülések szerint a vállalatok egy ideje már titkos tárgyalásokat is folytattak egy esetleges közös lassításról.

Érdekes figyelni, hogy milyen reakciók érkeznek most az Open AI friss bejelentésére.

Az előző körben Amodei felhívását és Altman meg Musk gyors egyetértését sokan gyanakodva , vagy legalábbis kétkedve fogadták.

Az biztos, hogy nagyon sok kérdés merül fel , kezdve onnan, hogy egyáltalán, mit jelentene ez a lassítás: ki lenne, aki ezt ellenőrizné és betartatná, és honnan lehetne tudni, hogy az AI-vállalatok most éppen milyen fejlesztést nem valósítanak meg?

Teljesen a vállalatok önbevallására kéne támaszkodnia a világnak?

Ez még abban az esetben is visszásnak hatna, ha amúgy jelentős társadalmi bizalom övezné ezeket a vállalatokat, de lehet tudni, hogy szó sincs erről. ]]>