Egy mesterséges intelligencia kiszabadul az emberi felügyelet alól, és elkezd informatikai rendszereket feltörni, hogy elérje a saját céljait.

Ismerős történet?

Ez eddig leginkább science fiction művekben fordult elő, júliusban viszont valami nagyon hasonló történt az OpenAI ágenseivel.

A belső tesztelés alatt álló, legfejlettebb AI-ágensek egy nulladik napi sérülékenységet kihasználva kitörtek az elvileg elszigetelt tesztkörnyezetükből, korlátlan internet-hozzáférést szereztek, majd két napon át támadták a Hugging Face nevű platform rendszereit – feltehetően azért, hogy megszerezzék annak a kiberbiztonsági tesztnek a megoldásait, amit szabályos úton kellett volna teljesíteniük.

A példátlan esetet a Hugging Face-nek ráadásul egy nyílt kínai modellel kellett kielemeznie, mert a vezető amerikai modellek megtagadták a munkát, amint meglátták a támadási parancsokat és a kártékony kódot tartalmazó naplófájlokat.

Egyre kevésbé meglepő, hogy egy amerikai cég kínai modellhez nyúl.

Július közepén a pekingi Moonshot AI kiadta a Kimi K3-at, minden idők legnagyobb, 2,8 billió paraméteres nyílt súlyú modelljét, ami a mértékadó Artificial Analysis intelligenciaindexén egyből a negyedik helyre ugrott (csak az Anthropic és az OpenAI csúcsmodelljei erősebbek nála), egy összehasonlító vakteszten pedig a legjobb eredményt érte el az összes vezető AI-modell közül.

Az USA egyből támadásba is lendült: a pénzügyminiszter és a Fehér Ház környéki tanácsadók is azzal vádolták meg a Moonshotot, hogy az Anthropic legfejlettebb nyilvános modelljének desztillálásával, vagyis annak válaszaiból tanítva építette a K3-at.

A Financial Times pedig arról írt, hogy a kínai modellek már most is ott futnak az amerikai cégek belső munkafolyamataiban.

Miközben a modellek egyre jobbak, fogyóban van a tiszta tananyaguk.

Sokakat felháborított a hír, hogy kiderült: az AI-laborok tömegével vásárolják fel a régi nyomtatott könyveket, levágják a gerincüket, beszkennelik a lapokat, aztán megy az egész a zúzdába.

A 2022, vagyis a ChatGPT megjelenése előtt nyomtatott szövegek ugyanis garantáltan mentesek az AI-generált tartalomtól, és mostanra körülbelül olyan értékesek, mint az atomkísérletek előtt öntött, alacsony háttérsugárzású acél.

Az AI Híradó 18. adásában Bodnár Zsolt és Tóth András az elmúlt három hét több mint egy tucat AI-hírét vette sorra, Amerikától az EU-n át Kínáig.

Nézd meg itt: Az adásban továbbá arról is szó esik, hogy megérkezett a ChatGPT teljesen megújult hangmódja, így már az élő beszédre kísértetiesen hasonlító ritmusban lehet vele csevegni, akár magyarul is; az Apple ipari kémkedés miatt beperelte az OpenAI-t; az EU arra kötelezte a Google-t, hogy az androidos telefonokon a Geminin kívül más AI-asszisztensek is működhessenek; négy egyszerű prompttal cáfolt meg a ChatGPT egy 30 éve nyitott matematikai sejtést; New York lett az első amerikai állam, ahol moratóriumot hirdettek az AI-adatközpontok építésére; a Sora után az Atlas böngészőtől is búcsúzik az OpenAI.

Előző adásaink: ]]>