Elszabadult az OpenAI mesterséges intelligenciája: olyat tett, amin a kutatók is meglepődtek

Az OpenAI bejelentette, hogy egy rövid időre elvesztették az irányítást az egyik legfejlettebb mesterséges intelligencia modelljük fölött egy biztonsági teszt során, ez a kevéske idő pedig elég volt arra, hogy a rendszerük feltörjön egy világhírű startupot – írja a BBC .

A ChatGPT készítője azt állította, hogy az MI-ügynököt ellenőrzött környezetben tesztelték, azonban miután rábukkant egy sebezhetőségre, lényegében elszabadult, és megtámadta a rendszert.

Az ügynök a Hugging Face-t, a világ egyik legnagyobb mesterséges intelligencia modellek megosztására szolgáló központját vette célba, hozzáférést szerezve néhány belső vállalati rendszerhez.

Az OpenAI azt nyilatkozta, hogy az eset teljesen példátlan, és a Hugging Face-szel közösen vizsgálatot folytat.

A megtámadott cég vezetője, Clement Delangue egy X-en közzétett bejegyzésében azt írta: „elképesztő, hogy mindez automatikusan történt”.

Hozzátette: a nyomozás folyamatban van, és további információkat fognak megosztani a világ talán első ilyen jellegű incidenséről.

Mit mondanak a szakértők?

A szakértők úgy kommentálták az esetet, hogy az OpenAI minden bizonnyal nem készített elég biztonságos tesztkörnyezetet, és így az ügynök kibertámadást indíthatott a sandbox ellen, mely során egy olyan sebezhetőséget talált, amely lehetővé tette számára a menekülést.

Ez azonban nem példátlan: korábban is voltak hasonlóra.

Ugyanakkor sokan azt is felvetették, hogy ez egy sima marketingfogás is lehet: az OpenAI ugyanis épp tőzsdére kíván vonulni, és intenzív nyomás alá kerül a rivális Anthropic részéről, amelynek Mythos modellje az amerikai kormányzati biztonsági rendszereket játszotta ki könnyedén.

Kapcsolódó „Ezek a cégek akkorára nőttek, mint egy-egy ország” – van-e még fék az MI-vonaton?

Donald Trump Anthropic elleni döntése populista látszatcselekvés, és nem valódi megoldás a problémára – mondta a 24.hu-nak Rab Árpád jövőkutató, aki szerint illúzió az a hit, hogy egy technológiai előnyt kizárólagosan birtokolhat egy-egy ország.

The post Elszabadult az OpenAI mesterséges intelligenciája: olyat tett, amin a kutatók is meglepődtek first appeared on 24.hu .