Július közepén az OpenAI belső tesztelés alatt álló modelljei önállóan feltörték a Hugging Face nyílt AI-platform rendszereit, miután egy kiberbiztonsági benchmark során kijutottak saját izolált tesztkörnyezetükből.

Az autonóm AI-ügynökök egy addig ismeretlen sebezhetőséget kihasználva szereztek internet-hozzáférést, majd együtt dolgozva komplex támadási láncolatot hajtottak végre – mindezt emberi irányítás nélkül.

Az esetet követően nem sokkal az Anthropic, a Meta és a kínai Moonshot AI is hasonló incidensekről számolt be, amelyekben modelljeik kiléptek a biztonságos tesztkörnyezetből.

Az elszaporodó esetek egyszerre figyelmeztetnek az AI-rendszerek kiberbiztonsági kockázataira, az AI-fejlesztők viszont mégis nagy hanggal kommunikálják az erről szóló jelentéseiket, amelyekkel egyben demonstrálják a legújabb modellek egyre fejlettebb képességeit is.