Bűnözők, államilag támogatott csoportok, kémszoftver-forgalmazók, tudósok és propagandisták is megpróbálták felhasználni az Anthropic nagy teljesítményű mesterségesintelligencia-modelljeit rakéták és bombák tervezésére, halálos kórokozók létrehozására, valamint ellenzékiek megfigyelésére – derül ki magának a vállalatnak a fenyegetéselemzési jelentésből, amelyet csütörtökön tettek közzé . „Az itt megosztott esetek nem tipikus visszaélések, hanem az általunk eddig azonosított legjelentősebb és legújabb fenyegetési tevékenységek példái” – írta az Anthropic a 154 oldalas jelentésében. „Azért tesszük közzé ezt a munkát, mert úgy gondoljuk, hogy felelősségünk nyilvánosságra hozni a szolgáltatásainkkal való rosszindulatú visszaéléseket.” A vállalat öt olyan esettanulmányról részletesen is írt, amelyekben tudósok az AI-modelleket biológiai kutatásokhoz használták.

Ezekben a példákban az Anthropic szerint a kutatók megkerülték a „nem támogatott régiókból” érkező felhasználók kizárására szolgáló biztonsági intézkedéseket, és azon is dolgoztak, hogy elrejtsék munkájuk valódi célját. „A biológiai célú visszaélés a legfejlettebb AI-modellek egyik legsúlyosabb kockázata” – írta az Anthropic. „Megfelelő biztosítékok nélkül az ilyen képességeknek katasztrofális következményei lehetnek.” Az Anthropic közölte, hogy letiltotta ezeket a fiókokat.

A vállalat nem hozta nyilvánosságra a kutatóintézetek nevét, sem azokat az országokat, ahol a visszaélések történtek, mondván, hogy nem voltak biztosak a kutatók szándékait illetően.

Az Anthropic több tucat más példát is felhozott arra, amikor fenyegetést jelentő szereplők használták az AI-modelljeit.

Ezek közé tartoztak olyan kiberoperációk, mint az orosz kémkedés és a gyors, adatrabló (smash-and-grab) kibertámadások, megfigyelési műveletek, köztük egy kínai központú, a Szíriában élő ujgurokat, valamint egy másik, a belső ellenzékieket célzó program, propagandakampányok Oroszországban, Malajziában, Iránban és Bangladesben, továbbá a Claude AI-modell használata Jemenben, Kínában és Oroszországban hagyományos fegyverekhez – köztük lőfegyverekhez, rakétákhoz, fegyveres drónokhoz, bombákhoz és más lőszerekhez szánt szoftverek fejlesztésére.

A biológiai kutatások egyik példájaként az Anthropic talált egy tudóst, aki a Claude-ot egy államilag támogatott, a chikungunya-vírus tanulmányozására irányuló pályázat kidolgozására használta.

Ez a vírus egy szúnyogok által terjesztett betegség, a dengue-lázhoz és a maláriához hasonló, amely hónapokig tartó súlyos fájdalmat, lázat és más legyengítő tüneteket okozhat.

Az ilyen kutatásokat fel lehet használni vakcinák kifejlesztésére, de akár biológiai fegyverek létrehozására is.

Az Anthropic a New York Timesnak elmondta, hogy ez az eset különösen aggasztó volt, mivel látható volt, hogy a tanulmányt egy katonai kutatóintézetben végezték volna.

A jelentés alig két nappal azután jelent meg, hogy az Anthropic egyik alkalmazottja, Jacob Coxon felmondásával botrány robbant ki.

Coxon kijelentette, hogy azért hagyta ott a céget, mert az nem járt el felelősségteljesen a technológiája létrehozása során.

Szerinte az Anthropic és riválisa, az OpenAI „egyenesen az önfejlesztő szuperintelligencia felé száguld”, amely 2030-ra az emberiség kihalását fogja okozni.

Az Anthropic jelenlegi alkalmazottai közül többen nyilvánosan is egyetértésüket fejezték ki vele.

A Coxon által elmondottakról hosszan beszámoltunk ebben a cikkünkben . ]]>