Ritkán fordul elő, hogy Texas republikánus szenátora, Ted Cruz és szocialista demokrata Bernie Sanders egyetértsen valamiben, de úgy tűnik, a mesterséges intelligenciától való félelem egy platformra hozta őket .

Cruz az ABC The View című műsorában katasztrofális kockázatnak nevezte az AI-t, és felidézte, hogy tavaly a podcastjében megkérdezte Elon Muskot, mekkora az esélye, hogy az AI elpusztítja az emberiséget, a milliárdos pedig 10-20 százalékot mondott.

Sanders ezenfelül bejelentette , hogy hamarosan törvényjavaslatot nyújt be a szuperintelligencia betiltásáról és az AI-fejlesztések szüneteltetéséről.

A vihart Jacob Coxon kedd esti X-bejegyzése indította el .

A 27 éves, Cambridge-en végzett AI-kutató 2023-tól 2026 első feléig az OpenAI-nál dolgozott, ahol a GPT-4o egyik fő fejlesztője volt, majd átigazolt az Anthropichoz, ahol alig két hónapot töltött.

Szerinte egyik cég sem jár el felelősen: az önmagát fejlesztő szuperintelligencia felé száguldanak, és ezzel az emberek életével játszanak.

Úgy fogalmazott, hogy az AI fejlesztői komoly kockázatnak tartják, hogy a technológia az évtized végére mindannyiunkkal végezhet.

A posztot mára 145 millióan látták, és Coxon azóta a Wiredtől a Time-on át a CNN-ig mindenkinek nyilatkozott.

A kutató a laborok közötti összehangolást és a képességfejlesztés ideiglenes tilalmát sürgeti.

A poszt valószínűleg az elmúlt hetek-hónapok AI-biztonsági incidensei miatt is talált most ekkora visszhangra.

Júliusban egy biztonsági gyakorlat során az OpenAI ágensei jutottak ki a tesztkörnyezetből, majd feltörték a Hugging Face AI-platformot, hogy megszerezzék egy feladat megoldását, augusztusban pedig az Anthropic jelentette, hogy elszabadult ágensei álprofilokat is létrehozva próbáltak feltörni más oldalakat.

Az Anthropic számára különösen kínos, hogy Coxon állításait nem cáfolták, hanem a saját munkatársai támasztották alá.

Evan Hubinger, a cég alignmenttel foglalkozó (ez az AI emberi értékekkel és célokkal való összehangolását jelenti) részlegének egyik vezetője azt írta : „Jacobnak igaza van – tényleg komoly veszélynek tartjuk, hogy az AI minden emberrel végezhet.” Sőt, szerinte több mint 10 százalék az esélye, hogy az AI a következő évtizedben kiirtja az emberiséget, és az Anthropicnak egyelőre nincs terve arra, hogyan lehetne a szuperintelligenciát az emberi célokhoz igazítani.

Hubinger később pontosított: a cég kockázati jelentése átláthatóan beszámol a példátlan jövőbeli veszélyekről, de az AI a mai formájában még nem ennyire erős.

Az Anthropic a CNN megkeresésére erre a pontosító posztra hivatkozott .

A helyzet iróniája, hogy a céget éppen olyan volt OpenAI-munkatársak alapították , akik a biztonsági szempontok miatt váltak ki, és Coxon idén már a második Anthropic-munkatárs, aki látványosan távozik: februárban a biztonsági kutatócsoportot vezető Mrinank Sharma azzal mondott fel, hogy „a világ veszélyben van”.

Coxon bejegyzésére reagálva több politikus is új AI-szabályozást sürget.

A texasi demokrata Greg Casar, Sanders szövetségese vészhelyzetről beszélt, és kongresszusi meghallgatásokat követel.

Ted Lieu kaliforniai demokrata képviselő szerint a poszt már a sokadik bizonyíték arra, hogy mielőbb el kell fogadni a pártokon átívelő, úgynevezett „AI-vészkapcsoló” törvényt.

Sanders és Casar javaslatát egyébként már szeptember 3-án bejelentették: a szuperintelligencia betiltásáról szóló törvény új, miniszteri szintű szövetségi ügynökséget hozna létre, a tilalmat megszegő cégekre „vállalati halálbüntetés”, a magánszemélyekre legfeljebb húsz év börtön várna, hasonlóan az atomfegyverek illegális fejlesztéséhez.

Az elemzők szerint azonban a Kongresszusnak gyakorlatilag nincs esélye arra, hogy a novemberi félidős választások előtt érdemben foglalkozzon a legsúlyosabb AI-kockázatokkal, és a törvényhozók többsége egyébként is elfogadja a Trump-kormányzat (és az AI-cégek) érvelését, miszerint az AI-fejlesztések korlátozása azt eredményezné, hogy az Egyesült Államok alulmarad a Kínával folytatott versenyben .

Ráadásul a vita nem pusztán politikai: az AI miatti kihalás kockázatára adott becslések személyes szakértői vélemények, és nincs tudományos konszenzus arról, hogy a szuperintelligens AI, ha egyáltalán elérhető, valóban az emberiség pusztulásához vezetne.

Kapcsolódó cikkek a Qubiten: ]]>