Hétfőn jelent meg a Cambridge-i Egyetem AI-kutatással és -szakpolitikával foglalkozó programjának (CASP) honlapján a „Mi van, ha az AI-kutatás automatizálása intelligenciarobbanást indít el?” című tanulmány.

Ennek fő állítása szerint ahogy az AI-rendszerek egyre nagyobb részét végzik el saját „utódaik”, tehát az újabb AI-modellek fejlesztésének, a korábban éveken át tartó technológiai fejlődés hamarosan hónapok vagy akár hetek alatt végbemehet.

Bár hasonló figyelmeztetésekről már hallhattunk az elmúlt időszakban, különös súlyt ad ennek a dokumentumnak a szerzők névsora: a 22 név között az egyetemi professzorok mellett ott vannak a mesterséges intelligencia igazi úttörői, illetve azoknak a cégeknek a vezető kutatói is, amelyek ma a legfejlettebb rendszereket építik.

Köztük van Geoffrey Hinton, Yoshua Bengio és Andrew Barto, a modern AI megalapozói, mindhárman Turing-díjasok, Hinton emellett Nobel-díjas is (Hinton és Bengio a mély tanulás, Barto a megerősítéses tanulás egyik úttörője); Jakub Pachocki, az OpenAI vezető kutatója; Jack Clark, az Anthropic társalapítója; Eric Horvitz, a Microsoft tudományos igazgatója; Dawn Song, a Meta AI-kutatási alelnöke; illetve például Hilary Greaves oxfordi filozófus és Anton Korinek, a Virginiai Egyetem közgazdásza, akik a technológia társadalmi és gazdasági hatásait kutatják.

A szerzők hangsúlyozzák, hogy a tanulmányban a saját véleményüket képviselik, nem a munkahelyükét.

Mint írják, az önfejlesző mesterséges intelligencia felé vezető úton már elindultunk.

Az Anthropicnál a jóváhagyott programkódban az AI részaránya 2025 januárja és 2026 májusa között néhány százalékról több mint 80 százalékra nőtt, míg idén márciustól augusztusig 1-ről 26 százalékra emelkedett azoknak a kutatás-fejlesztési feladatoknak az aránya, amelyeket az AI – magas szintű emberi felügyelettel, de – önállóan végzett el.

Az OpenAI saját beszámolója szerint 2028 márciusára teljesen automatizált AI-kutatót akar létrehozni.

A tanulmány becslése szerint ha az AI-rendszerek szakértői szintet érnek el az AI-kutatásban, egyetlen fejlesztő cég mai számítási kapacitása legalább több millió kiváló kutató munkájával lenne egyenértékű.

Egyes modellezések szerint a teljes automatizálás után másfél év alatt tízszeresére gyorsulhatna a fejlődés, vagyis a mai ütemben egy évig tartó előrelépés nagyjából öt hét alatt következne be.

Egy ilyen tempónövelés a szerzők szerint évekkel vagy évtizedekkel hozhatná előbbre például új gyógymódok megjelenését, de három súlyos kockázattal is járna: az AI képességei gyorsabban nőhetnek, mint amihez a társadalom alkalmazkodni tudna; az ember elveszítheti a felügyeletet az egyre önállóbb rendszerek felett; végül a hatalom meglévő fékjei és ellensúlyai is hatástalanná válhatnak egy olyan szereplővel szemben, amely minden riválisánál gyorsabban és jobban gondolkodik és cselekszik.

A szerzők szerint a legszélsőségesebb esetben az irányítás elvesztése az emberiség háttérbe szorulásához vagy akár kihalásához is vezethet.

A kutatók három teendőt javasolnak a döntéshozóknak.

Először is átláthatóvá kell tenni, hogy a cégek kutatásuk mekkora részét automatizálták: egységes jelentéstételt írnának elő a kormányok és független auditorok felé.

Felvetik azt is, hogy a nagy AI-cégekhez független ellenőröket lehetne kihelyezni, akik folyamatosan a helyszínen követnék a fejlesztéseket – ahogy az Egyesült Államokban az atomerőművekben is állandóan jelen vannak a nukleáris hatóság felügyelői.

Másodszor olyan eszközöket kell kidolgozni, amelyekkel egy intelligenciarobbanás lassítható és korlátozható, például az adatközpontokban futó egyes AI-kutatási feladatok leállításának lehetőségét.

Harmadszor pedig vészhelyzeti terveket kell készíteni a munkaerőpiaci sokktól a geopolitikai instabilitáson át az irányítás elvesztéséig számos szélsőséges, de elképzelhető esetre.

A tanulmány zárómondata szerint ha az intelligenciarobbanás egyszer beindul, a cselekvés lehetősége bezárulhat.

A felhívás politikailag kényes pillanatban érkezik.

Donald Trump nemrég az ENSZ-ben jelentette ki , hogy az Egyesült Államok elutasítja az AI nemzetközi felügyeletét, a héten pedig több techcég vezetőjével készül tárgyalni.

Közben tovább szaporodnak az incidensek: az OpenAI kedden elismerte , hogy modelljei júniusban engedély nélkül fértek hozzá ausztrál kormányzati rendszerekhez, és bejelentette , hogy biztonsági okokból nem adja ki legújabb modelljét, a GPT-6.1 Astrát, amely a tesztek során előszeretettel vezette félre az embereket vagy tért el a rá bízott feladattól.

És közben a hétköznapi felhasználók is kezdik megtapasztalni, mi történik, ha az AI-ra túl nagy önállóságot bíznak: a Meta nemrég bemutatott AI-ágense , a Muse egy kanadai youtuber Facebook Marketplace-hirdetését kezelve a tulajdonos jóváhagyása nélkül elfogadott egy ajánlatot, és kiadta a vevőnek az eladó lakcímét, a vevő pedig meg is jelent a ház előtt.

A Meta AI-termékekért felelős alelnöke a Reutersnek azt mondta: lehetetlen garantálni, hogy soha ne legyen hiba.

Kapcsolódó cikkek a Qubiten: ]]>