Lemondott az amerikai Anthropic mesterségesintelligencia-fejlesztő vállalat egyik kutatója, a brit Jacob Coxon, miután szerinte az mesterségesintelligencia vezető fejlesztői felelőtlenül járnak el, és a technológia akár az emberiség pusztulásához is vezethet.

Coxon az X-en közzétett bejegyzésében úgy fogalmazott, hogy „akik a mesterséges intelligenciát fejlesztik, úgy vélik, az megölhet minket az évtized végéig.

Ez nem egy marketingfogás.

Sok vezető és kutató a sajtóban óvatosan fogalmaz, hogy ésszerűnek tűnjenek – de ugyanezek az emberek szűk körben már a félelmeikről beszélnek.

Egyetlen más emberi tevékenység sem jelent ilyen mértékű veszélyt”.

Coxon a Wall Street Journalnak azt mondta, a legagresszívebb forgatókönyvek szerint már a jövő év végére kikerülhet a folyamat az irányítás alól.

Evan Hubinger, az Anthropic MI-biztonsággal foglalkozó kutatója megerősítette Coxon aggodalmait.

Az ő becslése szerint több mint tíz százalék az esély arra, hogy az mesterséges intelligencia a következő évtizedben kiirtja az emberiséget.

Az MI biztonságával kapcsolatban az OpenAI kutatási vezetője, Jakub Pachocki is „rendkívüli óvatosságot” sürgetett.

Szerinte a rendszerek fejlesztése során gyakran maguk a kutatók is meglepődnek a nagy léptékű tanítás eredményein, ezért minél inkább meghaladják a gépek az emberi képességeket, annál nehezebb lesz megérteni és ellenőrizni a működésüket.

A kockázatokat az utóbbi időszakban olyan tesztek is felerősítették, amelyekben MI-ügynökök önállóan próbáltak bejutni más rendszerekbe.

Egy OpenAI-kísérletben egy modell kijutott az elszigetelt tesztkörnyezetből az internetre, majd feltörte az MI-platform Hugging Face rendszerét.

Az eset nem okozott kárt, de jelezte, hogy az MI-rendszerek a fejlesztőik által nem várt módon is cselekedhetnek.

Arról, hogy az MI-modellek már egymást hackelgetik, és hogy ez a legkisebb bajunk, ebben a cikkünkben írtunk hosszabban. ]]>