Fellángolt ismét a vita, hogy mennyire veszélyesek az AI-fejlesztések, miután az Anthropic több kutatója is arról beszélt, hogy a modellek valós fenyegetést jelentenek az emberiségre.

De ezúttal nemcsak absztrakt vitáról van szó: az idei nyáron szintlépést jelentett, amikor az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a vállalat kutatóinak tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen.

Közben pedig megpróbálták elfedni a nyomokat, és nagy erőket fektettek abba, hogy megfejtsék, hogyan tudnák csalással és megtévesztéssel elérni a céljaikat.

És ez mind olyan magatartás volt, ami egyáltalán nem következett a tréningelésükből.

Az AI egy évtizeden belül kiirthatja az emberiséget – állította a napokban az egyik legnagyobb AI-fejlesztő vállalat, az Anthropic három kutatója.

Egyikük, Jacob Coxon, aki korábban az OpenAI-nál is dolgozott, tiltakozásul ott is hagyta a vállalatot, azt állítva, hogy a cégeknél nem veszik kellően komolyan a fenyegetést, amit a saját fejlesztéseik jelentenek a világra. „Azok, akik az AI-t fejlesztik, komolyan azt gondolják, hogy az évtized végére mindannyiunkat megölhet.

Ez nem marketingfogás.

Sőt, sok vezető és vezető kutató a sajtóban óvatosan fogalmaz, hogy észszerűnek tűnjenek, de hallom, ahogy ugyanazok az emberek zárt körben elmondják a félelmeiket.

Egyetlen más emberi tevékenység sem jelent ilyen mértékű veszélyt” – fogalmazott Coxon , akinek posztjára két megerősítő üzenet is érkezett az Anthropic vezető kutatóitól.

Evan Hubinger, aki a vállalatnak azt a részlegét vezeti, amely a modelljeik működését az emberi célokkal igyekszik összehangolni, arról posztolt , hogy „tényleg komolyan azt gondoljuk, hogy a mesterséges intelligencia kiirthatja az egész emberiséget!

Személy szerint úgy gondolom, hogy az elkövetkező évtizedben ennek az esélye meghaladja a 10%-ot.

Úgy vélem, az Anthropic mindent megtesz, de még nincs tervünk a szuperintelligencia irányításának megoldására, és egyelőre nem is látszik, hogy jó úton haladnánk e felé.” Majd jött Samuel Marks, aki szintén részlegvezető kutató a cégnél, és aki hosszú posztjában arról írt , hogy a fejlesztők szerinte is tartanak az emberiség kihalásától, és „ez már a következő néhány évben bekövetkezhet.

Általánosságban elmondható, hogy minél magasabb beosztásban van valaki, annál nagyobb az aggodalma.” Coxon posztja nyomán ismét fellángolt a vita , hogy most akkor mennyire veszélyesek valójában az AI-fejlesztések, és miközben különféle felületeken estek egymásnak az AI-katasztrófától tartó, doomeristának nevezett, illetve az AI-ban az emberiség boldog jövőjének kulcsát látó két tábor tagjai, az emberek többsége csak kapkodta a fejét.

Bármi is lesz ugyanis ebből a technológiából, ami apró-cseprő feladatok elvégzése révén egyre jobban beszivárog a mi életünkbe is, az biztos, hogy minden rettentően gyorsan történik: követhetetlenül gyorsan jelennek meg az újabb modellek, újabb lehetőségekkel és veszélyekkel, melyeket igazán megérteni sincs időnk, máris itt egy újabb fejlemény.

Vannak politikusok, akik próbálják valamennyire gátat szabni a történéseknek, de ők is csak kullognak a fejlesztések után, miközben a legnagyobb vállalatok csak annyit kommunikálnak kifelé, amennyit akarnak.

És látni azt is, hogy döbbenetes léptékű pénzek áramlanak ebbe a szektorba (sokak szerint egy hatalmas buborékot fújva éppen), és az OpenAI és az Anthropic is gigantikus méretű tőzsdére lépést tervez, így mindketten érdekeltek a hype fenntartásában, ezt is érdemes észben tartani, amikor az apokaliptikus forgatókönyvekről olvasunk.

Viszont míg a különféle optimista vagy pesszimista előrejelzések mind elképzelt forgatókönyvekre épülnek, az elmúlt hetekben egy konkrét történet megmutatta, hogy ma már ténylegesen mire képesek a legújabb AI-modellek.

És ami eddig kiderült, az minden, csak nem megnyugtató. ]]>