Jelasity Márk: A mesterséges intelligencia működése az emberi gondolkodás két rendszerére emlékeztet

Júniusban rendeztük meg 13.

Qubit Live estünket , amelyen meghívott előadóinkkal az AI korlátaival, a körülötte kialakult hype-pal, valamint az általános mesterséges intelligencia (AGI) ígéretével foglalkoztunk.

A napokban megosztjuk az eseményen elhangzott előadásokat, a kerekasztal-beszélgetést és a nézői kérdésekre adott válaszokat is, hogy az is megnézhesse őket, aki nem tudott részt venni a Qubit+ előfizetőinek meghirdetett rendezvényünkön.

Alien Intelligence, vagyis idegen intelligencia – ezt a címet adta előadásának Jelasity Márk informatikus-matematikus-nyelvész, a Szegedi Tudományegyetem Mesterséges Intelligencia Tanszékének vezetője, aki azzal indított, hogy minden ma elérhető AI-alkalmazás egy kaptafára megy, és ez a kaptafa az adatalapú tanulás.

Ha meg akarjuk tanítani egy modellnek a sakklépéseket, akkor nem a szabályokat kell elmagyarázni neki, hanem elé kell rakni egymillió állást a hozzájuk tartozó szabályos lépésekkel, és rábízni, hogy jöjjön rá a mintázatra; ha kutyát és macskát kell megkülönböztetnie, 10-10 millió kutyás és macskás kép a recept.

A nyelvi modellektől a képgenerátorokig minden így működik, és ma már fel sem címkézik az adatokat, egyszerűen csak odaöntik a gépnek, ami az interneten fellelhető.

Ez sok esetben nagyon jól működik, de ebből következnek a hibái is.

Ilyenkor ugyanis a rendszer görbét illeszt az adatokra, vagyis határvonalat húz a kutyák és a macskák közé.

Csakhogy vannak képek, amelyek egyik kategóriába sem tartoznak, és ilyenkor a modell mégis rávágja, hogy ez kutya, vagy éppen macska, gyakran elképesztő magabiztossággal – ezt pedig adattal szinte lehetetlen orvosolni, mert nem lehet odaadni neki minden olyan képet, ami se nem kutya, se nem macska.

Ebből a görbeillesztésből olyan hibák fakadnak, amelyeket egy ember sosem követne el.

A DeepMind által kifejlesztett AlphaZero a saját maga generálta go-játszmákból tanul, ezért azokról az állásokról, amelyek gyenge lépések után állnak elő, gyakorlatilag semmit sem tud: egy friss kutatásban így találtak olyan, ciklikus csoportokra épülő stratégiát, amellyel egy amatőr játékos is legyőzi a világbajnokot verő programot.

A modellek ráadásul következetlenek is: egy kutya tükörképét macskának nézhetik, egy sakktábla 90 fokos elforgatása pedig – amitől a bábuk állása és így a győzelmi esély sem változik – elég ahhoz, hogy a modell ugyanarra az állásra előbb 1, majd elforgatva már 71 százalékos nyerési esélyt jósoljon.

A legmakacsabb jelenség viszont az, amikor két, emberi szemmel teljesen azonos bemenetre ad eltérő választ a gép: a nemrég akadémikussá választott matematikus, az Elon Musk-féle xAI-nál is megfordult Szegedy Krisztián és társai mutatták meg, hogy alig érzékelhető, célzott módosítástól a neurális háló gyakorlatilag bármit bele tud látni egy képbe – az ő kísérletükben minden manipulált fotóra rendületlenül azt mondta, hogy strucc.

Ugyanez a trükk működik látható, de lényegtelennek tűnő beavatkozásokkal is: egy tarka szemüveggel át lehet verni az arcfelismerő algoritmusokat, néhány matricától az önvezető autó sebességkorlátozó táblának nézi a stoptáblát, egyetlen zöld pixeltől pedig zöldnek a piros lámpát.

Mindebből Jelasity szerint az következik, hogy ezek a modellek nem úgy jutnak el a válaszig, ahogy az ember: „Nem húznak egy vonalat, hanem valahogy mozaikból kirakják a vonalat, ami kicsit hunyorítva vonalnak tűnik, de hogyha közelről megnézzük, akkor látszik, hogy nem az.” Vagyis nem egy általános szabályt tanulnak meg, hanem rengeteg apró mintából raknak össze valamit, ami távolról egy megtanult szabálynak látszik.

Ez a fajta működés a Nobel-emlékdíjas Daniel Kahneman által leírt kétféle gondolkodásmód közül a „gyorsra” emlékeztet: a reflexszerű, azonnali válaszra, szemben a lassú, tudatos, lépésről lépésre haladó gondolkodással.

A gondolatfák építése – amelyről Kocsis Levente is beszélt – már ez utóbbi felé mutat, ezért is lassabb egy fejlett érvelő modell a sima változatnál.

A kutatókat épp az foglalkoztatja, hogy ez a hasonlóság az emberi gondolkodás két rendszeréhez csak felszíni analógia-e, vagy valódi kapcsolat rejlik mögötte.

A gondolatfa mindenesetre nem gyógyír: a lassabb, lépésenkénti „gondolkodás” a hibák egy részét elfedi, a modell alaptermészetét viszont nem írja át – ezek a rendszerek továbbra is az embertől idegen módon fognak tévedni.

Az előadás most videó formájában is elérhető.

Nézd meg itt: Ha a következő tudományos estünkről te sem szeretnél lemaradni, lépj be mielőbb a Qubit+-ba!

A Qubit Live #13-at a Concorde Értékpapír Zrt. támogatta. ]]>