Satya Nadella , a Microsoft vezérigazgatója, egy hosszabb X-bejegyzésben fejtette ki a véleményét a rendkívül fejlett mesterséges intelligencia-modellek veszélyeiről, valamint arról, hogy miként kellene szembenézni ezekkel a kockázatokkal.

Nem bízhatunk a fejlesztőkben Nadella szerint a mesterséges intelligencia rendszerek mára összetettebbé és képzettebbé váltak a hagyományos szoftvereknél, ám működésüket – belső súlyaiktól és adataiktól függetlenül – nem tudjuk pontosan lekövetni, ami komoly biztonsági kihívásokat jelent.

Mivel ezek az autonóm modellek hozzáférnek legféltettebb adatainkhoz és döntéseket hoznak helyettünk, nem bízhatunk vakon a fejlesztők ígéreteiben, hanem új bizalmi architektúra kiépítésére van szükség.

A Microsoft vezérigazgatója szerint a mesterséges intelligenciák mögött álló cégeket el kell választani a felettük gyakorolt hatalmat és felügyeletet biztosító rendszerektől, hasonlóan ahhoz, ahogyan a vállalati belső kockázatokat is kezeljük.

A kiszámíthatatlan mesterséges intelligenciát erős, determinisztikus külső korlátokkal, emberi ellenőrzéssel és független auditálási mechanizmusokkal kell körülvenni a rosszindulatú támadások vagy hibák megelőzése érdekében.

A rendszer stabilitása és biztonsága azon múlik, hogy a megfigyelhetőségre, a sokszínűségre és a folyamatos ellenőrizhetőségre építve minimálisra csökkentsük a modellbe helyezett vak bizalmat.

Korlátok közé kell szorítani Nadella javaslatainak jelentős része egybevág az iparág más szereplőinek véleményével , miszerint a különböző incidenseket időben nyilvánosságra kell hozni, független auditokra van szükség, továbbá ellenőrizhető adatokra, valamint a mesterséges intelligencia kordában tartására.

Ez utóbbi kapcsán ugyanakkor Nadella mindenki másnál élesebben fogalmaz bejegyzésében: Abból kell kiindulnunk, hogy a modell kompromittálódott, és kezdettől fogva korlátok közé kell szorítanunk.

Gondoljunk rá úgy, mint egy vészfékre.

Egy felhatalmazott személynek mindig képesnek kell lennie arra, hogy feladatvégzés közben is szüneteltesse vagy leállítsa a modellt.

A fejlettebb modellek fejlettebb elszigetelési technológiákat fognak igényelni, amelyeket szabványosítanunk kell.

Kapcsolódó A Microsoft és az OpenAI tudták, hogy tönkreteszik vele a netet, mégis mentek tovább az MI fejlesztéssel A nyilvános bírósági dokumentumok szerint azzal is tisztában voltak, hogy az MI fejlesztés tönkre teszi a lapkiadókat.

The post Már a Microsoft vezérigazgatója is arról ír, hogy kordában kell tartanunk a mesterséges intelligenciát first appeared on 24.hu .