A világ vezető mesterségesintelligencia-fejlesztő vállalatainak vezetői az ENSZ Biztonsági Tanácsában figyelmeztettek a technológia biztonsági kockázataira, és nemzetközi együttműködést sürgettek az egyre nagyobb képességű MI-rendszerek felügyeletére.
A nemzetközi béke és biztonság fenntartásálrt felelős, 15 tagból álló BT ülését Franciaország hívta össze az ENSZ Közgyűlésének éves, a világ vezetőit összefogó találkozója keretében, miközben egyre hangosabbak az aggodalmak , hogy az AI-rendszerek hamarosan képesek lesznek önmagukat továbbfejleszteni, és kicsúszhatnak az emberi ellenőrzés alól. (Ma reggeli hír: az OpenAI egyik ágense feltört egy ausztrál kormányzati weboldalt.) Sam Altman, az OpenAI vezérigazgatója szerint a mesterséges intelligencia fejlesztése fordulóponthoz érkezett, ezért a technológiával kapcsolatban „rendkívüli óvatosságra” van szükség.
Szerinte az MI egyaránt vezethet a kreativitás és a felfedezések új reneszánszához, illetve súlyos társadalmi felforduláshoz.
Két fő veszélyre hívta fel a figyelmet: a rendszerek fejlődése olyan gyorssá válhat, hogy az emberek már nem lesznek képesek nyomon követni vagy szükség esetén beavatkozni; és túl nagy hatalom összpontosulhat néhány vállalat vagy ország kezében.
Dario Amodei, az Anthropic vezérigazgatója a Biztonsági Tanács előtt kijelentette: a mesterséges intelligencia világviszonylatban a legfontosabb biztonsági kérdések közé tartozik, és rossz kezelés esetén akár az egész emberiségre is kockázatot jelenthet.
A szakember globális szabályokat szorgalmazott az új MI-modellek tesztelésére, valamint a technológia biológiai fegyverek fejlesztésére történő felhasználásának tilalmára.
Altman hangsúlyozta, hogy a legfontosabb döntéseket nem néhány kaliforniai kutatólaboratóriumnak kell meghoznia, hanem demokratikus folyamatok keretében, a választópolgároknak felelős kormányok bevonásával.
A világ kormányai nehezen tudnak lépést tartani az AI gyors fejlődésével.
Az Egyesült Államok és Kína, a két legnagyobb fejlesztő máshogy közelíti meg a problémát.
Donald Trump szerint az Egyesült Államoknak nincs szüksége új, kifejezetten a mesterséges intelligenciára vonatkozó szabályozásra, míg Kína szabályozza az algoritmusait, többek között előírva, hogy a mesterséges intelligencia által generált tartalmakat egyértelműen jelölni kell.
Ez az ellentét az ENSZ BT-ben is látható volt.
Michael Kratsios, a Fehér Ház tudományos és technológiai tanácsadója elutasította a globális MI-szabályozás gondolatát, mondván: olyan technológiát nem lehet hatékonyan szabályozni, amelyet még nem értenek teljesen.
Fu Cong kínai ENSZ-nagykövet ugyanakkor a szabályozási keretek, a válságkezelés és a nemzetközi együttműködés erősítését sürgette.
Yoshua Bengio kanadai kutató, akit gyakran az AI egyik keresztapjaként emlegetnek, a Biztonsági Tanács ülésén úgy fogalmazott: a veszélyek valósak és közvetlenek, ezért egyetlen ország sem képes önállóan kezelni azokat. ( Reuters , MTI) ]]>
Vélemények és hozzászólások
Vitatkozz a témáról kulturáltan. A hozzászólásokra a közösségi irányelveink és az adatvédelmi tájékoztató vonatkozik.