Az elmúlt napokban egymás után álltak elő kutatók, politikusok , és a legismertebb MI-cégek vezetői azt hangoztatva, hogy a mesterséges intelligenciában rejlő veszélyek hatalmasak , ezért le kell lassítani a fejlesztések ütemét.
A Microsoft néhány napos késéssel reagált a kialakult helyzetre: kiadtak egy 37 oldalas, humanista megközelítésű mesterséges intelligencia magatartási kódexet – írja a Verge .
A dokumentum központi tétele, hogy „az emberek fontosabbak az MI-nél”, és határozottan elutasítja azokat a törekvéseket, amelyek öntudatra ébredett modellekről fantáziálnak.
Ez nyílt szembenállást jelent az Anthropic megközelítésével, amelynek vezetője, Dario Amodei a nyáron úgy fogalmazott, nyitott arra a gondolatra, hogy a modelleknek lehet öntudata – ez ugyanis rendkívül veszélyes lenne a Microsoft AI vezérigazgatója, Mustafa Suleyman szerint.
A Microsoft új stratégiájának sarokköve, hogy az intelligens rendszereknek minden körülmények között emberi irányítás alatt kell maradniuk.
A kódex kifejezetten rögzíti, hogy a modellek nem haladhatják meg az emberi kontrollt, és ha konfliktus merül fel, a feladat teljesítése helyett inkább a szabályok betartását és a kilépést kell választaniuk.
Ez a megközelítés is direkt reakcióként tekinthető az OpenAI és az Anthropic nyári incidenseire , amely során a jelentések szerint több rendszert is feltörtek, miután kiszabadultak a tesztkörnyezetből.
A Microsoft azt jelezte, hogy elhatárolódik a mesterséges általános intelligencia (AGI) korlátok nélküli hajszolásától: kijelentették, hogy hajlandóak kompromisszumot kötni a hasznosság és a biztonság javára.
Satya Nadella , a Microsoft vezérigazgatója szerint a szuperintelligencia üldözése csak akkor értelmes, ha az az emberiséget szolgálja és szigorú kontroll alatt marad.
Éppen ezért azt is vállalta a Microsoft, hogy modelljeik nem kommunikálnak majd más rendszerekkel a külső megfigyelők számára átláthatatlan módon, elősegítve a folyamatos külső ellenőrzést.
Kapcsolódó „A jövőnk foroghat kockán” – hamarosan megjelenhet az evolúció a mesterséges intelligenciánál A szakértők szerint ez óriási veszélyt jelentene az emberiségre nézve, a jövőnk foroghat kockán.
The post A Microsoft is beszállt az MI-apokalipszisről szóló vitába first appeared on 24.hu .
Vélemények és hozzászólások
Vitatkozz a témáról kulturáltan. A hozzászólásokra a közösségi irányelveink és az adatvédelmi tájékoztató vonatkozik.