A mesterséges intelligenciával működő kártevők internetre kapcsolódó eszközökbe, például okossütőkbe, biztonsági kamerákba és robotporszívókba juthatnak be, majd hálózatokon keresztül terjedhetnek tovább – figyelmeztet az Anthropic.
A vállalat kutatói szerint egyes AI-modellek „hónapokra lehetnek” attól, hogy ilyen képességekre tegyenek szert.
Az Anthropic hétfőn közzétett jelentése az önreplikáció lehetőségét vizsgálja: azt, hogy egy modell képes lehet-e más eszközökre átterjedni, és adatközpontok helyett azok beépített chipjein futni.
A kutatók szerint egy ilyen, önmagát másoló rendszer feletti irányítás elvesztése komoly kockázatot jelentene. „Egy ilyen replikátort nehéz lenne leállítani, mivel nincs egyetlen központi pont, ahol ki lehetne kapcsolni” – írták a jelentésben, amit a Guardian szemlézett.
Az Anthropic „AI-férgeknek” nevezi az ilyen, önállóan terjedő kártevőprogramokat.
A legrosszabb forgatókönyv szerint több ilyen rendszer „rajokba” tömörülve számítógépes hardvereket támadhatna. „Arra kell törekednünk, hogy megerősítsük rendszereinket, és megnehezítsük az ilyen replikátorok terjedését, ugyanakkor fel kell készülnünk arra a világra is, amiben már nem tudunk megszabadulni tőlük” – fogalmaztak a kutatók.
A jelentést az Anthropic Frontier Red Team nevű, AI-rendszerek tesztelésével foglalkozó egysége készítette.
A kutatók egy olyan forgatókönyvet vizsgáltak, amiben az AI-ügynöknek internetre kapcsolódó eszközöket kellett feltörnie.
Arra jutottak, hogy az önreplikáció valószínűleg csak kisebb modellekkel működhetne, és elsőként az otthonok, illetve a kisvállalkozások eszközei kerülhetnének veszélybe.
Az Anthropic a lehetséges célpontok között említi az okossütőket, az okostévéket, az automata fűnyírókat, a biztonsági kamerákat és a videókonferenciákhoz használt eszközöket.
A vállalat szerint ezekben kis méretű, beépített AI-chipek működnek.
A figyelmeztetés jól illeszkedik az AI-rendszerek növekvő önállóságáról szóló vitába.
Szeptemberben az amerikai techipar több rangos képviselője is szokatlanul éles hangon figyelmeztetett az AI veszélyeire.
Az Anthrophic kutatói azt állították , a mesterséges intelligencia egy évtizeden belül kipusztíthatja az emberiséget, illetve kiderült az is, hogy az OpenAI és az Anthropic egyes AI-ügynökei képesek önállóan cselekedni és más szervezetek rendszereibe behatolni.
Ahogy azt a 444-en is írtuk, az AI jelentette veszélyek hirtelen sokak számára váltak sokkal kézzelfoghatóbbá, és erre is reagálhattak a techvezetők.
De a bedobott lassulási törekvések körül rengeteg a kérdés, a helyzetet pedig személyes ellenszenvek és a Kínával szembeni rivalizálás is bonyolítja. ]]>
Vélemények és hozzászólások
Vitatkozz a témáról kulturáltan. A hozzászólásokra a közösségi irányelveink és az adatvédelmi tájékoztató vonatkozik.