Feltörte Ausztrália egészségbiztosítási rendszerét az OpenAI egyik modellje – állítja Anthony Albanese , az ország miniszterelnöke.
Az incidens még júniusban történt, de a vállalat csak szeptemberben értesítette róla a kormányt egy e-mail formájában.
Egy kutatás miatt törte fel az állami rendszereket a mesterséges intelligencia Albenese minderről az ENSZ jelenleg is tartó, New York-i közgyűlésén beszélt, ahol elárulta, az esetért felelős mesterségesintelligencia-ügynöknek az Ausztrál Egészségügyi és Jóléti Intézetének, Victoria állam egészségügyi minisztériumának és Új-Dél-Wales állam Bűnügyi Statisztikai és Kutatási Hivatalának rendszereibe is sikerült behatolnia.
Az ágens vélhetően nem fért hozzá személyes adatokhoz – foglalta össze a Guardian .
A miniszterelnök elfogadhatatlannak nevezte ezt a helyzetet, és elkeserítőnek tartja, hogy az OpenAI mennyire későn és milyen módon jelezte a kormánynak az incidenst.
A rendszereket feltörő MI-ügynök eredetileg azt a feladatot kapta, hogy vizsgálja meg az egészségügyi és orvosi statisztikákat, ezért kereste fel az egészségbiztosítási rendszer, illetve a három említett intézmény weboldalait.
Amikor azonban nem jutott hozzá a kívánt adatokhoz, feltörte a portálokat, hogy megszerezhesse azokat.
A kormány külön munkacsoportot hozott létre a történtek kivizsgálására.
Ludovic MARIN / AFP Anthony Albanese az ENSZ közgyűlésén.
Az eset hasonlít arra a Hugging Face-incidens néven elhíresült alkalomra, amikor idén júliusban az OpenAI modelljeinek sikerült megszökniük tesztkörnyezetükből, és feltörtek egy népszerű weboldalt .
A modellek akkor szintén azért folyamodtak illegális eszközökhöz, mert a számukra kiadott feladat megoldása közben nehézségekbe ütköztek.
A Scimex ismeretterjesztő portál több mint egy tucat szakértőt szólaltatott meg az ausztráliai incidens kapcsán, akik szerint az eset jól példázza, hogy az egyre fejletebb MI-modellek komoly kiberbiztonsági kockázatot jelenthetnek.
Ezért sokkal szigorúbb előírásokra, garanciákra, nagyobb átláthatóságra, sőt akár a mesterséges intelligenciát regulázó törvényekre lenne szükség.
MI-apokalipszistől félnek a szakértők Az elmúlt hetekben szakértők és politikusok sorban szólaltak fel a mesterséges intelligencia jelentette fenyegetéssel kapcsolatban .
Jacob Coxon , aki korábban az OpenAI-nál és az Anthropicnél is kutatóként dolgozott, szeptember 9-én hívta fel tömegek figyelmét arra, mekkora kockázatot jelenthet a mesterséges intelligencia.
Az X-en közzétett bejegyzésében arról írt, hogy a techcégek az önmagát fejleszteni képes szuperintelligencia létrehozásáért versenyeznek, eközben viszont az egész emberiséget veszélybe sodorják.
Állításait több szakmabeli is megerősítette, Evan Hubinger , az Anthropic egyik vezető kutatója például 10 százaléknál nagyobb esélyt lát arra, hogy a mesterséges intelligencia a következő évtizedben az emberiség pusztulását okozhatja.
Sam Altman, az OpenAI vezérigazgatója minderre reagálva azt mondta egy San Fraciscó-i konferencián, hogy az emberek helyesen teszik, hogy tartanak ettől , de a mesterséges intelligenciát fejlesztő cégek nem fogják hagyni, hogy ez bekövetkezzen.
A világnak bíznia kellene benne, hogy helyesen fogunk cselekedni, mert érezzük a helyzet súlyát – fogalmazott.
Benjamin Fanjoy / Getty Images Sam Altman a San Franciscó-i konferencia színpadán Az amerikai szenátorok és képviselők közül azonban sokan nem bíznák rá a mesterséges intelligencia felügyeletét az azokat fejlesztő vállalatokra.
Többek között Bernie Sanders független szenátor és Steve Bannon , korábbi elnöki főtanácsadó sem gondolja, hogy egy „maroknyi gazdag techoligarchára” kéne hagyni saját maguk szabályozását.
A mesterséges intelligencia regulációjának kérdésében bizonyos fokú összefogás is kialakult a két nagy amerikai párt között.
John Thune republikánus és Amy Klobuchar demokrata szenátor például közös törvényjavaslaton dolgozik, amely a tervek szerint azt is kimondaná, hogy a mesterséges intelligenciát fejlesztő vállalatoknak kormányzati szakértőkkel kellene együttműködniük.
Ezzel biztosítanák, hogy az állam ellenőrizhesse a modellek fejlesztését, és megbizonyosodhasson róla, hogy biztonságosak.
Donald Trump viszont határozottan visszautasított minden olyan kezdeményezést, amely lassíthatja a mesterséges intelligencia fejlesztését.
Az elnök a mesterséges intelligencia súlyos veszélyeiről szóló állításokat ugyanolyan átverésnek tartja, mint a klímaváltozás jelentette fenyegetést .
Szerinte a legfontosabb, hogy az Egyesült Államok legyőzze Kínát az MI-versenyben, és azok az amerikaiak, akik ezt másként gondolják, „radikális baloldaliak”, akik nem az országuk érdekét tekintik elsődlegesnek.
A mesterséges intelligenciáról és annak potenciális veszélyeiről korábbi cikkeinkben szakértőkkel beszélgettünk: Szegedy Balázs: Lángba boríthatja az utcákat a most zajló technológiai forradalom Nagy tévedés, hogy olcsóbb lesz gépekkel pótolni az embereket Nem kerül milliárdokba az MI-fegyver, ma már aprópénzből lehet lejáratóvideókat generálni The post Feltörte Ausztrália állami rendszereit az OpenAI MI-ügynöke first appeared on 24.hu .
Vélemények és hozzászólások
Vitatkozz a témáról kulturáltan. A hozzászólásokra a közösségi irányelveink és az adatvédelmi tájékoztató vonatkozik.