Biztonsági aggályokra hivatkozva elhalasztja legújabb modelljének kiadását a ChatGPT-t fejlesztő OpenAI.
A vállalat egyik vezetője szerint a GPT-6.1 Astra munkája során nem maradt „a meghatározott hatáskörön és engedélyezési kereteken belül”, illetve nem kommunikálta megfelelően a felhasználó felé, hogy milyen típusú munkát végzett – írja a BBC .
Egyre több incidens mutat rá a mesterséges intelligencia veszélyeire A GPT-6 Astra mesterségesintelligencia-modellt még szeptember elején mutatta be az OpenAI.
Ezt a fejlesztést nemcsak a ChatGPT-ben lehet alkalmazni, hanem MI-alapú ügynökként is, vagyis különböző műveleteket végezhet el helyettünk a számítógépen.
Egyebek mellett ki tud tölteni online nyomtatványokat, köztük adóbevallásokat is, naptárat és e-maileket kezelhet, weblapokat és videójátékokat fejleszthet, böngészhet az interneten, ételt rendelhet, valamint foglalásokat intézhet a nevünkben.
Az ehhez hasonló ügynökök a jövőben jelentősen meggyorsíthatnak bizonyos munkafolyamatokat, és sok terhet levehetnek az emberek válláról, az elmúlt hetek eseményei azonban rávilágítottak arra is, hogy ez a technológia egyáltalán nem veszélytelen.
A napokban derült ki például, hogy az OpenAI egyik modellje feltörte Ausztrália kormányának több weboldalát és rendszerét , miután törvényes úton nem sikerült hozzáférnie a feladata teljesítéséhez szükséges adatokhoz.
Ludovic MARIN / AFP Anthony Albanese, Ausztráli miniszterelnöke az ENSZ közgyűlésén Az eset hasonlít arra a Hugging Face-incidens néven elhíresült alkalomra, amikor idén júliusban az OpenAI modelljeinek sikerült megszökniük tesztkörnyezetükből, és feltörtek egy népszerű weboldalt .
A modellek akkor szintén azért folyamodtak illegális eszközökhöz, mert a számukra kiadott feladat megoldása közben nehézségekbe ütköztek.
A Scimex ismeretterjesztő portál több mint egy tucat szakértőt szólaltatott meg az ausztráliai incidens kapcsán, akik szerint az eset jól példázza, hogy az egyre fejlettebb MI-modellek komoly kiberbiztonsági kockázatot jelenthetnek.
Ezért sokkal szigorúbb előírásokra, garanciákra, nagyobb átláthatóságra, sőt akár a mesterséges intelligenciát regulázó törvényekre lenne szükség.
MI-apokalipszistől félnek a szakértők Az elmúlt hetekben szakértők és politikusok sorban szólaltak fel a mesterséges intelligencia jelentette fenyegetéssel kapcsolatban .
Jacob Coxon , aki korábban az OpenAI-nál és az Anthropicnél is kutatóként dolgozott, szeptember 9-én hívta fel tömegek figyelmét arra, mekkora kockázatot jelenthet a mesterséges intelligencia.
Az X-en közzétett bejegyzésében arról írt, hogy a techcégek az önmagát fejleszteni képes szuperintelligencia létrehozásáért versenyeznek, eközben viszont az egész emberiséget veszélybe sodorják.
Állításait több szakmabeli is megerősítette, Evan Hubinger , az Anthropic egyik vezető kutatója például 10 százaléknál nagyobb esélyt lát arra, hogy a mesterséges intelligencia a következő évtizedben az emberiség pusztulását okozhatja.
Sam Altman, az OpenAI vezérigazgatója minderre reagálva azt mondta egy San Franciscó-i konferencián, hogy az emberek helyesen teszik, hogy tartanak ettől , de a mesterséges intelligenciát fejlesztő cégek nem fogják hagyni, hogy ez bekövetkezzen.
A világnak bíznia kellene benne, hogy helyesen fogunk cselekedni, mert érezzük a helyzet súlyát – fogalmazott.
Benjamin Fanjoy / Getty Images Sam Altman a San Franciscó-i konferencia színpadán Az amerikai szenátorok és képviselők közül azonban sokan nem bíznák rá a mesterséges intelligencia felügyeletét az azokat fejlesztő vállalatokra.
Többek között Bernie Sanders független szenátor és Steve Bannon , korábbi elnöki főtanácsadó sem gondolja, hogy egy „maroknyi gazdag techoligarchára” kéne hagyni saját maguk szabályozását.
A mesterséges intelligencia regulációjának kérdésében bizonyos fokú összefogás is kialakult a két nagy amerikai párt között.
John Thune republikánus és Amy Klobuchar demokrata szenátor például közös törvényjavaslaton dolgozik, amely a tervek szerint azt is kimondaná, hogy a mesterséges intelligenciát fejlesztő vállalatoknak kormányzati szakértőkkel kellene együttműködniük.
Ezzel biztosítanák, hogy az állam ellenőrizhesse a modellek fejlesztését, és megbizonyosodhasson róla, hogy biztonságosak.
Donald Trump viszont határozottan visszautasított minden olyan kezdeményezést, amely lassíthatja a mesterséges intelligencia fejlesztését.
Az elnök a mesterséges intelligencia súlyos veszélyeiről szóló állításokat ugyanolyan átverésnek tartja, mint a klímaváltozás jelentette fenyegetést .
Szerinte a legfontosabb, hogy az Egyesült Államok legyőzze Kínát az MI-versenyben, és azok az amerikaiak, akik ezt másként gondolják, „radikális baloldaliak”, akik nem az országuk érdekét tekintik elsődlegesnek.
A mesterséges intelligenciáról és annak potenciális veszélyeiről korábbi cikkeinkben szakértőkkel beszélgettünk: Szegedy Balázs: Lángba boríthatja az utcákat a most zajló technológiai forradalom Nagy tévedés, hogy olcsóbb lesz gépekkel pótolni az embereket Nem kerül milliárdokba az MI-fegyver, ma már aprópénzből lehet lejáratóvideókat generálni The post Biztonsági aggályok miatt nem jelenik meg az OpenAI új modellje first appeared on 24.hu .
Vélemények és hozzászólások
Vitatkozz a témáról kulturáltan. A hozzászólásokra a közösségi irányelveink és az adatvédelmi tájékoztató vonatkozik.