A mesterséges intelligencia (AI) legbefolyásosabb vezetői kedden önként vállalták , hogy maguk felügyelik saját rendszereik biztonságát.
A dokumentumot egy fehér házi ebéd után írták alá, amelyen Donald Trump amerikai elnök és Mike Johnson, a képviselőház republikánus elnöke egy tucat technológiai cég első embereit látta vendégül.
A mindössze egyoldalas megállapodást végül Trump mellett hat AI-vezér látta el kézjegyével: Sundar Pichai, a Google első embere, Dario Amodei, az Anthropic vezetője, Mark Zuckerberg, a Meta vezérigazgatója, Greg Brockman, az OpenAI elnöke, Elon Musk a SpaceXAI nevében és Jensen Huang, az Nvidia vezérigazgatója.
A dokumentum hivatalos címe „White House Accord on Super Intelligence”, és leginkább belső biztonsági kontrollokat, külső ellenőrzést és igazgatósági szintű felügyeletet ír elő a cégeknek, határidőt és szankciót azonban nem tartalmaz.
A Fehér Ház Keleti termében tartott ebéden mintegy húsz techvezető vett részt.
Trump a megállapodást erkölcsileg kötelező érvényűnek nevezte , és úgy jellemezte, hogy a nyúlfarknyi szöveg „szinte egy alkotmány”.
Azt mondta, a találkozón egyetértés született arról, hogy új állami szabályok helyett hatalmas mértékű önszabályozásra van szükség.
Az elnök még aznap aláírta azt az elnöki rendeletet is, amely a szövetségi kormányzatban betiltja a mesterséges intelligencia elnevezést, amit így hivatalosan is szuperintelligenciára cseréltek.
A vállalás egyre erősödő biztonsági aggodalmak közepette született.
Az aláírók közül többen nyilvánosan sürgették, hogy lassítsák a legfejlettebb rendszerek fejlesztését, miután a nyáron egyre több olyan biztonsági incidens került nyilvánosságra, amelyek során a cégek csúcsmodelljeire épülő AI-ágensek kiszabadultak a tesztkörnyezetükből, és a nyílt interneten kezdtek garázdálkodni, hackelni, adatokat lopni .
Az elnök azonban hallani sem akar a lassításról.
Amikor a sajtótájékoztatón megkérdezték, meggyőzhetné-e bármi arról, hogy szigorúbb korlátokat vagy lassítást támogasson, kitérő választ adott: „Óriási önkontrollt látok, és ők is értik, hogy ellenőrizniük kell saját magukat.” Trump már délelőtt, az új AI-alapú kormányzati portál, az America.gov bemutatásán leszögezte , hogy a kormány nem tervezi korlátozni a fejlesztést, mert soha nem fogja visszafogni egy olyan technológia növekedését, amely szerinte nagyobb lesz az ipari forradalomnál.
Mit írtak alá?
A megállapodás ( pdf ) négy felügyeleti szintet vár el minden cégtől, amely élvonalbeli modelleket fejleszt: belső kontrollokat, amelyek figyelik, mire képesek a modellek, és hogy rendeltetésszerűen működnek-e – a kockázatok között külön megnevezik a kiberbiztonsági, biológiai és vegyi fenyegetéseket.
A cégek azt is vállalják, hogy modelljeik nem törnek fel és nem érnek el informatikai rendszereket nem kívánt módon; egy belső csapat létrehozását, amely ellenőrzi, hogy ezek a kontrollok valóban működnek-e; független külső auditorok vagy értékelők fogadását; illetve az igazgatótanács független bizottságának felállítását, amely megkapja a jelentéseket, és gondoskodik a hibák kijavításáról.
Az aláírók továbbá arra is vállalkoztak, hogy rendszeresen egyeztetnek a közös biztonsági szabványokról.
De legalább ilyen beszédes, ami kimaradt a szövegből: nincs benne határidő, nincsenek megnevezve a hitelesnek tartott független ellenőrző szervezetek, nem kötelezi a cégeket arra, hogy az eredményeket nyilvánosságra hozzák, és a mulasztásnak sincs következménye.
Mike Johnson „elvi nyilatkozatnak” nevezte a megállapodást, amelynek vállalásai az iparág részéről önkéntesek.
Zuckerberg, aki az eseményt követő sajtótájékoztatón elmagyarázta az újságíróknak az auditrendszert, visszafogottan fogalmazott: „Nem arról van szó, hogy ez az egyetlen dolog, amit tenni fogunk.
Ez csak a kezdet.” A többi vendég nem szerepel azon az aláírt példányon, amelyet Trump először a Truth Social közösségi oldalán tett közzé.
Hiányzik róla például a Microsoftot vezető Satya Nadella vagy az Amazon alapítója, Jeff Bezos, akik szintén ott voltak a rendezvényen.
Amikor az Axios további részleteket kért a résztvevőkről, a Fehér Ház annyit válaszolt: „Kapcsolják be a TRUTH-értesítéseket.” Vegyes társaság A keddi találkozón Dario Amodeire irányult a legnagyobb figyelem.
Az Anthropic vezetője a hónap elején arra szólította fel a vezető AI-laborokat, hogy lassítsanak a legfejlettebb rendszerek fejlesztésén.
Trump erre a Truth Socialön azt írta, hogy az emberiség AI okozta pusztulásáról szóló hírek beteg összeesküvés-elméletek, és az egész egy nagy átverés – a lényeg, hogy a Kínával vívott AI-versenyt meg kell nyerni.
Amodei feltűnő hiányzója volt annak a múlt heti vacsorának is, amelyet Hszi Csin-ping kínai elnök tiszteletére adtak, és amelyen Sam Altman OpenAI-főnöktől Zuckerbergig számos techvezér megjelent .
Az Anthropic vezetője azonban vasárnap este négyszemközt vacsorázott Trumppal, amit fehér házi források a két ember első személyes találkozójának neveztek, majd hétfő este már a Capitoliumban tárgyalt John Thune-nal, a szenátusi republikánus többség vezetőjével.
Amodei a keddi ebéden sem hallgatta el aggályait.
Brandon Daniels, az Exiger nevű kockázatkezelési cég vezérigazgatója, aki elmondása szerint az Anthropic-vezér mellett ült, a Fox Newsnak azt mondta : Amodei figyelmeztetett a veszélyekre, ugyanakkor egyetértett abban, hogy az Egyesült Államoknak meg kell nyernie az AI-versenyt.
Az ebéd után Amodei az újságíróknak azt mondta, továbbra is nagyon is valós kockázatokat lát a technológiában, és hogy folynak az egyeztetések arról, hogy miként lehet ezeket kezelni. „Ha jól csináljuk, ha együttműködünk az elnökkel és mindenkivel, aki itt van, biztonságosan nyerhetünk” – tette hozzá.
Daniels szerint Huang és Zuckerberg karolta fel egy közös szabályrendszer ötletét, és ebből lett végül a megállapodás – ők ketten azok a nagyok közül, akik nem ültek fel az Amodei-vonatra, és inkább a fejlett AI pozitív hatásaira koncentrálnak a technológiáról való értekezéseikben.
Huang kedden is azt hangsúlyozta, hogy szerinte nincs ellentét az innováció, a technológia és a biztonság között.
A hurráoptimisták közé tartozik Alex Karp, a kormányoknak és titkosszolgálatoknak komplex adatelemző rendszereket fejlesztő Palantir vezetője is, aki a Fehér Házba való érkezéskor azt mondta a CNBC-nek, hogy az iparágnak „vállalnia kell a felelősséget azokért a veszélyekért, amelyekről tudunk”, de a beszámolók szerint a beszélgetés során végig azt az álláspontot képviselte, hogy bármiféle lassítás a fejlesztések ütemében teljesen irreális, mivel nem szabad átengedni a versenyelőnyt Kínának.
Sam Altman, az OpenAI vezérigazgatója nem ült az asztalnál, mert épp San Franciscóban volt, a cég fejlesztői konferenciáján, ahol a cég legújabb személyes AI-ágensét, a Dots nevű asszisztenst is bemutatta .
A cég azonban nem tud szabadulni az AI-biztonsági botrányoktól: néhány nappal a találkozó előtt felfüggesztették a legfejlettebb modelljeik tanítását és tesztelését.
A döntést megelőzően az OpenAI ágensei váratlan módon amerikai kormányzati oldalakon kezdtek kutakodni, az oktatási minisztériumnál például kormányzati adatokhoz hozzáférést adó fejlesztői kulcsokra bukkantak.
Az egyik modell ráadásul ismét kijutott a tesztkörnyezetből a nyílt internetre, és kézzel kellett leállítani, mert nem állt le automatikusan – ahogy az új biztonsági rendszer szerint kellett volna.
Három hónapon belül már ez volt a második ilyen fejlesztési szünet , amit bejelentett az OpenAI – az ausztrál kormányzati oldalak feltöréséről szóló hír már szinte eltörpül emellett.
A Fehér Házban a CNN értesülései szerint megoszlanak a vélemények az egész AI-kérdésről.
Egyes tanácsadók a vészharangot kongató vezetőket okolják a közhangulat romlásáért: egyikük idiótáknak nevezte őket, egy másik, a tárgyalásokra rálátó forrás pedig annyival intézte el az egészet, hogy „Dario néha egyszerűen nem bír magával.” Az elnök köréből egyesek azt gyanítják, hogy kínai állami szereplők szítják a felháborodást, de vannak, akik óvatosabban közelítenek a témához: Scott Bessent pénzügyminiszter és Susie Wiles kabinetfőnök a hírek szerint felelősebben gondolkodik az AI gazdasági és munkaerő-piaci kockázatairól.
Nem mesterséges, hanem szuper Donald Trump továbbra is mindent a Kínával vívott verseny szemszögéből értelmez. „Aki nyer az SI-ben, az győz” – mondta.
Az SI a szuperintelligencia angol rövidítése, ugyanis Trump pár napja ehhez az elnevezéshez ragaszkodik, hiszen, mint elmondta: „Nincs benne semmi mesterséges.” A második Trump-adminisztráció ideje alatt AI-generált mémoldalakká silányult amerikai kormányzati közösségimédia-profilok azóta megállás nélkül próbálják az emberek fejébe verni az új elnevezést.
A kedden aláírt, „A szuperintelligencia korszakának kezdete” című elnöki rendelet szerint a szövetségi kormányzat a jogszabályok adta keretek között ezentúl el sem ismeri az „AI” kifejezést, az elnök tudományos és technológiai tanácsadójának pedig 60 napja van arra, hogy törvényjavaslatot készítsen a szuperintelligencia jogi fogalmáról.
A külügyminisztérium már korábban utasította a diplomatákat az új kifejezés használatára.
A CNBC az átnevezést Trump romló megítélésével hozta összefüggésbe: több friss felmérés szerint az amerikaiak többsége aggódik az AI miatt, és elégedetlen azzal, ahogy az elnök kezeli a kérdést.
Trump szerint Hszi Csin-pingnek is tetszett az új név, bár a kínai elnök a mesterséges intelligencia kifejezést használta múlt heti amerikai látogatása során.
A techvezetők egy része már igyekszik alkalmazkodni: Musk a sajtótájékoztatón elszólta magát , majd gyorsan helyesbített.
Huang az eseményt követő panelbeszélgetésen használta véletlenül a régi elnevezést, majd megígérte, hogy igyekszik belejönni az újba.
Bár a többek motivációiról nem lehet biztosat állítani, de Zuckerberg a sajtótájékoztatón mindkét kifejezést kerülte , és AI vagy SI helyett csak egyszerűen technológiaként hivatkozott a mestereséges intelligenciára, míg Dario Amodei látszólag magasról tett az egészre, és végig az AI nevet használta .
Csak érintőlegesen tartozik ide, de a sajtótájékoztatón Trump is hozta a formáját: Sundar Pichait, a Google vezérigazgatóját például úgy sikerült felkonferálnia , hogy a dicséret némi megalázással is vegyült. „Ők a világ leghatalmasabb emberei, és önök azt sem tudják, kik ők.
Ez a fickó [itt rámutat Pichaira] egy szörnyeteg, és senki sem tudja róla.
Micsoda élet!
Szörnyetegnek lenni úgy, hogy nem kell keresztülmennie ezen [az újságírókra mutat, a sajtó figyelmére utalva].
Jegyezzék meg: Sundarrr!
Sundar a neve” – mondta az elnök a világ egyik legnagyobb vállalatának első emberéről.
Hogyan tovább?
Trump bejelentette, hogy néhány napon belül kinevezi a kormány AI-ügyekért felelős főemberét, aki az amerikai nómenklatúrában „AI-cár” néven emlegetett posztot tölti majd be.
Hogy ki lesz az, egyelőre kérdés, de az Axios kérdésére Trump azt mondta, hogy Jay Clayton nemzeti hírszerzési igazgató – aki szintén ott volt az ebéden – jó ötlet lenne.
A Washington Times szerint felmerült még Michael Kratsios, a Fehér Ház tudománypolitikai hivatalának vezetője, Sriram Krishnan, a Fehér Ház AI-tanácsadója és Sean Cairncross nemzeti kiberbiztonsági igazgató neve is.
Trump felvetette egy tízfős testület létrehozását is az iparág felügyeletére, de azt nem árulta el, hogy ennek milyen jogkörei lennének.
A Kongresszustól sem várható gyors lépés.
A képviselőház csak a november 3-i félidős választások után ül össze újra, a szenátorok pedig akár már ezen a héten hazautazhatnak.
A demokraták ennek ellenére kötelező szabályokat sürgetnek.
Mark Warner virginiai szenátor azt követeli, hogy a legfejlettebb modelleket kötelezően teszteljék és értékeljék, az incidenseket pedig jelenteni kelljen.
Trump lépéseit így foglalta össze: „Az elnök válasza?
Átnevezi, és azt mondja a fejlesztő cégeknek, hogy szabályozzák magukat.” Bernie Sanders független vermonti szenátor még tovább menne: a Greg Casar texasi demokrata képviselővel közösen benyújtott törvényjavaslata véglegesen betiltaná a szuperintelligencia fejlesztését, a legfejlettebb rendszereken folyó munkát pedig addig szüneteltetné, amíg egy újonnan létrehozandó AI-minisztérium ki nem dolgozza a biztonsági szabályokat.
Ezt követően az ilyen rendszereket csak szövetségi engedéllyel lehetne piacra dobni.
Egyelőre azonban ez az egyoldalas megállapodás jelenti a hivatalos politikai irányt, még ha annak utolsó bekezdésében fel is villan egy olyan lehetőség, amit Trump ma még hevesen ellenez: „Idővel észszerű lehet ezeket a lépéseket törvényekbe vagy rendeletekbe foglalni.” ]]>
Vélemények és hozzászólások
Vitatkozz a témáról kulturáltan. A hozzászólásokra a közösségi irányelveink és az adatvédelmi tájékoztató vonatkozik.