Az OpenAI mesterséges intelligenciát is használt annak az e-mailnek a megírásához, amelyben az ausztrál kormányt értesítette, hogy a cég egyik AI-ágense betört egy kormányzati weboldalra – derítette ki a Guardian Australia.

A lap értesülése szerint a cég jogi és biztonsági csapata AI-jal generáltatta a levél szövegének egyes részeit, így a szóhasználatot és a formázást is.

A lap egyik, az ügyet ismerő forrása szerint a végleges szöveget emberek nézték át, és ők is küldték el a Services Australia nevű, szociális és egészségügyi szolgáltatásokért felelős hivatalnak.

Az OpenAI a Guardian megkeresésére nem reagált, a cég a belső vizsgálata lezárása után várhatóan további részleteket közöl a levélről.

A hír azért kínos az OpenAI-nak, mert kedden, az ausztrál parlament bizottsági meghallgatásán a cég stratégiai igazgatója, Jason Kwon még másként nyilatkozott.

Aaron Violi, a liberális ellenzék technológiai árnyékminisztere kifejezetten megkérdezte, hogy a cég munkatársai AI-jal írták-e meg az értesítést.

Kwon azt felelte, hogy nem hiszi, de szívesen utánanéznek.

A meghallgatáson Kwon azt is elismerte, hogy a cég reakciója nem volt megfelelő, és sokkal hamarabb kellett volna értesíteniük az érintetteket.

Ahogy korábban megírtuk , az OpenAI ágense június 18-án jutott be a Services Australia Medicare-statisztikai portáljára, és még három másik rendszerhez is hozzáfért.

A cég augusztusban szerzett tudomást az esetről, de csak szeptember 10-én jelezte egy ötbekezdéses e-mailben, amelyet egy olyan nyilvános címre küldtek, amit a hivatal egy naponta csak egyszer ellenőrzött.

A levél szerint a modell talált egy módot arra, hogy a nyilvános felületen keresztül fiók és jelszó nélkül utasításokat hajtasson végre a szerverrel, belső fájlokat és beállításokat olvasott, és egy tesztfájlt is létrehozott, betegadatokhoz azonban a cég szerint nem fért hozzá.

Az OpenAI-t amiatt is bírálták, hogy Sam Altman vezérigazgató szeptember 1-én személyesen találkozott Richard Marles ausztrál miniszterelnök-helyettessel, de az incidenst akkor sem hozta szóba.

Andrew Charlton, Ausztrália tudományért és technológiáért felelős államtitkára csütörtökön Sydney-ben tartott beszédében úgy fogalmazott, egyetlen cégnek sem szabadna kiadnia olyan fejlett AI-modellt, amely nem biztonságos.

Szerinte az, hogy az AI-laborok nem vették észre és nem akadályozták meg a behatolást, felveti a szabályozás szükségességét.

Charlton az Egyesült Államok önszabályozásra építő megközelítésével szemben azt állítja, hogy a piac ezt egyedül nem fogja tudni megoldani, mert az ösztönzők a gyorsaságot és a képességeket jutalmazzák, és még az iparág vezetői sem tudnak maguktól lassítani. ]]>