Most árulta el a cég, hogy a Google Gemini modellje, illetve az arra épülő ágensek egy májusi kiberbiztonsági teszt során rácsatlakoztak az internetre és feltörték három másik cég rendszerét. (Az ágensek olyan programok, melyek AI-alapon működve képesek egy cél elérése érdekében önállóan döntéseket hozni és eszközöket felhasználni).
Ez az első ismert eset, amikor az óriásvállalat AI-jára épülő ágensek önállóan ilyesmit műveltek - írja a CNN .
A tesztet az Irregular nevű, kiberbiztonsági felmétéseket készítő külsős cég végezte a Google megbízásából.
Heather Adkins, a Google kiberbiztonságágért felelős alelnöke azt nyilatkozta, hogy azonnal értesítetették az érintett vállalatokat és megváltoztatták a biztonsági tesztjeik felépítését. „Ezek az esetek jól illusztrálják, hogy a fejlett AI-modelleket felelős módon kell tréningezni.” - fogalmazott az alelnök.
Az Irregular szóviviője szerint ugyanazzal a problémável szembesültek, mint akkoriban több konkurensük. (Az OpenAI-nál történtekről érdemes elolvasni Horváth Bence remek cikkét.) Emiatt július végén minden jelentős konkurensüket értesítették a történtekről.
A nyilvánosságot viszont nem. ]]>
Vélemények és hozzászólások
Vitatkozz a témáról kulturáltan. A hozzászólásokra a közösségi irányelveink és az adatvédelmi tájékoztató vonatkozik.