Az OpenAI legújabb mesterséges intelligencia-modellje, az „Astra” bemutatása után Jakub Pachocki, a vállalat vezető tudósa arra figyelmeztette az iparágat, hogy lassítsa a fejlesztések ütemét, amíg nem alakulnak ki közös biztonsági szabványok.
Pachocki szerint a modern AI-rendszerek olyan bonyolulttá váltak, hogy még a fejlesztők sem értik teljesen működésüket, és az OpenAI jelenlegi módszerei sem képesek lépést tartani a rendszerek gyors fejlődésével.
Az esszéjében kifejtette, hogy az AI-kutatás célja az úgynevezett „rekurzív önfejlesztés” elérése, amikor a rendszerek már önállóan is képesek fejlettebb utódokat létrehozni, de ez a fejlődés komoly kockázatokat rejt magában.
Vélemények és hozzászólások
Vitatkozz a témáról kulturáltan. A hozzászólásokra a közösségi irányelveink és az adatvédelmi tájékoztató vonatkozik.