Nagy változtatásra szánta el magát az OpenAI az Európai Unióban: hamarosan minden ChatGPT és a Codex által generált szöveghez egyfajta láthatatlan vízjelet adnak hozzá, amelyekkel visszakereshető lesz, hogy MI-generált-e egy írásos munka vagy nem – számolt be róla a Bleeping Computer .

Az OpenAI közlése szerint a vízjel nem lesz látható a szöveg olvasása vagy másolása során.

Ehelyett az OpenAI egy új, textGrain nevű technológiát használ, amely kissé megváltoztatja a modell szóhasználatát, hogy egy később észlelhető statisztikai mintázatot hozzon létre.

Az OpenAI az EU-ban már az elkövetkező hetekben bevezeti ezt az újítást, azonban egyelőre nem teszi globálisan alapértelmezetté.

A cég az EU-s bevezetés mellett pályázatokat is kiírt a vízjel-detektáláshoz, ám a hozzáférés kezdetben csak a jóváhagyott kutatókra és kiválasztott, szakértői szervezetekre korlátozódik.

Mindenkit lebuktat?

Még mielőtt mindenki megijedne, hogy a cég le fogja buktatni, a Sam Altman vezette vállalat jelezte: a szövegek vízjelezése egyelőre messze nem tökéletes.

A cég saját tesztjei azt mutatják, hogy egy alapfokú szerkesztés jelentősen csökkentheti a mesterséges intelligencia által generált szöveg felismerésének lehetőségét.

Egy 400 tokenből álló szövegrészlet értékelése során a szavak 10 százalékának szinonimákkal való helyettesítése 92 százalékról kb. 66-ra csökkentette az észlelési arányt.

A szavak negyedének helyettesítése pedig 17 százalékra – közölte az OpenAI hozzátéve , hogy a detektálás még rosszabb volt az olyan tantárgyaknál, mint például a matematika, ahol a modellnek kevesebb szabadsága van a különböző szavak kiválasztásában.

Emellett a cég legújabb, GPT-6 Astra modelljén sem működik a vízjelezés.

A mesterségesintelligencia-vállalat részletezte: a vízjel nem árulja el, hogy ki generálta a szöveget, így sem a felhasználói fiók, sem a promptot nem hozza nyilvánosságra, ahogy azt sem tudja megmondani, hogy a végső munka mekkora részét írta vagy szerkesztette ember.

Kapcsolódó Augusztustól egy kicsit megváltozott az internet Európában Augusztus 2-án lépett életbe az AI Act felhasználók számára leginkább szembetűnő rendelkezése.

The post Láthatatlan vízjel jön a ChatGPT-be, ami sokakat lebuktathat first appeared on 24.hu .