Kompanija OpenAI razmatra uvođenje vodenog žiga kao alata za prepoznavanje tekstova koje generiše ChatGPT, što bi moglo pomoći u sprečavanju zloupotrebe ove tehnologije u obrazovnim okruženjima. Kako navode iz kompanije, timovi su već razvili metodu koja omogućava tekstualni vodeni žig, a trenutno se razmatra mogućnost implementacije ovog alata.
„Naši timovi su razvili metodu za tekst sa vodenim žigom i mi nastavljamo da razmatramo ovu mogućnost dok istražujemo alternative“, navodi OpenAI u saopštenju.
Vodeni žig je zamišljen kao način da se identifikuje sadržaj koji generiše veštačka inteligencija, ali još nije odlučeno da li će ovaj metod biti primenjen. Iako alat već postoji, rasprave o njegovoj primeni su još uvek u toku, zbog potencijalnih posledica i efikasnosti u različitim scenarijima.
Pored vodenog žiga, OpenAI takođe razmatra i druge mogućnosti, kao što su klasifikatori i metapodaci, kao deo svog šireg istraživanja o poreklu teksta. Iako je metod vodenog žiga „veoma precizan“ u određenim situacijama, pokazalo se da je manje efikasan protiv određenih oblika manipulacije, kao što su korišćenje sistema prevođenja, preformulisanje teksta pomoću drugih generativnih modela ili umetanje specifičnih znakova između reči koje se kasnije uklanjaju. .
Druga zabrinutost je potencijalni nesrazmeran uticaj na određene grupe, posebno na korisnike engleskog koji nisu maternji. OpenAI je svestan rizika od stigmatizacije korišćenja AI tehnologije kao alata za pisanje i pažljivo procenjuje prednosti i nedostatke ove metode.
Pored vodenog žiga, kompanija takođe daje prioritet razvoju alata za autentifikaciju audiovizuelnih sadržaja, sa posebnim naglaskom na poreklo teksta. Razlog za to je složenost teksta i njegov potencijalni uticaj na širi ekosistem, izvan same kompanije OpenAI.
