Neprofitna istraživačka organizacija koja se bavi umjetnom inteligencijom, OpenAI, ranije ove godine predstavila je svoj AI sistem GPT-2. Isti su trenirali na milijardu i po parametara i milionima različitih tekstova, te su ga tako “naučili” da na zadanu temu generiše prilično uvjerljive tekstove. Tada su njihovi stručnjaci uočili da bi se ovakvi sistemi mogli koristiti za masovno generisanje lažnih vijesti i pisanje propagandnih tekstova, pa su bili procijenili da nije pametno dati ga na korištenje baš svakome.
Prepoznavanje računarski generiranog teksta, kada se obavlja na ovako napredan način, težak je zadatak za prosječnog čovjeka, pa bi aumatizovano stvaranje tekstova moglo unijeti mnogo zabune, ali uzrokovati brojne probleme. No, u međuvremenu su se u organizaciji OpenAI predomislili, pa su svoj GPT-2 dali na raspolaganje svima zainteresovanima.
Moćni pisac pogonjen računarima
Finalni AI model u svojoj punoj snazi sada je, nakon višemjesečnog testiranja ograničenih modela i demo verzija, objavljen na stranicama ove organizacije. Uz njegovu objavu autori poručuju kako se nadaju da će developeri na temelju njega stvoriti nove modele, ali i da će s cijelom zajednicom koja se bavi umjetnom inteligencijom nastaviti razgovarati o njezinom odgovornom korištenju.
We're releasing the 1.5billion parameter GPT-2 model as part of our staged release publication strategy.
– GPT-2 output detection model: https://t.co/PX3tbOOOTy
– Research from partners on potential malicious uses: https://t.co/om28yMULL5
– More details: https://t.co/d2JzaENiks pic.twitter.com/O3k28rrE5l— OpenAI (@OpenAI) November 5, 2019
Saznanja i problemi
Stručnjaci OpenAI-ja uvidjeli su da su tekstovi koje napiše GPT-2 ljudima uvjerljivi, što su pokazala i ispitivanja. Isto tako, svjesni su da se sistem koji generiše tekstove može “naučiti” i podesiti za nepoželjne svrhe. Primjera radi, može se istrenirati da piše tekstove u prilog ekstremističkim grupama te širi njihovu propagandu i ideologiju.
Ipak, stručnjaci koji rade na sistemima mašinskog učenja imaju metode koje mogu prepoznati automatizovani tekst i razlučiti ga od onog pisanog “ljudskom rukom”. Za sada se automatska detekcija AI teksta obavlja s preciznošću od oko 95%, što nije dovoljno, pa ju je potrebno upotpuniti ljudskom prosudbom. Jedan od razloga zašto su sada pustili u javnost svoj model je, kažu, i pomoć u razvoju boljih algoritama za otkrivanje mašinsko generiranog teksta.
Iako su svjesni problema koje sistem može izazvati, i priznaju da ne mogu predvidjeti sve što se njime može učiniti, ipak su odlučili objaviti ga, u nadi da će prevladati ona strana koja se bori za odgovorno korištenje ove tehnologije.
Izvor: bug.hr
