„OpenAI“ teigia, kad ji laikosi „sąmoningo požiūrio“ leisdama įrankius, galinčius aptikti rašymą iš „ChatGPT“
admin
2 min read
„OpenAI“ sukūrė įrankį, kuris galėtų sugauti studentus, kurie sukčiauja, prašydami „ChatGPT“ parašyti savo užduotis, tačiau, kaip rašo „The Wall Street Journal“, bendrovė svarsto, ar iš tikrųjų jį išleisti.
„TechCrunch“ pateiktame pranešime „OpenAI“ atstovas patvirtino, kad bendrovė tiria „Jurnalo“ istorijoje aprašytą teksto vandenženklio metodą, tačiau teigė, kad ji laikosi „sąmoningo požiūrio“, kad ką nors paskelbtų visuomenei dėl „sudėtingumo ir galimo jo poveikio. poveikis platesnei ekosistemai ne tik OpenAI.
„Mūsų kuriamas teksto vandenženklio metodas yra techniškai daug žadantis, tačiau turi didelę riziką, kurią svarstome tyrinėdami alternatyvas, įskaitant jautrumą blogiems veikėjams apeiti ir galimybę neproporcingai paveikti grupes, pavyzdžiui, nekalbančias angliškai“, – sakė atstovas. .
Tai būtų kitoks požiūris nei dauguma ankstesnių pastangų aptikti dirbtinio intelekto sukurtą tekstą, kurios iš esmės buvo neveiksmingos. Net pati OpenAI praėjusiais metais išjungė savo ankstesnį AI teksto detektorių dėl „mažo tikslumo“.
Naudodama teksto vandenženklį, OpenAI sutelktų dėmesį tik į rašymo aptikimą iš ChatGPT, o ne iš kitų įmonių modelių. Tai būtų padaryta atlikus nedidelius ChatGPT žodžių atrinkimo būdus, iš esmės sukuriant nematomą vandens ženklą, kurį vėliau būtų galima aptikti atskiru įrankiu.
Paskelbus žurnalo istoriją, OpenAI taip pat atnaujino gegužės mėnesio tinklaraščio įrašą apie savo tyrimus, susijusius su AI sukurto turinio aptikimu. Atnaujinimas sako, kad teksto vandenženklis pasirodė „labai tikslus ir netgi veiksmingas kovojant su vietiniu klastojimu, pvz., perfrazavimu“, tačiau pasirodė, kad „mažiau atsparus globalizuotam klastojimui; pavyzdžiui, naudoti vertimo sistemas, pakeisti formuluotę naudojant kitą generatyvinį modelį arba paprašyti modelio įterpti specialų simbolį tarp kiekvieno žodžio ir tada tą simbolį ištrinti.
Dėl to OpenAI rašo, kad šis metodas yra „nereikšmingas, kad jį apeitų blogi veikėjai“. „OpenAI“ atnaujinimas taip pat pakartoja atstovo mintį apie angliškai nekalbančius asmenis, rašydamas, kad teksto vandenženklis gali „užstrigti dirbtinio intelekto kaip naudingos rašymo priemonės naudojimą tiems, kuriems anglų kalba nėra gimtoji“.
