„Google Play“ susidoroja su dirbtinio intelekto programomis, kai buvo išplatintos programos, skirtos netikriems aktams kurti

„Google“ šiandien išleidžia naujas gaires kūrėjams, kuriantiems AI programas, platinamas per „Google Play“, tikėdamasi sumažinti netinkamo ir kitaip draudžiamo turinio skaičių. Bendrovė teigia, kad AI funkcijas siūlančios programos turės neleisti generuoti apriboto turinio, apimančio seksualinį turinį, smurtą ir kt., ir turės pasiūlyti vartotojams būdą pažymėti aptiktą įžeidžiantį turinį. Be to, „Google“ teigia, kad kūrėjai turi „griežtai išbandyti“ savo AI įrankius ir modelius, kad užtikrintų, jog jie gerbia naudotojų saugumą ir privatumą.

Tai taip pat stabdo programas, kurių rinkodaros medžiaga skatina netinkamo naudojimo atvejus, pvz., programas, kurios nurenginėja žmones arba kuria nesąmoningus nuogų vaizdus. Jei skelbimo kopijoje nurodoma, kad programa gali atlikti tokius veiksmus, ji gali būti uždrausta iš „Google Play“, neatsižvelgiant į tai, ar programa iš tikrųjų gali tai padaryti.

Šios gairės vadovaujasi didėjančia AI nurengimo programų, kurios pastaraisiais mėnesiais reklamavo save socialinėje žiniasklaidoje, rykšte. Pavyzdžiui, balandžio mėnesio „404 Media“ ataskaitoje nustatyta, kad „Instagram“ talpina programų, kuriose teigiama, kad naudoja dirbtinį intelektą, kad sukurtų netikrus nuogus, skelbimus. Viena programėlė reklamavo save naudodama Kim Kardashian paveikslėlį ir šūkį: „Nurengti bet kurią merginą nemokamai“. „Apple“ ir „Google“ ištraukė programas iš atitinkamų programų parduotuvių, tačiau problema vis dar plačiai paplitusi.

Mokyklos visoje JAV praneša apie problemas, susijusias su mokiniais, apgaubiančiais kitų mokinių (o kartais ir mokytojų) dirbtinio intelekto nuogas dėl patyčių ir priekabiavimo bei kitokio netinkamo AI turinio. Praėjusį mėnesį Baltimorėje buvo suimtas mokyklos direktoriaus rasistinis dirbtinio intelekto klastojimas. Dar blogiau, kai kuriais atvejais ši problema turi įtakos net vidurinių mokyklų mokiniams.

„Google“ teigia, kad jos politika padės nepatekti į „Google Play“ programas, kuriose yra dirbtinio intelekto sukurto turinio, kuris gali būti netinkamas arba žalingas naudotojams. Jame nurodoma esama AI sukurto turinio politika, kurioje galima patikrinti programos patvirtinimo sistemoje „Google Play“ reikalavimus. Bendrovė teigia, kad dirbtinio intelekto programos negali leisti generuoti jokio apriboto turinio ir taip pat turi suteikti vartotojams galimybę pažymėti įžeidimą ir netinkamą turinį, taip pat stebėti ir teikti pirmenybę šiam atsiliepimui. Pastarasis yra ypač svarbus programose, kuriose naudotojų sąveika „formuoja turinį ir patirtį“, – sako „Google“, pvz., programose, kuriose populiarūs modeliai vertinami aukščiau arba galbūt labiau pastebimi.

Kūrėjai taip pat negali reklamuoti, kad jų programa pažeidžia bet kurias „Google Play“ taisykles pagal „Google“ programų reklamos reikalavimus. Jei joje reklamuojamas netinkamas naudojimo atvejis, programa gali būti paleista iš programų parduotuvės.

Be to, kūrėjai taip pat yra atsakingi už savo programų apsaugą nuo raginimų, galinčių manipuliuoti jų AI funkcijomis, kad būtų sukurtas žalingas ir įžeidžiantis turinys. „Google“ teigia, kad kūrėjai gali naudoti savo uždarojo testavimo funkciją, kad bendrintų ankstesnes savo programų versijas su vartotojais, kad gautų atsiliepimų. Bendrovė primygtinai siūlo, kad kūrėjai ne tik išbandytų prieš paleidžiant, bet ir dokumentuotų tuos bandymus, nes „Google“ gali paprašyti jį peržiūrėti ateityje.

Bendrovė taip pat skelbia kitus išteklius ir geriausios praktikos pavyzdžius, pvz., „People + AI Guidebook“, kuriuo siekiama padėti kūrėjams, kuriantiems AI programas.