Internetiniai pokalbių robotai vartotojų prašymu sukuria nuogų tikrų žmonių atvaizdus, todėl ekspertai nerimauja, kad atviri gilūs klastotės sukurs „labai košmarišką scenarijų“.
A Laidinis Pranešimų siuntimo programėlės „Telegram“ tyrimas atskleidė dešimtis dirbtiniu intelektu veikiančių pokalbių robotų, kurie tariamai „kuria atviras žmonių nuotraukas ar vaizdo įrašus vos keliais paspaudimais“, pranešė išparduotuvė. Pasak „Wired“, kai kurie „nuima drabužius“ iš naudotojų pateiktų vaizdų, o kiti sako, kad gali padaryti X-reitingu nuotraukas, kuriose užfiksuoti žmonės, užsiimantys seksualine veikla.
Išparduotuvė apskaičiavo, kad maždaug 4 milijonai vartotojų per mėnesį naudojasi pokalbių robotų giliųjų klastojimo galimybėmis, kurių buvo apie 50. Tokie generatyvūs dirbtinio intelekto robotai pažadėjo pateikti „viską, ko tik norite apie veidą ar drabužius nuotraukoje, kurią man pateikiate. “, – pranešė „Wired“.
„Kalbame apie didelį žmonių, kurie aiškiai aktyviai naudoja ir kuria tokio pobūdžio turinį, skaičiaus padidėjimą“, – „deepfake“ ekspertas Henry Ajder, vienas pirmųjų atradęs pogrindžio pasaulį. aiškių „Telegram“ pokalbių robotų prieš ketverius metus, sakė „Wired“.
„Tikrai susirūpinimą kelia tai, kad šie įrankiai, kurie tikrai griauna gyvenimus ir sukuria labai košmarišką scenarijų, visų pirma jaunoms merginoms ir moterims, vis dar taip lengvai pasiekiami ir randami paviršiniame žiniatinklyje, vienoje didžiausių programėlių pasaulyje. pasaulis“.
Nors įžymybės tapo pornografinių giliųjų klastočių aukomis – nuo Taylor Swift į Jenna Ortega – taip pat neseniai buvo pranešimų apie paauglės, naudojamos kuriant netikras nuogų nuotraukaskai kurie iš jų buvo naudojami tais atvejais, kaisekso iškraipymas. A neseniai atlikta apklausa netgi atskleidė, kad 40% JAV studentų pranešė apie gilių klastotės platinimą savo mokyklose.
Deepfake svetainės klestėjo Wired teigimu, dirbtinio intelekto technologijos pažanga, tačiau įstatymų leidėjai juos atidžiai tikrino. Rugpjūčio mėnesį San Francisko advokatų kontora padavė į teismą daugiau nei tuziną „nusirengimo“ svetainių.
Telegramoje robotai gali būti naudojami vertimams, žaidimams ir įspėjimams arba, šiuo atveju, pavojingiems padirbiniams sukurti. Kai „Wired“ susisiekė dėl aiškaus pokalbių roboto turinio, bendrovė nekomentavo, tačiau robotai ir susiję kanalai staiga dingo, nors kūrėjai pažadėjo kitą dieną „sukurti kitą robotą“.
„Tokio tipo netikri vaizdai gali pakenkti asmens sveikatai ir gerovei, sukeldami psichologines traumas ir pažeminimo, baimės, sumišimo ir gėdos jausmus“, – JK įsikūrusios technologinės prievartos ir ekonominio įgalinimo skyriaus vadovė Emma Pickering. Prievartos šeimoje organizacija „Refuge“, sakė „Wired“.
„Nors tokia prievartos forma yra įprasta, nusikaltėliai retai patraukiami atsakomybėn, ir mes žinome, kad tokio pobūdžio prievarta tampa vis dažnesnė intymiuose partnerių santykiuose.
Elena Michale, gynimo grupės #NotYourPorn direktorė ir viena iš įkūrėjų, „Wired“ sakė, kad „svarbu“, koks iššūkis yra „stebėti ir stebėti“ programas „Telegram“, kurios gali reklamuoti tokio tipo atvirus vaizdus.
„Įsivaizduokite, jei esate išgyvenęs, kuris pats turi tai padaryti, našta tikrai neturėtų tekti asmeniui“, – sakė ji. „Be abejo, įmonei turėtų tekti našta, kad ji įdiegtų kažką iniciatyvaus, o ne reaktyvaus.
Nepriklausoma suklastota pornografija buvo uždrausta keliose valstijose, tačiau ekspertai teigia, kad „Telegram“ paslaugų teikimo sąlygos yra neaiškios X reitingo turiniui.
„Sakyčiau, kad iš tikrųjų neaišku, ar platformoje draudžiamas intymaus įvaizdžio kūrimas ar platinimas be sutikimo“, – „Wired“ sakė Demokratijos ir technologijų centro laisvos saviraiškos projekto direktorė Kate Ruane.
Šių metų pradžioje „Telegram“ generalinis direktorius Pavelas Durovas buvo suimtas ir apkaltintas palengvinti vaikų pornografijąnors jis pažadėjo, kad nuo jo sulaikymo jo programėlės veikimas ir privatumo politika mažai pasikeitė.
Neseniai paskelbtame pareiškime jis tvirtino, kad platforma nuolat bendradarbiauja su teisėsauga, kai buvo prašoma tai padaryti, ir pažadėjo, kad bendrovė „neleidžia nusikaltėliams piktnaudžiauti mūsų platforma ar vengti teisingumo“.
„Išmaniųjų telefonų laikų įstatymų naudojimas apkaltinus generalinį direktorių už trečiųjų šalių nusikaltimus jo valdomoje platformoje yra klaidingas požiūris“, – „Telegram“ įraše rašė Durovas.
„Statybos technologija yra pakankamai sudėtinga, kokia yra. Joks novatorius niekada nesukurs naujų įrankių, jei žinos, kad gali būti asmeniškai atsakingas už galimą piktnaudžiavimą šiomis priemonėmis.
Tačiau ekspertai sako, kad „Telegram“ turėtų būti atsakinga.
„Telegrama suteikia jums paieškos funkciją, todėl ji leidžia identifikuoti bendruomenes, pokalbius ir robotus“, – sakė Ajderis.
„Jis suteikia robotų prieglobos funkcionalumą, taigi, tai yra kažkur, kur pateikiami įrankiai. Tada tai yra vieta, kur galite juo dalytis ir iš tikrųjų padaryti žalą galutiniam rezultatui.
