Gilūs netikri pavojai, slypintys metaverse

Kai esate metaversoje, jus paprastai vaizduoja arba stulpelis, arba karikatūrinis avataras, arba bekūnis plūduriuojantis liemuo ir rankų pora. Nė vienas iš jų nepanašus į jus.

Bet kas atsitinka, kai viskas tampa daug tikresnė?

Nemažai kompanijų kuria būdus, kaip sukurti itin realistiškus savęs vaizdus metavisatoje, naudojant veidą, balsą ir net judesius. Viena iš jų yra Metaphysic, giliosios klastotės arba sintetinės žiniasklaidos įmonė, kurią įkūrė Chrisas Ume’as, Deep Tom Cruise vaizdo įrašai praėjusiais metais „TikTok“ užgriuvo.

Vaizdo įrašuose buvo parodyta, kaip Holivudo aktorius valgo ledinuką ir žaidžia golfą. Filmuota medžiaga buvo kitokio aktoriaus, o Tomo Cruise’o veidas viršuje buvo taip sumaniai perkeltas, kad sunku pasakyti, kad tai netikra.

Dabar „Metaphysic“ nori atiduoti šią technologiją į kiekvieno rankas, kad jie galėtų ją panaudoti kurdami savo hiperrealų avatarą. Paleidimas neseniai surinko 7,5 mln investuotojų, įskaitant „Winkelvoss Capital“ ir „YouTuber“ Loganą Paulą, kad padėtų tai finansuoti.

„Bet kuris žmogus gali ateiti ir sukurti savo hiperrealų sintetinį avatarą“, – sako Tomas Grahamas, „Metaphysic“ generalinis direktorius ir vienas iš įkūrėjų.

Tačiau tai dar ne viskas: naudodami „Metaphysic“ taip pat galite saugiai saugoti savo pseudoportretą (kaip nepakeičiamą žetoną), kad galėtumėte išlaikyti savo atvaizdo ir – svarbiausia – biometrinių duomenų, naudojamų jam sukurti, nuosavybės teisę.

Taip elgiasi ir kitos įmonės. Rumunijoje įsikūrusi Humans.ai taip pat siūlo paslaugą, pagal kurią žmonės gali sukurti savo veido ar balso NFT.

Iš dalies tai susiję su linksmybėmis – kas gi nenori susikurti savo miniaš? Arba pažiūrėkite, kaip jie atrodytų apsirengę Lady Gaga?

Tačiau yra ir rimta pusė. Jei nuo pat pradžių nerasime būdų, kaip apsaugoti savo tapatybę metaversumoje (kaip siekia Metaphysic), rezultatas gali būti siaubingas mūsų pačių vaizdų ir biometrinių duomenų kontrolės praradimas.

Greitas pasinerimas į gilią netikrą dilemą

Niekas to nežino geriau nei Henry Ajderis, tyrinėtojas, daug metų tyrinėjęs kenksmingą sintetinės laikmenos naudojimą. Bendras tyrimas, kurį jis atliko kartu su Karen Hao iš MIT Technology Review 2019 m., parodė, kad 96% visos sintetinės laikmenos tuo metu buvo pornografinės, daugiausia sukurtos robotais, galinčiais pakeisti žmonių veidus ant žmogaus, atliekančio nešvankius veiksmus, kūno.

Tai buvo tuo metu, kai „deepfake“ technologija vis dar buvo pradinėje stadijoje. Dabar tai tapo eksponentiškai lengviau ir realiau.

„Ateitis bus susintetinta, o būsimi iššūkiai neuždengs jokiu būdu.

„Anksčiau prireikė 150 CGI žmonių ir 250 mln. USD, kad sukurtume tikrai gilų efektų rinkinį filmui. Dabar tai galime padaryti už porą tūkstančių dolerių, porą GPU ir vieną žmogų“, – sako Grahamas.

Deepfake vaizdo įrašai vis pasirodo visur. Prasidėjus Rusijos invazijai į Ukrainą, gremėzdiškas netikras vaizdo įrašas, kuriame tariamai pasiduoda prezidentas Volodymyras Zelenskis, parodė, kaip tokia žiniasklaida gali būti panaudota politiniais tikslais. Vaizdo įrašas buvo palyginti grubus, bet ekspertai įspėja kad kitas gali būti ne taip lengva atskirti.

Negalite uždrausti technologijos, sako Ajder: „Jei uždraudžiate sintetinę laikmeną, uždrausite visus Instagram filtrus, uždrausite kompiuterinę fotografiją savo fotoaparate ir išmaniajame telefone, uždrausite dinozaurus Juros periodo parke. Tai niekur nedings – ateitis bus susintetinta, o būsimi iššūkiai neuždengs.

Gero pavyzdžio rodymas

Vienintelis dalykas, kurį galite padaryti, aiškino Ajderis savo referato rengimo metu, buvo pabandyti sukurti pakankamai didelę pramonę, pagrįstą teisėta ir etiška giliai padirbtų technologijomis, kad būtų galima nustatyti geriausią praktiką – ir galbūt, tik galbūt, padėti subalansuoti niekšiškus. naudoja.

Ajderis bendradarbiavo su Ume ir Grahamu, kurie tuo metu kūrė „Metaphysic“, kad patartų, kaip viską nukreipti etine kryptimi.

„Labai suprantu, kaip technologija gali būti naudojama kenkėjiškais būdais, tačiau taip pat mačiau tikrai įdomių kūrybinių ir komercinių technologijų panaudojimo sprogimą ir poreikį daugiau niuansuotų pokalbių. sintetinė laikmena kaip technologija“, – praėjusiais metais „Sifted“ sakė jis, kai jie pradėjo veiklą. „Teisingose ​​rankose ir atsakingai naudojant tai iš tikrųjų gali būti kūrybinės raiškos ateitis. Turime įsitikinti, kad matome gerą pavyzdį.

„Metaphysic“ bandė modeliuoti būdus, kaip žiniasklaidos įmonės galėtų atsakingai naudoti sintetinę laikmeną. Kompanija padėjo žinomiems aktoriams, pavyzdžiui, išnuomoti jų atvaizdus reklamos kompanijoms, kad jos sukurtų kampaniją, tačiau viskas turėjo būti daroma gavus sutikimą ir neperžengiant sutartų ribų.

„Yra keletas gana aiškių naudojimo atvejų, kuriuos laikome tiesiog blogais – piktnaudžiavimas vaizdu pornografiniame kontekste be sutikimo, apgaulingi politiniai dalykai, kibernetinio saugumo problemos su sukčiavimu“, – sakė Ajderis.

Kita sintetinės žiniasklaidos kompanija D-ID, dirbusi su Warner Brothers įvairiuose filmų projektuose, taip pat stengėsi nustatyti etikos kodeksą pramonėje.

Tačiau dabar tai tampa visų problema

Kai „deepfake“ technologija atsiranda iš reklamos ir filmų projektų srities ir tampa prieinama visiems, tokios įmonės kaip „Metaphysic“ mano, kad reikia imtis veiksmų toliau.

Komanda nenori tik įsitikinti, kad kino ir reklamos pramonė sintetinę laikmeną naudoja etiškai – jie nori, kad kiekvienas galėtų sukurti ir apsaugoti savo avatarą. Jie yra siūlyti savo paslaugas, vadinami Visi, nemokamai, naudotojams tereikia išleisti 20 USD už NFT kaldinimo mokesčius.

Kiekvienoje platformoje veidus galima manipuliuoti įvairiais būdais

Žinoma, tai netrukdys kam nors pavogti jūsų veido ir sukurti keršto pornografiją, jei jie tikrai to nori. Tačiau jie nori, kad žmonės suprastų, ką galima padaryti su vaizdais, ir ieškotų būdų, kaip valdyti, kaip naudojamas jų veidas ir balsas.

„Mes norime, kad pavieniai vartotojai jaustų, jog gali geriau kontroliuoti, kas jie yra, ir nesijaudintų, kad siunčia visus savo duomenis gudriai įmonei ir kas gali su tuo nutikti ateityje“, – sako Grahamas.

„Iš esmės tai susiję su sutikimu. Norime šiek tiek išlyginti žaidimo sąlygas ir sukurti paradigmą, kur tai yra norma.

Maija Palmer yra Sifted inovacijų redaktorė. Ji apima giliųjų technologijų ir įmonių naujoves bei tviterį iš @Major_Pictures

Leave a Comment