Kariauja su veido atpažinimu: „Clearview AI“ Ukrainoje

Hoanas Ton-Thatas, „Clearview AI“ generalinis direktorius, atsisėdo su Paspauskite čia aptarti jo įmonės veiklą Ukrainoje ir prieštaravimus, kurie trukdė didžiausiu pasaulyje veido atpažinimo tinklu. (Jis nori, kad per metus duomenų bazėje būtų 100 milijardų vaizdų. Tai yra 14 nuotraukų kiekvienam žemėje.)

Be kita ko, apie 400 tyrėjų Ukrainoje naudoja „Clearview AI“, kad nustatytų karo nusikaltimų bylas, atpažintų žuvusiuosius – tiek rusų, tiek ukrainiečių – ir praneštų šeimoms Rusijoje, kad jų vaikai žuvo kare.

Neilgai trukus po to, kai bendrovė pradėjo teikti nemokamus prisijungimus Ukrainos susibūrusiems žmonėms, savanorių įsilaužimo pajėgos, vadinamos Ukrainos IT armija, panašiems tikslams naudojo programą, primenančią Clearview AI.

Ukrainos skaitmeninės transformacijos ministerija patvirtino Paspauskite čia kad ji taip pat naudoja Clearview pasakodama šeimoms apie žuvusius karius. Jie sako, kad tai iš dalies yra tam, kad rusai pajustų tikrąją karo kainą, o iš dalies – pasakytų šeimoms, kad jei jie nori pasiimti savo artimųjų kūnus, jie gali keliauti į Ukrainą.

Hoanas Ton-Thatas kalbėjo apie ginčus, susijusius su jo biometrinių duomenų įmone, technologijų naudojimo karo zonoje pavojus ir ko tikėtis iš Clearview.

Interviu buvo suredaguotas siekiant aiškumo.

Spustelėkite čia: kaip „Clearview“ suvaidino tokį svarbų vaidmenį Ukrainoje?

Hoanas Ton-That: Kai prasidėjo karas, mane ir daugelį mūsų komandos narių tikrai šokiravo, ypač žiūrėti filmuotą medžiagą, kurioje moterys ir vaikai kenčia, ir privertė susimąstyti, kaip mes galime padėti? Iš pradžių matydavau užfiksuotų rusų karių nuotraukas ir supratau, kad esant tokiai nuotraukų kokybei, mūsų veido atpažinimo technologija gali būti naudinga. Taigi, aš susisiekiau su daugybe žmonių iš mūsų patariamojoje taryboje ir paklausiau, ar pažįstate ką nors iš Ukrainos vyriausybės, o vienas asmuo – Lee Wolosky – jis priklauso Nacionalinio saugumo tarybai, valdant trims prezidentams, jis greitai pasakė „taip“. Manėme, kad tai gali padėti atpažinti žuvusius kareivius ir sekti dezinformaciją.

CH: Kaip galėtų būti naudinga sekti dezinformaciją?

HT-T: Socialinėje žiniasklaidoje pamatytumėte daugybę dalykų, teigiančių, kad tai yra sugautas Rusijos kareivis, bet galite pamatyti žmones, esančius kitoje pusėje, sakantį, kad iš tikrųjų tai yra apmokamas aktorius, o štai apmokamo aktoriaus vardas. Taigi naudojant šią technologiją tikslumo lygis gali būti naudojamas norint nustatyti, ar kas nors yra tas, kuo jie sakosi.

CH: Kas Ukrainoje turi prisijungimus prie Clearview AI?

HT-T: Tai šešios skirtingos agentūros, įskaitant Ukrainos nacionalinę policiją. Tada žmonės ant žemės tuo naudotųsi. Taigi, pateikę demonstracinę versiją, surengėme jiems mokymus, kaip atsakingai naudoti veido atpažinimo technologiją. Taigi dalis mokymų yra ta, kad jie siųstų neatpažintų žmonių nuotraukas ir paleistų jas per sistemą, o mes galėtume jiems parodyti: „Ei, štai kaip jūs patikrinate, kas tai yra“. Pavyzdžiui, jei jie turi tatuiruotę, kuri atitinka internete, yra labai didelė tikimybė, kad tai tas pats asmuo.

CH: Jūs įtraukėte šią technologiją į karo zoną, o tai kelia daug daugiau problemų nei JAV policijos departamentas. Kaip jūs tai atsiskaitote?

HT-T: Norite būti atsargūs ir įsitikinti, kad jie tikrai žino, kaip tinkamai jį naudoti, todėl norime, kad visi šie scenarijai nepasikartotų. Pavyzdžiui, ką daryti, jei kas nors ką nors nufotografuoja ir sako: „Ei, aš manau, kad tu esi Rusijos išdavikas“. Ir tada jie juos sulaiko. Ir visa tai neteisinga remiantis neteisinga informacija. Taigi mes niekada nenorėtume, kad kažkas panašaus nutiktų. Kol šiuos tyrimus atlieka apmokyti tyrėjai, tai gali būti labai naudinga priemonė. Jei juo naudojosi visi, manau, tada ir iškyla problemų.

CH: Koks yra labiausiai stebinantis panaudojimas, kurį matėte Ukrainoje?

HT-T: Karo nusikaltimų tyrimai. Kalbėjomės su žmonėmis iš Ukrainos nacionalinės policijos ir kitų, kur jie turi vaizdo įrašus iš stebėjimo kamerų. Išmanieji telefonai yra labiau paplitę, todėl yra didesnė tikimybė, kad kažkas bus įrašyta. Dabar, naudojant šią technologiją, jei ką nors identifikuoti lengva, manau, kad žmonės du kartus pagalvos apie karo nusikaltimus. Taigi man tai buvo staigmena.

CH: Taigi tai yra prenumeratos paslauga, ir jūs sakote, kad tai suteikia daugiau galimybių kontroliuoti, jei kas nors ja piktnaudžiauja… kaip veikia Clearview AI?

HT-T: Mes patikriname kiekvieną asmenį, kad įsitikintume, jog tai yra vyriausybės pareigūnas, kuris jį naudoja. Taip pat yra dviejų veiksnių autentifikavimas, todėl jie vis tiek turi patvirtinti savo įrenginį prieš prisijungdami. Kai jie turi paskyrą, kiekvienai agentūrai yra administratorius. Taigi, administratorius, kuris ieško ir kokios priežasties ieško. Yra priėmimo forma, kurioje prieš kratą reikia nurodyti bylos numerį ir nusikaltimo tipą. Taigi žmonės, kai jie naudojasi programine įranga ir mokosi apie programinę įrangą, žino, kad jų paieškas galima patikrinti, nes norime įsitikinti, kad jie naudoja ją tinkamam dalykui. Kadangi tai yra debesies paslauga, turime galimybę atšaukti prieigą. Jei technologija labai piktnaudžiaujama, turėtumėte įsitikinti, kad turime galimybę ją pašalinti.

CH: Atrodo, kad IT armija tuo naudojasi. Vaizdo įraše grupė demonstravo veido atpažinimo programos, kuri atrodo panaši į Clearview AI, naudojimą. Tai savanorių įsilaužimo pajėgos, taigi, kaip atrodo, kad Ukrainos IT armija naudoja „Clearview AI“?

HT-T: Galiu pasakyti tik tiek, kad visi, į kuriuos atvykome, yra vyriausybės pareigūnai. Mes nesame nieko tiesiogiai įtraukę į IT armiją. Visi, su kuriais kalbamės ir yra laive, tinkamai apmokome juos naudoti. Spėlionės, kad IT armija vykdo Clearview AI paiešką, neatitinka jokios mūsų turimos informacijos šiuo klausimu. „Clearview AI“ yra skirtas naudoti Ukrainoje teisėsaugos ir vyriausybės pareigūnams.

CH: Galbūt kas nors davė vartotojo vardą ir slaptažodį IT armijos nariui?

HT-T: Gali būti, kad kas nors pasidalijo ekrano kopija arba pasidalijo, kaip ji veikė, bet norime užtikrinti, kad bet koks technologijos panaudojimas – tarkime, mirusiojo identifikavimas – būtų daroma teigiamai. Nacionalinės policijos ir visų mūsų vartotojų politika – tai pasakyti šeimos nariams humaniškai.

CH: Ar jums būtų buvę, kad IT armija naudos šią technologiją, kad praneštų šeimoms apie žuvusius karius kaip propagandos priemonę?

HT-T: Kalbėjausi su kai kuriais pareigūnais [in the Russian government] ir aš pasakiau: „Žiūrėk, ar tu apie tai žinojai? Ar tai jūsų procedūra? Tada pasakė, kad tai nėra mūsų oficiali procedūra. Ir jie mane patikino, kad taip irgi nenorėtų. Vėlgi, atėjo karo metas. Įtampa tikrai didelė. Tokie dalykai gali atsitikti.

Jei manyčiau, kad jis bus naudojamas tikrai blogai, nemanau, kad suteikčiau jiems prieigą. Manome, kad svarbiausia yra tik humaniškas informacijos pateikimas. Ką galime valdyti kaip „Clearview“, suteikiame prieigą reikiamiems žmonėms. Taigi, pavyzdžiui, mes nesuteikiame prieigos rusams ar panašiai ir užtikriname, kad Ukraina būtų apmokyta kaip įmanoma tinkamai.

CH: Ar atšaukėte bet kokią prieigą, susijusią su Ukraina, nes manėte, kad ji netinkamai naudojama?

HT-T: Ne, ne šiuo metu, bet šių agentūrų administratoriai Ukrainoje turi galimybę tai padaryti. Jie gali prisijungti ir tikrinti paieškas, pašalinti prieigą prie paskyros ir suteikti prieigą, kai mano esant reikalinga. „Clearview AI“ atšauktų prieigą prie agentūros tik tuo atveju, jei toje agentūroje būtų labai daug piktnaudžiavimo. Kol kažkas tikrai nepakyla iki tokio lygio, neatšaukėme jokios prieigos.

CH: NSO grupė yra Izraelio įmonė, gaminanti stebėjimo programinę įrangą, kurią galima nuotoliniu būdu implantuoti į išmaniuosius telefonus. Jis sulaukė griežtos kritikos dėl to, kad autoritarinės vyriausybės naudoja savo technologijas piliečiams šnipinėti. Kaip išvengti NSO spąstų naudojant veido atpažinimo technologiją?

HT-T: Manau, kad NSO yra labai skirtinga technologija nei mes. Ieškome viešos informacijos internete. Taigi tai tikrai kaip „Google“. Jei galite įvesti kieno nors vardą ir žodį „LinkedIn“ į „Google“ ir rasite jo nuotrauką, tada „Clearview“ iš esmės gali padaryti tą patį, bet tai yra paieška pagal nuotrauką. Taip pat dirbame su teisėsauga. NSO skiriasi tuo, kad įsilaužia į telefonus, labai privačius duomenis. Be to, kai jie parduoda savo programinę įrangą, jie neturi galimybės jos atsiimti, jei parduoda netinkamam veikėjui ar vyriausybei. Tuo tarpu „Clearviews“ programinė įranga yra debesyje. Jei kada nors aptiktume ką nors visiškai baisaus ar įžeidžiančio, turime galimybę atšaukti prieigą. Taip pat norime susilyginti su demokratinėmis šalimis ir užtikrinti, kad tai technologija, kurią būtų galima naudoti atsakingai ir visose demokratinėse šalyse.

CH: Ar galite įsivaizduoti scenarijų po metų ir metų, kai visi turės tokią galimybę, kad ji būtų kaip VR akiniai arba įmontuota į telefoną?

HT: Galiu įsivaizduoti, kad papildyta realybė yra įdomi vieta, kur ji gali būti karinėse bazėse, taigi Afganistane jie turėjo situaciją, kai traukdami iš kontrolės posto, teroristai galėjo susprogdinti žmones. Jie iš arti žiūri į asmens tapatybės dokumentus. Manau, kad norint patikrinti asmenį per atstumą naudojant laisvų rankų įrangą, tai labai teigiamas atvejis.

Leave a Comment