Veido atpažinimo įmonės turėtų pažvelgti į veidrodį | Johnas Naughtonas

LPraėjusią savaitę JK Informacijos komisaro biuras (ICO) skyrė 7,5 mln. svarų sterlingų baudą nedidelei technologijų įmonei Clearview AI už tai, kad ji „naudojo JK ir kitur gyvenančių žmonių atvaizdus, ​​surinktus iš interneto ir socialinės žiniasklaidos, kad sukurtų pasaulinė internetinė duomenų bazė, kuri galėtų būti naudojama veido atpažinimui“. ICO taip pat paskelbė vykdomąjį raštą, įpareigojantį bendrovę nustoti gauti ir naudoti JK gyventojų asmens duomenis, kurie yra viešai prieinami internete, ir ištrinti JK gyventojų duomenis iš savo sistemų.

Kadangi „Clearview AI“ nėra visiškai įprastas pavadinimas, gali būti naudinga informacija. Tai JAV apranga, kuri iš viešai prieinamos informacijos internete ir socialinių tinklų platformose visame pasaulyje „iškraipė“ (ty skaitmeniniu būdu surinko) daugiau nei 20 milijardų žmonių veidų vaizdų, kad sukurtų internetinę duomenų bazę. Bendrovė naudoja šią duomenų bazę, kad teiktų paslaugą, leidžiančią klientams į savo programėlę įkelti asmens atvaizdą, kuris vėliau patikrinamas, ar jis atitinka visus duomenų bazėje esančius vaizdus. Programėlė sukuria sąrašą vaizdų, kurių charakteristikos yra panašios į tas, kurios yra kliento pateiktoje nuotraukoje, kartu su nuoroda į svetaines, kada tie vaizdai buvo gauti. „Clearview“ savo verslą apibūdina kaip „saugaus pasaulio kūrimą po vieną veidą“.

Šio raminamojo tepalo problema yra ta, kad žmonės, kurių nuotraukos sudaro duomenų bazę, nebuvo informuoti, kad jų nuotraukos buvo renkamos ar naudojamos tokiu būdu, ir jie tikrai niekada nesutiko, kad jos būtų naudojamos tokiu būdu. Taigi ICO veiksmas.

Daugelis iš mūsų niekada nebuvo girdėję apie Clearview iki 2021 m. sausio mėn., kai Kashmir Hill, puiki technologijų žurnalistė, atskleidė jo egzistavimą. Niujorko laikas. Ją įkūrė technologijų verslininkas Hoanas Ton-Thatas ir Richardas Schwartzas, kuris buvo Rudy Giuliani padėjėjas, kai jis buvo Niujorko meras ir vis dar buvo garbingas. Idėja buvo tokia, kad Ton-That prižiūrėtų galingos veido atpažinimo programos kūrimą, o Schwartzas naudotų savo iškilų Rolodex, kad paskatintų verslo susidomėjimą.

Schwartzas neilgai trukus suprato, kad JAV teisėsaugos institucijos to sieks kaip plėšrūs vilkai. Remiantis Hill’s ataskaita, Indianos policijos departamentas buvo pirmasis bendrovės klientas. 2019 m. vasario mėn. ji bylą išsprendė per 20 minučių. Du vyrai parke susimušė, kuris baigėsi tuo, kad vienas šovė kitam į pilvą. Pašalinis asmuo užfiksavo nusikaltimą išmaniuoju telefonu, todėl policija turėjo nufotografuoti užpuoliko veidą, kad galėtų paleisti „Clearview“ programėlę. Jie iškart gavo degtuką. Vyras pasirodė vaizdo įraše, kurį kažkas paskelbė socialinėje žiniasklaidoje, o jo vardas buvo įtrauktas į vaizdo klipo antraštę. Bingo!

„Clearview“ rinkodaros žingsnis buvo pateiktas teisėsaugos galerijai: dviejų puslapių sklaida, o kairiajame puslapyje dominuoja šūkis „Stop Search. Pradėti spręsti“ 95 taškų Helvetica Bold. Apačioje būtų metinės prenumeratos parinkčių sąrašas – nuo ​​10 000 USD penkiems naudotojams iki 250 000 USD už 500. Tačiau žudikas buvo tai, kad visada buvo bandomoji prenumeratos parinktis, kurią galėtų naudoti atskiras pareigūnas, kad pamatytų, ar dalykas veikia.

Taikyta strategija buvo gudri. Parduodama korporacijoms qua korporacijoms iš išorės yra sunku. Bet jei galite priversti viešai neatskleistą asmenį, net ir palyginti jaunesnį, išbandyti savo daiktus ir suprasti, kad tai naudinga, tada esate pusiaukelėje iki pardavimo. Taip Peteris Thielis privertė Pentagoną nusipirkti jo įmonės Palantir duomenų analizės programinę įrangą. Pirmiausia jis įtikino vidutinio rango karininkus tai išbandyti, žinodamas, kad galiausiai jie kreipsis į savo viršininkus. iš vidaus. Ir, spėk kas? Thielis buvo ankstyvas investuotojas į Clearview.

Kiek įmonė turi klientų, neaišku. 2020 m. į „BuzzFeed“ nutekinti įmonės vidaus dokumentai rodo, kad iki to laiko žmonės, susiję su 2 228 teisėsaugos institucijomis, įmonėmis ir institucijomis, buvo susikūrę paskyras ir kartu atlikę beveik 500 000 paieškų – visas jas stebėjo ir registravo bendrovė. JAV didžioji dalis institucinių pirkimų buvo iš vietos ir valstijos policijos departamentų. Užsienyje nutekintuose dokumentuose teigiama, kad „Clearview“ išsiplėtė į mažiausiai 26 šalis už JAV ribų, įskaitant JK, kur žmonės ieškojo (galbūt neteisėtai) Met, Nacionalinės nusikalstamumo agentūros ir policijos pajėgose Northamptonshire, Šiaurės Jorkšyre, Safolke, Surrey ir Hampshire buvo užregistruoti Clearview serverių.

Reaguodama į ICO baudą, Clearview atstovaujanti advokatų kontora teigė, kad bauda buvo „neteisinga pagal įstatymą“, nes bendrovė nebevykdo verslo JK ir jai „nepriklauso ICO jurisdikcija“. Apie tai pažiūrėsime. Tačiau neginčijama, kad daugelis bendrovės duomenų bazėje esančių vaizdų yra socialinės žiniasklaidos vartotojų, kurie tikrai yra JK ir nedavė sutikimo. Taigi du sveikinimai ICO.

Ką aš skaičiau

Didelis išjungimas
Apie tuos Kill-Switched Ukrainian Tractors yra aštrus Cory Doctorow tinklaraščio įrašas „Medium“ apie galią, kurią John Deere turi nuotoliniu būdu išjungti ne tik traktorius, kuriuos iš Ukrainos pavogė rusai, bet ir tuos, kuriuos nupirko Amerikos ūkininkai.

Nekontroliuojamas
Nuolatinė pandemija yra blaivus esė Harperio Justinas EH Smithas, klausdamas, ar kovos su Covid įteisinta kontrolė kada nors bus sušvelninta.

Teisė nešioti ginklus?
Heather Cox Richardson „Substack“ informaciniame biuletenyje apie „teisę nešioti ginklus“ istorikai apmąsto, kaip antroji pataisa buvo išlenkta, kad atitiktų ginklų lobistų poreikius.

Leave a Comment