Alibaban ohjelmisto löytää uiguureja, se kertoi Kiinan asiakkaille

Kun Kiinan hallitus seurasi ja vainoi pääosin muslimeja vähemmistöryhmiä, teknologiajätti Alibaba opetti yritysasiakkailleen, kuinka he voisivat olla mukana.

Alibaban pilvipalveluliiketoiminnan verkkosivusto osoitti, kuinka asiakkaat voisivat käyttää ohjelmistojaan uiguurien ja muiden etnisten vähemmistöjen kasvojen havaitsemiseen kuvissa ja videoissa valvontateollisuuden julkaisujen löytämien sivuston sivujen mukaan. IPVM ja jaettu The New York Timesin kanssa. Ominaisuus on rakennettu Alibaba-ohjelmistoon, joka auttaa verkkosivustoja seuraamaan digitaalista sisältöä terrorismiin, pornografiaan ja muihin punalippuluokkiin liittyvissä asioissa, verkkosivusto kertoi.

Löytö voi työntää yhden maailman arvokkaimmista Web-yhtiöistä kansainvälisen tuomion myrskyyn, joka ympäröi Kiinan kohtelua muslimivähemmistöihin.

Kiinan hallitus on pyyhkäissyt satoja tuhansia uigureja ja muita indoktrinaatioleireillä osana terrorismin vastaista kampanjaa. Se on myös levinnyt laaja valvontaverkko, käyttämällä kasvojentunnistus ja geenitestaus, seurata niitä. Muun muassa Yhdysvaltain hallitus on tuominnut ohjelman ja rankaissut kiinalaisia ​​yrityksiä, joiden uskotaan olevan mukana.

Ei voitu määrittää, olivatko Alibaban asiakkaat käyttäneet vähemmistötunnistustyökalua. Mutta huolestuttavan käytön mahdollisuus on suuri. Esimerkiksi sosiaalisen median alusta voisi automaattisesti merkitä videot lisätarkastusta varten tai jopa varoittaa viranomaisia, jos niissä on kasvoja, joiden mukaan ohjelmisto ennustaa uiguuria.

Kun The Instances kysyi Alibabalta työkalusta tällä viikolla, yritys muokkasi verkkosivustoaan poistamaan viittaukset uiguurien ja vähemmistöjen kasvoihin.

“Etnisyysmerkintä viittaa ominaisuuteen / toimintoon, jota käytettiin testausympäristössä teknisen kykymme etsinnän aikana”, Alibaba Cloudin edustaja sanoi kirjallisessa lausunnossa. “Sitä ei koskaan käytetty testausympäristön ulkopuolella.”

Yritys kieltäytyi sanomasta lisää testauksestaan ​​tai selittämästä, miksi tietoja ominaisuudesta oli sisällytetty sen ohjelmiston virallisiin asiakirjoihin. Se kieltäytyi myös kommentoimasta, miksi se oli testannut työkaluja etnisten vähemmistöjen kasvojen havaitsemiseen.

Alibaba on kiinalainen yritysjätti, jolla on maailmanlaajuinen ulottuvuus. Se on kenties Amazonin ainoa maailmanlaajuinen vertaisverkko, digitaalisen kaupan näkemys, joka on levinnyt logistiikkaan, päivittäistavarakauppoihin, tiili- ja laastimyymälöihin sekä pilvipalveluihin. Alibaban osakkeet käyvät kauppaa New Yorkin pörssissä, ja niiden omistavat suuret kansainväliset sijoittajat. Globaalit tuotemerkit kuten Nike, Starbucks ja Ralph Lauren käyttävät alustojaan myydä kiinalaisille ostajille. Alibaba on Viron virallinen pilvipalvelukumppani olympialaiset.

Mutta Trumpin hallinto on suhtautunut kiinalaisiin teknologiayrityksiin yhä epäilevämmin, etenkin niihin, joiden katsotaan osallistuvan ihmisoikeusrikkomuksiin Xinjiangissa, Länsi-Kiinan alueella, jossa asuu monia uigureja.

Hallinto viime vuonna lisäsi 28 kiinalaista yksikköä, mukaan lukien valvontavälineiden ja aloittavien tekoälyn valmistajat, kaupan mustalle listalle heidän huolestaan ​​heidän roolistaan ​​tukahduttamisessa. Viime kuussa Valkoinen talo estänyt amerikkalaisia ​​sijoittamasta luettelossa yrityksistä, joilla on siteitä Kiinan armeijaan, askel kohti kiinalaisten yritysten pääsyn rajoittamista Yhdysvaltain pääomamarkkinoille.

Kiinan viranomaiset ovat puolustaneet Xinjiangin kampanjaa epäedullisena tapana torjua ääriliikkeitä. Heillä on viittasi rodullisiin jännitteisiin Yhdysvalloissa vääristääkseen amerikkalaisten virkamiesten kritiikkiä.

Valvonta tekniikkaa on ollut ratkaiseva Kiinan ponnisteluihin. Suurin osa maan väestöstä on han-etnisiä. Mutta muiden etnisten ryhmien jäsenet voivat näyttää riittävän erillisiltä Han-kiinalaisilta helpottaakseen ohjelmistojen erottamista heistä.

Washington Submit viime viikolla että toinen kiinalainen tekninen jättiläinen Huawei oli testannut ohjelmistoa, joka voi automaattisesti hälyttää poliisia, kun sen valvontakamerat havaitsevat uiguurien kasvot. Postin raportti, joka viittasi Huawei-verkkosivustolta löytyneeseen asiakirjaan, sai ranskalaisen jalkapallotähden Antoine Griezmannin katkaisemaan siteet yritykseen. Hän oli ollut tuotemerkin suurlähettiläs Huawei-älypuhelimille.

Huawei-edustaja kertoi Postille, että työkalu oli ollut “yksinkertaisesti testi”.

Kasvojentunnistustekniikka on asettanut eettisiä haasteita monissa paikoissa. Yhdysvalloissa epätarkkuuksien ja ennakkoluulojen mahdollisuus on johtanut joihinkin paikallishallintoihin estää tekniikan käyttöä lainvalvontatarkoituksiin. Amazon tänä vuonna ei enää sallinut poliisilaitosten käyttää kasvojentunnistuspalvelua vuoden ajan, jotta lainsäätäjät voisivat harkita sitä tiukemmat säädökset.

Tavat, joilla tekniikkaa on käytetty Kiinassa, ovat herättäneet kovempia kysymyksiä.

Ennen tätä viikkoa Alibaban verkkosivustolla oli sanottu, että työkalut uiguurien ja muiden vähemmistöjen kasvojen havaitsemiseen olivat osa sen “sisältöturvallisuus” -palvelua. Palvelu auttaa Alibaban pilvi-asiakkaita ilmoittamaan potentiaalisesti riskialtista materiaalia digitaalisille alustoilleen ladatuissa kuvissa, videoissa, teksteissä ja asiakirjoissa.

“Kun hallituksen sääntely kiristyy päivittäin, nämä ovat tehtäviä, joita kaikkien verkkosivustojen ja alustojen on kiireellisesti käsiteltävä ja hallinnoitava vakavasti”, Alibaba verkkosivusto selittää. Yhtiö on Kiinan johtava pilvipalvelujen tarjoaja ja kumppani kansainvälisille yrityksille, joilla on verkkotoimintaa Kiinassa.

Sisällön suojauspalvelu voi suorittaa “arkaluonteisten ihmisten kasvojentunnistuksen” valokuvia ja VideotAlibaban verkkosivuston mukaan. Kun kasvoille annetaan kuva, ohjelmisto voi etsiä määritteitä, mukaan lukien onko henkilöllä silmälaseja vai hymyilevä, verkkosivuston kuvauksissa sanotaan.

Ennen Alibaba muokkasi nuo kuvaukset tällä viikolla he olivat sanoneet, että ohjelmisto pystyi arvioimaan myös kahta muuta ominaisuutta: onko henkilö aasialaista alkuperää ja onko hän vähemmistö – joka suluissa lisättynä toisen sivun kuvauksena viittasi uiguureihin.

Yrityksen verkossa dokumentointi englanniksi Samassa ohjelmistossa ei ollut mitään mainintaa etnisten vähemmistöjen havaitsemisesta, mikä voi viitata siihen, että ominaisuus oli tarkoitettu pääasiassa kiinalaisten asiakkaiden käyttöön.

Alibaba ei ollut ollut yksin Kiinassa mainostamassa työkaluja automaattiseen rodun profilointiin.

Toinen kiinalainen pilvipalvelujen tarjoaja, Kingsoft Cloud, oli kuvannut verkkosivustollaan tekniikkaa, joka voisi käyttää kasvokuvaa “rodun” ennustamiseen muiden ominaisuuksien lisäksi. Kingsoft Cloudin verkkosivustolla olevan sivun ja asiakirjan mukaan, jonka IPVM löysi ja jakoi The Timesin kanssa, yrityksen ohjelmisto pystyi arvioimaan, oliko henkilön rotu ”uiguuri” vai ”muu kuin uiguuri”.

Kun The Instances kysyi Kingsoft Cloudilta ohjelmistosta, yritys poisti nuo sivut verkkosivustoltaan. Kirjallisessa lausunnossaan se totesi, että kyseistä työkalua ei ole koskaan myyty asiakkaille eikä se ole pystynyt erottamaan uiguurien kasvoja.

Lausunnossa sanottiin, että ohjelmisto oli luiskahtanut yrityksen sisäisten tarkastusprosessien ohitse ja että yritys arvioi näitä mekanismeja varmistaakseen asianmukaisen valvonnan.

“Merkinnät minkä tahansa rodun perusteella ovat sopimattomia ja ristiriidassa Kingsoft Cloudin käytäntöjen ja arvojen kanssa”, lausunnossa sanotaan. “Tuotteemme eivät koskaan sisällä yrityksiä tunnistaa ja merkitä tiettyjä etnisiä ryhmiä.”

Kingsoft Cloud on listattu Nasdaq-pörssissä.

Aaron Krolik osallistui raportointiin ja Lin Qiqing osallistunut tutkimukseen.

Leave a Reply

Your email address will not be published. Required fields are marked *