A Marylandi Egyetem (UMD) egyik vezető professzora a kínai technológiai óriás, az Alibaba hat számjegyű kutatási támogatásának részeként olyan gépi tanulási szoftvert épített, amely “hasznos felügyelethez”. Kína állam.
Az Alibaba 125 000 dollár támogatást nyújtott a Dinesh Manocha, az UMD College Park számítástechnika professzora által vezetett kutatócsoportnak, hogy olyan városi megfigyelő szoftvert fejlesszenek ki, amely “minden gyalogos személyiségének osztályozására és más biometrikus jellemzők azonosítására képes” a kutatási támogatási dokumentumok szerint. nyilvános nyilvántartási kérés útján szerezték be.
“Ezeket a képességeket az egyes gyalogosok viselkedésének előrejelzésére fogják használni, és hasznosak lesznek a megfigyeléshez” – áll a dokumentumban.
Az Alibaba felügyeleti termékei 2020-ban kerültek előtérbe, amikor a kutatók felfedezték, hogy egyik terméke, a Cloud Shield képes felismerni és osztályozni az ujgur emberek arcát. Az emberi jogi szervezet úgy véli, hogy ezek a csúcstechnológiás megfigyelőeszközök fontos szerepet játszanak a Hszincsiangban zajló ujgur népirtásban.
“A lényeg az, hogy az Alibaba finanszírozta a kínai megfigyelő államra szabott amerikai tudományos kutatást” – mondta Ryan Fedasiuk, a Center for New American Security munkatársa a The Daily Beastnek küldött e-mailben.
Manocha elismert mesterséges intelligencia- és robotkutató, aki díjakat és elismeréseket szerzett a Google-tól, az IBM-től és sok mástól. Sztársága meghozza a jutalmakat: a marylandi adófizetők 355 000 dollár fizetést fizettek a professzornak 2021-ben az Open the Books kormányfelügyeleti szervezet szerint. Az amerikai hadsereg emellett nagyvonalúan finanszírozza a professzor kutatásait, és 68 millió dolláros megállapodást ír alá Manocha laboratóriumával az AI-technológiák katonai alkalmazásainak feltárására.
De nem csak a marylandi adófizetők és az amerikai hadsereg finanszírozza Manocha kutatását. 2018 januárjában a Maryland Egyetem és az Alibaba 18 hónapos kutatási szerződést írt alá Manocha kutatócsoportjának finanszírozására.
A The Daily Beast által megszerzett támogatási dokumentumban, Manocha csapata ígéretet tett arra, hogy “szorosan együttműködik az Alibaba kutatóival”, hogy olyan városi megfigyelő szoftvert fejlesszenek ki, amely képes azonosítani a gyalogosokat egyedi járási tulajdonságaik alapján. Az algoritmus ezután a járási jellemzők alapján a gyalogosokat “agresszív”, “félénk”, “impulzív” és más személyiségek közé sorolja.
A támogatás megkövetelte, hogy az UMD kutatói teszteljék az algoritmust az Alibaba videóin, és személyesen mutassák be eredményeiket az Alibaba laboratóriumában Kínában. A tudósoknak a szoftver C++ kódbázisát és a nyers adatkészletet is biztosítaniuk kellett az Alibabának.
“A szoftver egyértelmű következménye a demonstrációk és tiltakozások proaktív előrejelzése, hogy elfojtható legyen” – mondta Fedasiuk a The Daily Beastnek.. „Tekintettel arra, amit most tudunk a kínai elnyomás architektúrájáról Hszincsiangban és más régiókban, egyértelmű, hogy Dr. Manochának nem kellett volna bemutatnia ezt a projektet, és az UMD adminisztrátorainak sem kellett volna aláírniuk.”
“[Manocha’s case] egy újabb ébresztő.”
Az UMD nem volt hajlandó kommentálni ezt a történetet. Manocha nem válaszolt több megjegyzéskérésre.
Nemcsak Alibabát érdekelte a professzor szakértelme. 2019 januárjában, amíg az Alibaba támogatás még aktív volt, Manocha 321 000 dolláros, adófizetők által finanszírozott támogatást kapott a Védelmi Minisztériumtól kutatócsoportja számára.
A két pályázat nagyon hasonló kutatási projekteket finanszírozott. Az Alibaba-díj a “nagyszabású viselkedéstanulás sűrű tömegek számára” címet kapta. Eközben a DoD támogatása „hatékony számítógépes modellek nagyméretű heterogén tömegek szimulálására” kutatását finanszírozta.
Nem meglepő, hogy a két pályázat kutatási eredményei jelentős mértékben átfedik egymást. 2019 és 2021 között Manocha több mesterséges intelligenciával és gépi tanulással foglalkozó cikket tett közzé, amelyek mind az Alibaba, mind a DoD támogatást említik.
Nincs bizonyíték arra, hogy Manocha megsértette volna a törvényt azzal, hogy az Egyesült Államok és Kína finanszírozási forrásait kétszeresen is alávetette hasonló kutatási projektek finanszírozására. Ennek ellenére az eset továbbra is “komoly kérdéseket vet fel a gépi tanulási kutatások etikájával kapcsolatban” – mondta Fedasiuk.
Az Egyesült Államok kormányában sokan osztják Fedasiuk aggodalmát. Az elmúlt években az amerikai döntéshozók sürgették a tudósok kedvét attól, hogy külföldi finanszírozókat keressenek.
Egy 2021-es Fehér Ház memorandum – amelyet a Trump-kormányzat alatt írt és Biden Fehér Háza hagyott jóvá – az volt, hogy megakadályozza a kínai beavatkozást az amerikai tudományos életbe, és megkövetelje az amerikai adófizetők által finanszírozott kutatóktól, hogy „teljes mértékben hozzák nyilvánosságra azokat az információkat, amelyek felfedhetik a potenciális összeférhetetlenséget”. Eközben a Kongresszusban Mike Waltz képviselő olyan jogszabályt vezetett be, amely megtiltja az amerikai kutatóknak a külföldi tehetség-toborzó programokban való részvételt.
A kongresszusi képviselő szerint Manocha esete “egy újabb ébresztő”, és “pontosan miért” vezette be a jogszabályt.
Manocha Kínához fűződő kapcsolatai túlmutatnak az Alibabával folytatott munkáján. A professzor 2014 és 2016 között Thousand Talents Scholarként dolgozott, egy kínai programban, amelyet az Egyesült Államok kormánya nemzetbiztonsági veszélynek ítélt. 2018-ban egy másik kínai technológiai óriás, a Baidu felvette a Manochát vezető tanácsadónak a kutatási részlegéhez.
A professzor az Alibaba vásár 2019 júniusi lejárta után is folytatta a kínai kollégákkal való együttműködést, 2020-ban pedig a kínai hadiipari komplexumhoz kötődő kínai akadémikusokkal közösen írt egy tanulmányt.
Jessica Brandt, a Brookings Institution Mesterséges Intelligencia és Feltörekvő Technológiai Kezdeményezés politikai igazgatója azt mondta a The Daily Beastnek, hogy Manocha esete figyelmeztetésként szolgálhat más amerikai kutatók számára.
“Úgy gondolom, hogy ez az eset megmutatja, milyen messzemenőek lehetnek a kutatók együttműködéssel kapcsolatos döntései, és mennyire fontos az akadémiai közösség számára, hogy magatartási kódexeket dolgozzanak ki, amelyek irányítják ezeket a döntéseket” – mondta.
.