A Chicagói Egyetem kutatói egy olyan technológiával álltak elő, ami később képes lehet úgy felismerhetetlenné tenni a fotóinkat, hogy szabad szemmel semmiféle változtatás nem látszik majd rajtuk.
Az arcfelismeréses eljárások körüli vita nem új keletű: lényegében annak a háborúnak a folytatása, amit annak idején még a térfigyelő kamerák megjelenése robbantott ki. Az egyik oldalon azok állnak, akik szerint az efféle rendszerek megkönnyítik a hatóságok dolgát és nagyban segítik például a terrorizmus elleni harcot, a másikon pedig azok, akik szerint a megfigyelés mindig súlyos visszaélésekre ad lehetőséget. Az utóbbi csoport manapság az egyik legnagyobb veszélyt a Clearview AI-ban és a hozzá hasonló vállalkozásokban látja.
Az amerikai Clearview-t 2017-ben alapította Hoan Ton-That és Richard Schwartz. A startup által létrehozott arcfelismerő technológia egy több milliárd fotóból álló adatbázisra épül, melyet az interneten nyilvánosan elérhető felvételekből ollóztak össze. Ha úgy tetszik, ez egy gigantikus fotóalbum, amibe akaratán kívül bárki bekerülhet, hogy aztán az algoritmus később újra és újra összevesse a gyanúsítottak képeivel. A szolgáltatást ugyan csak bűnüldöző szervek vehetik igénybe, ám sokak szerint már ez is bőven elég ahhoz, hogy ijesztő legyen, hiszen a rendőrség sem tévedhetetlen, illetve a hatóságok sorait sem csak jófiúk (és persze lányok) gyarapítják.
Ezek a félelmek szülték azt a kutatói csoportot, akik a Chicagói Egyetemen kifejezetten azon munkálkodnak, hogy ellehetetlenítsék a Clearview működését. Ennek érdekében kifejlesztettek egy szoftveres eljárást, amely pixelszintű módosításokkal képes úgy átalakítani a bevitt képeket, hogy az arcfelismerő algoritmus az adatbázissal való összevetéskor hibás következtetésre jusson. A találmányt a tüntetéseken gyakran felbukkanó Guy Fawkes maszkok után Fawkesnak nevezték el, és a fejlesztők számára elérhetővé tett nyilvános verzióját már több mint 50.000-en töltötték le a kutatók weblapjáról.
A Fawkes röviden úgy működik, hogy pont az olyan arcvonásokon végez finom módosításokat, amelyekre a Clearview és a hasonszőrű technológiák támaszkodnak a portrék felismerésekor. A végeredmény így egy olyan felvétel, ami emberi szemmel szinte megkülönböztethetetlen az eredetitől, ám az arcfelismerős szoftver mégsem képes felfedezni rajta a nyilvánvaló hasonlóságokat. Az eljárást létrehozó kutatók csak álcázásként emlegetik a módszert, s meg is osztottak egy látványos ábrát a működéséről. Ezen a Fawkes a színésznő Gwyneth Paltrow arcát „mosta össze” kollegája, Patrick Dempsey portréjával látszólag teljesen azonos fotókat létrehozva, amikkel a Chicagói Egyetem csapata szerint már az Amazon, a Microsoft, és a kínai Megvii arcfelismerő algoritmusai sem boldogultak.
Az álcázó szoftvernek egyelőre nincs mezei felhasználók által is letölthető változata, ám a projekten dolgozó Ben Zhao professzor szerint a végcél az, hogy fotók millióinak kezelésével teljesen ellehetetlenítsék a Clearview működését. Amennyiben ugyanis többségbe kerülnének az interneten a módosított képek, az arcfelismerő algoritmusok egyszerűen nem tudnának használható adatbázisokat építeni, hiszen az összevetéskor mindig téves következtetésre jutnának. A technológia persze még gyerekcipőben jár, de más gondok is vannak vele.
A New York Times újságírója, Kashmir Mill megkérte a kutatókat, hogy vegyék kezelésbe néhány családi fotóját. A hölgy beszámolója szerint az álcázott képeken a Facebook automatikus megjelölése valóban csődöt mondott, mivel a közösségi oldal nem ismerte fel az arcokat, míg ugyanazon felvételek eredeti változatán gond nélkül lezajlott a betagelés. A bibi viszont csak annyi, hogy ezeken a képeken már nagyon is láthatóak voltak a módosítások: Mill ábrázata saját meglátása szerint „hátborzongatóvá” vált, a 3 éves lánya szakállt növesztett, a férje pedig egy monoklival lett gazdagabb.
Az alkotók magyarázata az volt, hogy a hírességek fotóiból dolgozó szoftver mindig a lehető legkülönbözőbb jellemzőkkel próbálja ellátni az alapanyagot, ezért gyakori, hogy a női arcok férfias vonásokat kapnak. Az újságíró esetében ráadásul maximumra tekerték a változtatásokat, ezért is lehetett az ideálisnál jóval észrevehetőbb a trükközés. A csapat viszont tisztában van a jelenséggel, és tervezik is, hogy finomítanak a Fawkes működésén. A kutatók szerint mindenesetre az lenne az ideális, ha az összes interneten megosztott fotó átesne az előzetes álcázáson.
A Clearview-alapító Hoan Ton-That szerint viszont a chicagóiak elkéstek az ellentámadással. A cégvezető átfuttatta a New York Times újságírójának módosított képét a rettegett arcfelismerő rendszeren, ám állítása szerint Fawkes machinációi semmiféle fennakadást nem okoztak a működésében. Sőt, Hon-That azt is megjegyezte, hogy az álcázott fotók még az algoritmusuk okosabbá tételében is segíthetnének.
„Milliárdnyi módosítatlan kép van az interneten, mind eltérő domain neveken. A gyakorlatban már szinte biztos, hogy túl késő egy olyan technológiát tökéletesíteni és széles körben alkalmazni, mint a Fawkes” –mondta.
Nem jósol nagy jövőt a technológiának Dr. Joseph Atick, a biztonságos digitális identitásért kampányoló fizikus sem. A szakértő a 90-es évektől 2010-ig dolgozott az arcfelismerést megalapozó eljárásokon, és úgy látja, hogy egyszerűen túl sok kép van már az interneten ahhoz, hogy az álcázott anyagok legyűrjék őket. Dr. Atick szerint az ilyen megoldások helyett egyedül a törvényhozók biztosíthatják az emberek jogát az arcuk anonimitásához. Emily Wenger, a Fawkeson dolgozó csapat PhD-hallgató tagja viszont még ennyire sem optimista. Szerinte az arcfelismerés elleni harc valójában macska-egér játék: a technika megoldásokra mindig születik valamilyen ellentétes válasz, a törvényekre pedig mindig jut majd valaki, aki kijátssza őket.
A New York Times cikke rámutatott, hogy egy Fawkes-szerű eljárásnak csak az adna némi esélyt, ha egy nagyobb platform kezdené alkalmazni, így rövid idő alatt hatalmas mennyiségű „hibás” alapanyag kerülhetne be az arcfelismerő rendszerek adatbázisaiba. A Facebook például ideális lehetne erre a szerepre, s ezzel még a saját felhasználóit is megvédhetné a Clearview és társainak árgus szemeitől. A közösségi platform egyik szóvivőjét meg is kérdezték a technológiáról: Jay Nancarrow elmondta, hogy a Facebooknál már összeállt egy csapat, akik vizsgálják az alkalmazás lehetőségeit. Mint később kiderült, ebben ott gyakornokoskodik a Fawkest megalkotó chicagóiak egyike, Shawn Shan PhD-hallgató is.
Forrás: The New York Times
Borító: Microsoft
