„Poznajete svoje klijente“ zaista! Banke primjenjuju AI sisteme kako bi nadgledale klijente i zaposlene

Veliki broj američkih banaka pustio je u rad kamere sa AI sistemima sposobnim za prepoznavanje lica i opštu analizu obrazaca ponašanja, nagovještavajući veću rasprostranjenost u maloprodajnim prodavnicama i drugdje – i veliki pad povjerenja kupaca.

Ranije ove nedjelje, glavni službenik za informacionu bezbjednost City Nationala, Bobby Dominguez, pokušao je da pozitivno opiše distopijski iskorak kada je u četvrtak intervjuisan o tom fenomenu, napominjući da „već koristimo prepoznavanje lica na mobilnom uređaju. Zašto ga ne iskoristiti u stvarnom svijetu? “

Ovaj veseli pristup pomalo se kosi sa tajnošću banaka koje već koriste takvu tehnologiju – City National Bank of Florida, JP Morgan Chase i Wells Fargo sprovodili su testiranja AI sistemima za nadzor, ali nije poznato kada, gdje, ili na osnovu čega se vrši snimanje. Da li se snimci zadržavaju mjesecima? Brišu nakon jednog dana, osim ako se ne dogodi nešto zaista čudno? I dok je u City Nationalu izričito napomenuto da pregledaju 31 veb stranicu koristeći softver za prepoznavanje lica koji bi potencijalno mogao da „uoči ljude na vladinim listama nadzora“, što zvuči kao tužba u najavi.

Svakako, postoje neke pozitivne upotrebe mini-kamera u bankama. Kako ekonomija upada u crnu rupu, nije neobično primijetiti nekoga umotanog u vreću za spavanje unutar predvorja bankomata banke, gdje AI kamera može bar da ih razlikuje od neživog predmeta dok pokušavaju da odspavaju. Morate ukloniti te nepoželjne! Međutim, ovo je jedan od onih izrazito američkih problema u kojima vlasti instinktivno primjenjuju pogrešno rješenje – sigurno sa skoro 60 praznih domova za svakog beskućnika, ima više smisla da se osoba jednostavno stavi u  sklonište, a ne da se rasporedi Orvelovska mreža polu-osjetljivih kamera savršenih za sprječavanje ljudi da spavaju u bankama.

Ali lažno rješenje je do ovog trenutka već stvorilo više mogućnosti za posao – momak koji instalira kameru i pruža tehničku podršku i tip koji sjedi u svom automobilu ili u banci čekajući upozorenje o sumnjivoj aktivnosti u predvorju. Šta si ti, nekakvo čudovište koje krade posao?

To je sigurno jedno objašnjenje – Chase je priznao da je vodio pilot program za bihevioralno testiranje u Harlemu, dugoročnom crnačkom uporištu grada New Yorka, i dok je banka zamuckivala o riziku da će je smatrati rasno neosjetljivom, na kraju je ipak izabrala tu lokaciju zbog pogodnosti. A što se tiče beskućnika,direktor obezbjeđenja „Southern banke srednje veličine“, zapravo je pričao o vrsti novih inovativnih mjera u borbi protiv beskućnika koji su pronašli skloništa u njenim predvorjima, promijenivši sisteme za otkrivanje tumaranja, sirene i stroboskopska svjetla, pa čak i kamere okrenute ka spolja dizajnirane da otkriju i odvrate „sumnjive aktivnosti“ neposredno izvan banke tokom radnog vremena. Banke su insistirale da ne žele da spriječe ljude da nađu sklonište, ali na kraju je pogodnost ponovo pobijedila.

Nisu svi algoritmi za prepoznavanje lica jednaki, a neki su postali zloglasni po tome što pokazuju – kao u slučaju studije Američke građanske slobode iz 2018. godine – humanost koja stoji iza kodiranja. ACLU je prošle godine pokrenuo slučaj crnca kojeg je AI algoritam pogrešno identifikovao kao kriminalca.

Drugi algoritam, Clearview AI, nekima se čini „previše“ tačnim, jer odbija da ukloni stare fotografije pokupljene sa starih ili izbrisanih profila na društvenim mrežama, što vjerovatno krši američki zakon.

Generalno, prepoznavanje lica i dalje je u sivom području. Konkretno, „pametna“ zvona na vratima poput Amazonovog Ringa koja – često nepoznato korisnicima – sadrže sopstvenu mrežu ad hok nadzornih kamera, i dostavljaju svoje podatke policiji bez znanja ili pristanka korisnika, rade mimo zakona, slično kao bezbroj kamera koje nadgledaju gradske ulice, ali se manje zna o njihovoj aktivnosti.

Ali zašto slinavac, a la Pavlov, ne bi ove kamere postavio u svoje prostorije, kao što to rade banke?

„Na kraju, softver bi mogao da uoči ljude na vladinim listama nadzora“, rekao je Dominguez, ukazujući da je nadzor u maloprodaji u osnovi mamac. Kako takve liste nadzora metastaziraju, uvlačeći ljude koji nisu ni osumnjičeni za zločine, već samo povezani sa ljudima osumnjičenim za zločine, pristup listama nadzora postao je neophodan. Postoji više načina da se nađete na takvim listama praćenja nego ikad i manje načina da se do njih dođe. A kako broj lista raste, tako se povećavaju i informacije koje sadrže, uz uznemirujuće sveobuhvatne kategorije oglašavanja na mreži koje Google i Amazon koriste da bi pratili svoje kupce.

Iako je Chase, na primjer, insistirao da ne planiraju da koriste „prepoznavanje lica, rase i pola“ tokom svog najnovijeg testa softvera koji ima za cilj da identifikuje obrasce ponašanja i kupaca i radnika na nekim od svojih lokacija u Ohaju, banka nema veliku sklonost ka kazivanju istine. Samo pitajte same algoritme – da li bi vas slagali?