Centar za edukaciju-BiH

Predmet:Kad algoritmi odlucuju: AI proglasava ljude mrtvima i uskraćuje hranu siromasnim Indijcima

---

Primjena umjetne inteligencije u drzavnim sustavima ostavila je tisuće ljudi bez pristupa subvencioniranoj hrani i socijalnim beneficijama
Najmnogoljudnija zemlja na svijetu, Indija provodi jedan od najvećih svjetskih programa koji prehranjuje oko 60 posto njezinog stanovnistva. Od pandemije kovida nacionalna vlada je svaki mjesec besplatno osigurala pet kilograma rize, psenice i zitarica za 800 milijuna ljudi. Prije toga su najsiromasnije obitelji imale pravo na primanje zitarica po subvencioniranoj cijeni od jedne rupije za kilogram rize. Drzava također provodi mjesecne mirovinske programe za starije osobe ili udovice bez prihoda, pruzajući im mjesecnu financijsku pomoć do 33 dolara.
Algoritam brise korisnike
U proslosti su vladini sluzbenici morali osobno identificirati i odobriti korisnike ovih programa, sto je ukljucivalo fizicku provjeru dokumenata i obilazak terena. Međutim, posljednjih godina uvedeni su algoritmi koji identificiraju pojedince koji prijevarom zele doći do povlastica, ili milostinje, kako vam drago, javlja The Reporters' Collective.
U juznoj drzavi Telangana, na primjer, vladini sluzbenici dobili su algoritam koji je stvorio sveobuhvatne profile pojedinaca prikupljanjem podataka iz cak 30 baza podataka. Sustav je prvotno osmisljen kako bi pomogao regionalnoj policiji u identificiranju kriminalaca, ali je kasnije razvijen za identifikaciju podnositelja laznih zahtjeva. Na temelju podataka prikupljenih iz vise baza podataka, cak 1,9 milijuna kartica uklonjeno je s popisa korisnika. No, vlada je ponovnom analizom vise od 200.000 kartica otkrila da je pogresno uklonjeno njih cak 15.000.
Dokazi da si ziv
U lipnju 2020. sjeverna drzava Haryana pocela je koristiti novi algoritamski sustav za prikupljanje informacija o obiteljima koje traze socijalnu pomoć.
Na temelju prikupljenih podataka o prihodu, dobi, zaposlenju itd., svaka obitelj dobiva osmoznamenkasti jedinstveni ID, koji je kasnije postao obavezan za sve programe socijalne skrbi. Prema podacima drzavne vlade, u sljedeće tri godine obustavljeno je vise od 300.000 mirovina zbog smrti trazitelja. Poslije se na velikom uzorku otkrilo da je cak 70 posto takvih slucajeva bilo krivo oznaceno.
Profiliranje pojedinaca nije tehnicki protuzakonito jer Indija nema zakone o privatnosti. Stovise, u slucaju propusta, teret dokazivanja lezi na korisniku. Zbog toga je lani jedan 102-godisnjak organizirao svadbenu povorku kako bi sluzbenicima dokazao da je ziv.
Vraćanje statusa
Vraćanje statusa u bazi podataka moze potrajati mjesecima ili cak godinama, tijekom kojih podnositelji zahtjeva gube pristup socijalnim beneficijama.
Iako su algoritmi pomogli u uklanjanju laznih korisnika iz sustava, grijesili su jos vise, a ceh plaćaju najsiromasniji i najranjiviji dijelovi drustva, navodi se u istrazivanju koje podupire AI Accountability Network Pulitzer Centra.

izvor: bug.hr

---