Slika: Paula Vilar za APC. Koristi se uz dozvolu.

Ovaj članak je deo serije „Ne pitajte AI, pitajte kolegu“, saradnje između Globalnih glasova, Udruženja za progresivnu komunikaciju i GenderIT. Serija ima za cilj da ponovo naglasi važnost razmene znanja među ljudima, kao što se to radi decenijama. Možete pratiti seriju na APC.org, GenderIT.org, i globalvoices.org. Takođe je deo serije Globalnih glasova „U centru pažnje“ za april ove godine, „Ljudske perspektive o AI”. Možete podržati ovu pokrivenost doniranjem ovde.

Trenutna uputstva za upravljanje veštačkom inteligencijom u Indiji obuhvata meke smernice, nedonete zakon o etici i pravila zaštite podataka. Zajedno, oni stvaraju sistem u kojem se veštačka inteligencija može prvo primeniti, a kasnije dovesti u pitanje, jer okvir naglašava odgovornu veštačku inteligenciju, ali ne nameće obavezu transparentnosti ili procene uticaja pre primene.

Porast praćenja omogućenog veštačkom inteligencijom, kao što su sistemi za prepoznavanje lica na železničkim stanicama i prediktivne tehnologije policijskog rada koje koristi policija u različitim gradovima, nastavlja se uglavnom bez dovoljne pravne zaštite, što izaziva zabrinutost u vezi sa ljudskim pravima, privatnošću, dostojanstvom i građanskim slobodama. „Odgovorna veštačka inteligencija“ bez odgovornosti je samo težnja. Iako okvir govori o pristupu koji je na prvom mestu, ljudska prava moraju biti polazna tačka upravljanja veštačkom inteligencijom, a ne razmatranje koje se kasnije nadograđuje.

U februaru je Indija organizovala petodnevni Samit o uticaju veštačke inteligencije u Indiji 2026. u Nju Delhiju, koji je okupio svetske lidere, platforme velikih tehnoloških kompanija, aktere civilnog društva i kreatore politike kako bi istražili budućnost upravljanja i saradnje u oblasti veštačke inteligencije. Događaj je istakao rastući ekonomski i geopolitički značaj tehnologije veštačke inteligencije dok ona nastavlja da transformiše globale ekonomije. Samit se fokusirao na inkluzivni rast, etičku primenu i upotrebu veštačke inteligencije u sektorima kao što su zdravstvo, poljoprivreda i obrazovanje.

U saopštenju objavljenom 20. februara, organizacija za ljudska prava Amnesti internešenel uporedila je tvrdnje Samita o uticaju veštačke inteligencije sa načinom na koji se veštačka inteligencija koristi u Indiji. Amnesti internešenel je naglasio da tehnologije poput automatizacije veštačke inteligencije i prepoznavanja lica ograničavaju građanski prostor, pomažu državnom nadzoru i nesrazmerno utiču na siromašne i marginalizovane.

Sam događaj je efikasno korišćen kao demonstracija uživo indijske mreže za nadzor vođene veštačkom inteligencijom u Delhiju.. Navodno, kako bi se održala bezbednost lokacije samita, policija Delhija je instalirala 500 bezbednosnih kamera u međunarodnom izložbenom centru i pretvorila centar Delhija u „digitalnu tvrđavu“ sa više od 4.000 kamera omogućenih veštačkom inteligencijom raspoređenih širom grada.

Ove kamere su koristile prepoznavanje lica za analizu uživo video prenosa, upoređujući lica sa policijskim bazama podataka „sumnjivih osoba“, višestrukih demonstranata i ljudi prijavljenih zbog problema sa javnim redom, uz trenutno slanje upozorenja. Mreža za nadzor vođena veštačkom inteligencijom koordinisana je kroz 32 kontrolne sobe, uz podršku sistema za prepoznavanje lica (FRS), video analitike u realnom vremenu i pametnih naočara omogućenih veštačkom inteligencijom koje su koristili policajci na terenu. Više od 20.000 zaposlenih oslanjalo se na sistem za praćenje gustine gomile, obrazaca kretanja i potencijalnih „problematičara“ u i oko samita veštačke inteligencije u realnom vremenu.

Opasnosti državnog nadzora omogućenog veštačkom inteligencijom

Da bi pratila usvajanje tehnologije prepoznavanja lica u Indiji, organizacija zasnovana na pravima Fondacija za slobodu interneta (IFF) pokrenula je projekat Panoptic 2020. godine. Do 2024. godine, kreirala je najsveobuhvatniju javnu bazu podataka o upotrebi tehnologije prepoznavanja lica u Indiji nakon što je zabeležila više od 120 vladinih ugovora.

Indijska neprofitna organizacija za pravne usluge SFLC.in nedavno je objavila pregled incidenata vezanih za veštačku inteligenciju i nadzor u Indiji koji su se dogodili 2025. godine. Pregled ističe upotrebu tehnologije u različitim oblastima, kao što je nadzor vođen veštačkom inteligencijom tokom putovanja.

SSistem za prepoznavanje lica u Indiji. Ustupio Project Panoptic od strane IFF-a. CC-BY

Aplikacija za prepoznavanje lica DigiYatra, koju podržava vlada i koja je zasnovana na veštačkoj inteligenciji, pozicionirana kao vodeći digitalni poduhvat u vazduhoplovstvu, kombinuje identifikaciju putnika Aadhaar ličnu kartu, kartu za ukrcavanje i biometriju lica kako bi omogućila „besprekorno“ putovanje bez papira na indijskim aerodromima. Iako je na papiru, DigiYatra opcija za korišćenje i „nije obavezna“, IFF kažeda su putnici u avionima širom Indije izložena zasedi i primorani da se upišu.

IFF dalje navodi da DigiYatra ima slab sistem podataka i mutan ekosistem — nema transparentnosti oko toga koji se podaci čuvaju, kako ili gde, ili ko ima pristup. Uslugu vodi fondacija Digi Yatra, a oko 75 procenata njenih akcija je u vlasništvu privatnih kompanija, što je stavlja van delokrugaZakona o pravu na informacije iz 2015. godine (RTI zakon) radi odgovornosti.

CCTV nadzor omogućen veštačkom inteligencijom se takođe sve više primenjuje u ispitnim salama širom Indije radi nadgledanja studenata. Ove tehnologije prate gestove, korišćenje mobilnog telefona i indikatore lica, poput neobičnih pokreta očiju, šaljući brza obaveštenja nadzornicima. Do 2025. godine, takve tehnologije su primenjene na ispite školskih odbora i važne takmičarske testove u državama kao što su Utar Pradeš, Bihar, i Karnataka.

SFLC.in navodi da se nadzor vođen veštačkom inteligencijom povećava širom Indije, uz nedovoljne informacije o nadzoru i čuvanju podataka, ili načine za osporavanje pogrešne identifikacije. Kao takve, tehnologije postaju deo javne infrastrukture, saglasnost se sve više ignoriše, a pitanja ljudskih prava dobijaju minimalnu pažnju.

Primena veštačke inteligencije utiče na milione

Prema istrazi koju je sproveo Decode, posebna istraživačka jedinica BOOM-a, jedne od vodećih indijskih nezavisnih organizacija za digitalno novinarstvo i proveru činjenica, prepoznavanje lica zasnovano na veštačkoj inteligenciji ne uspeva da prepozna žene čija se lica menjaju zbog trudnoće, bolesti ili starenja, čime im se uskraćuje pristup javnim objektima i verifikacija. Tehnologija prepoznavanja lica u Poshan Tracker-u, vladinoj aplikaciji, nije uspela da poveže njihov trenutni izgled sa godinama starim fotografijama sa identifikacionih Aadhar ličnih karata.

Indijski program Integrisanih službi za razvoj deteta (ICDS) odgovoran je za ishranu približno 47 miliona trudnica, dojilja i male dece. U julu 2025. godine uvedeno je skeniranje prepoznavanja lica pomoću veštačke inteligencije radi identifikacije. Do kraja 2025. godine, skoro polovina ljudi koji su trebali da dobiju hranu nije je dobila, jer sistem jednostavno nije mogao da prepozna njihova lica.

Prepoznavanje lica je otežano pri slabom osvetljenju, na telefonima niže klase i, što je najkritičnije, na tamnijim tonovima kože. Ta poslednja mana je dobro dokumentovana, ali izgleda da se niko nije upitao da li je to važno pre nego što je ovo uvedeno u neke od najmarginalizovanijih zajednica u Indiji.

Indijski propisi o veštačkoj inteligenciji

Indija još uvek nema poseban, obavezujući zakon o veštačkoj inteligenciji; umesto toga, oslanja se na mrežu postojećih zakona kao što su Zakon o informacionim tehnologijama, posrednička pravila i zaštita podataka, plus smernice za upravljanje. Smernice za upravljanje veštačkom inteligencijom u Indiji, koje je uvelo Ministarstvo elektronike i informacionih tehnologija Indije (MeitY) u novembru 2025. godine usvojile su model neintervencije, naglašavajući odgovornu veštačku inteligenciju, nadzor zasnovan na riziku i zaštitu od štete, ali one nisu obavezujući meki zakon.

Novi zakon o veštačkoj inteligenciji (etika i odgovornost), iz 2025. godine, predlaže da vlada osnuje Etički komitet, obavezne etičke preglede, revizije pristrasnosti, ograničenja određene upotrebe (npr. nadzor, odluke o zapošljavanju sa visokim rizikom) i mehanizme za žalbe, signalizirajući eksplicitni fokus na stilu ljudskih prava, ali još uvek nije usvojen.

Indijski okvir za zaštitu digitalnih ličnih podataka (implementiran putem DPDP pravila 2025) nameće programerima i implementatorima veštačke inteligencije obaveze usmerene na saglasnost, ograničavanje svrhe i minimiziranje podataka, indirektno štiteći privatnost i srodna prava u kontekstu veštačke inteligencije.

Indijska vlada udvostručuje angažovanje posrednika kako bi brzo uklonila dipfejkove koje generiše veštačka inteligencija i koriste se za klevetu, lažno predstavljanje, obmanu ili prikazivanje seksualnog sadržaja bez pristanka na platformama društvenih medija. Međutim, čak i kada se platforme pridržavaju propisa, šteta je često već učinjena do trenutka kada se takvi sintetički mediji uklone.

Trenutni pristup veštačkoj inteligenciji u pogledu ljudskih prava

Zvaničnici UN za ljudska prava sve više tvrde da međunarodno pravo ljudskih prava, koje bi trebalo da služi kao centralni okvir za upravljanje veštačkom inteligencijom, naglašava inkluzivnost, odgovornost, transparentnost i potrebu za rešavanjem neravnoteže moći. Ovo odražava širi trend koji se proteže izvan dobrovoljne diskusije o „etici veštačke inteligencije” u oblast pravnih obaveza, kao što su ograničenja i korektivne mere. Visoki komesar UN za ljudska pravapozvao je na moratorijume na aplikacije veštačke inteligencije koje krše osnovna prava, poput određenih oblika biometrijskog nadzora, kao i na obaveznu dužnu pažnju u pogledu ljudskih prava u svakoj fazi razvoja i implementacije usluga omogućenih veštačkom inteligencijom.

Slično tome, u zajedničkom saopštenju iz 2025. godine, Koalicija za slobodu na mreži pozvala je vlade da obezbede dužnu pažnju poslovanja, sprovode zaštitu u situacijama visokog rizika i zahtevaju procene uticaja na ljudska prava, posebno u vezi sa rizicima kao što su političke manipulacije, dezinformacije i profilisanje. Neki posmatrači su predložili regulatorni okvir za celokupno SAARC zasnovan na Zakonu EU o veštačkoj inteligenciji, sa jasnom zaštitom osnovnih prava i poboljšanim procedurama transparentnosti i odgovornosti. Međutim, ovo je samo preporuka politike, a ne predloženi pravno obavezujući zakon.

Put napred

Prema Principima za odgovorno korišćenje veštačke inteligencijevlade Ontarija, obaveze u vezi sa ljudskim pravima moraju biti uključene u dizajn sistema veštačke inteligencije, a ne dodavane naknadno. Savet evropskog komesara za ljudska prava preporučuje da se procene uticaja na ljudska prava obavezuju pre nego što se primene sistemi veštačke inteligencije sa visokim ulozima. Trebalo bi da bude obavezno da vlade i preduzeća koja koriste veštačku inteligenciju u javnim ulogama otkriju sisteme koje koriste, podatke na kojima se obučavaju i stope grešaka. Potrebni su specifični zakonski okviri kako bi se utvrdilo kada se sistemi veštačke inteligencije smatraju pravnim licima u svrhu odgovornosti i koje obaveze brige njihovi programeri i korisnici imaju prema onima na koje utiču. Problem nastaje kada postoje okviri koji se ne mogu lako implementirati ili isključuju upotrebu veštačke inteligencije od strane države.

MeitY-ova misija IndiaAI, nacionalni program odobren u martu 2024. godine, ima za cilj izgradnju ekosistema veštačke inteligencije u Indiji kroz inicijativu „Bezbedni i pouzdani projekti veštačke inteligencije“. Do sada je sprovedeno osam odgovornih projekata veštačke inteligencije koji obuhvataju teme kao što su ublažavanje predrasuda, etički okviri veštačke inteligencije, alati za poboljšanje privatnosti i objašnjiva veštačka inteligencija, kao i pet dodatnih projekata usmerenih na otkrivanje dubokih lažnih informacija. Na papiru, inicijative MeitY-a za Indiju u skladu su sa principima ljudskih prava. Međutim, grupe za ljudska prava tvrde da ovo nije u skladu sa pravim okvirom ljudskih prava jer su mere zaštite dobrovoljne, nadzor slab, a visokorizična državna veštačka inteligencija (nadzor, automatizacija socijalne pomoći, prediktivno policijsko delovanje) nastavlja da postoji bez obavezujućih zaštita ili efikasnih pravnih lekova.

Aktivisti za ljudska prava predlažu da Indija treba da donese posebne zakone za nadzor omogućen veštačkom inteligencijom, kao što su algoritmi za policijsko delovanje, sprovođenje transparentnosti i sprovođenje nadzora nad sistemima nadzora, kako bi se smanjio rizik od digitalnog autoritarizma.