Autor ilustracije Both Nomads/DALL·E 2, koristi se uz dozvolu.

Moramo pronaći novi jezik, nove narative, novi pogled na svet i alate za stvaranje reči za prevazilaženje „velikog humanitarnog narativa“. Može li tehnologija da pomogne?

Mnogi od nas su prošlog meseca čuli za funkcije nalik „Matriksu“ novog ChatGPT-a koji pokreće veštačka inteligencija, što građane ostavlja uznemirenim, šokiranim i u nekoliko drugih emocionalnih stanja, od straha do entuzijazma.

Upotreba veštačke inteligencije je i dalje limitirana oblast za većinu organizacija civilnog društva i aktivista. Ipak, pojavljuje se nekoliko inicijativa koje koriste nove tehnologije i veštačku inteligenciju za „dekolonizaciju“ jezika – posebno u sektoru razvoja.

Da li je razvojni jezik kolonijalan?

Pitanje da li je razvojni jezik kolonijalan je složeno i diskutabilno. Nametanje evropskih jezika i kultura kolonizovanim narodima bilo je ključna komponenta procesa kolonijalizma. Kolonijalne sile su nametale svoje jezike, što je često dovodilo do erozije domorodačkih jezika. Razvojni jezik se može posmatrati kao nastavak ovog nasleđa, jer često isključuje autohtone i manjinske jezike, pojačavajući obrasce jezičke i kulturne dominacije.

„Jezik je kritični deo identiteta i nasleđa zajednice. Kako gubimo jezike, gubimo deo naše kolektivne istorije i kulture. Tehnologija nam može pomoći da očuvamo i promovišemo ove jezike, ali to moramo činiti sa poštovanjem i na inkluzivan način“, kaže Anžu Meri Pol, vođa istraživanja na platformi FirstVoices koja uključuje jezičku arhivu sa veštačkom inteligencijom, koja omogućava korisnicima da pretražuju i pristupaju audio i video snimcima autohtonih jezika.

„Problem je činjenica da koristimo francuski ili engleski kao razvojne jezike, dok u određenim zajednicama, poput Afrike, imamo nekoliko plemenskih jezika. Šta se dešava kada ljudi ne razumeju jezik koji koristimo?” pita dr Mozes Isooba, izvršni direktor Nacionalnog NVO foruma Ugande (UNNGOF).

Prototip jezika i leksikona

Isooba je deo tima koji razvija prototip jezika i leksikona koristeći veštačku inteligenciju kako bi omogućio inkluzivniju komunikaciju koja nije toliko (ili uopšte) implicitno neokolonijalna, seksistička ili rasistička. Ideja je da se istraži primena veštačke inteligencije da bi se popravio i zamenio leksikon pežorativnog žargona, idioma i terminologije „nametnutih“ organizacijama civilnog društva koje su uključene u kompleks međunarodne pomoći i razvojni sektor.

Ovaj tim dizajnira leksikon koji će izmestiti moć na dva načina: kao prvo, ukidanjem problematičnog jezika, istovremeno podstičući inkluzivniju komunikaciju kroz upotrebu nove funkcije u stilu „pronađi i zameni“; a kao drugo, omogućavajući ljudima da koriste svoj lokalni jezik testiranjem njihovog rada sa Lugandom, jezikom koji se uglavnom koristi u Ugandi.

Izrazi kao što su „službenik“ ili „na terenu“ podsećaju na kolonijalnu eru. Međunarodne humanitarne organizacije svoje kancelarije na Globalnom jugu često nazivaju „državnim kancelarijama“, nalik kolonijalnim ispostavama „koje deluju kao preostali konopac koji nas vezuje za kolonijalni brod“, kaže dr Isooba. On dalje objašnjava:

Dekolonizacija jezika je od ključne važnosti jer jezik određuje uslove angažovanja između severa i juga. Jezik treba u što većoj meri depolitizovati i dekolonizovati. Razvoj i humanitarna pomoć su politički, ali naš jezik treba da ostane nestranački. Političke stranke će dolaziti i odlaziti, ali nejednakosti će ostati ako naš jezik počne da odražava jezik ljudi na vlasti, posebno ako su namere iza retorike neiskrene.

Autor ilustracije Both Nomads/DALL·E 2, koristi se uz dozvolu.

Ne možemo samo da govorimo u akronimima

„Razvojni jezik je postao toliko pun žargona da čak ni naše porodice više ne razumeju na čemu radimo“, objašnjava Harš Džajtli, iz Mreže za dobrovoljnu akciju Indije (VANI).

Jezik je među našim najstarijim oruđem i u dobru i u zlu. U onlajn univerzumu opterećenom dezinformacijama i napadima, razni aktivisti i organizacije civilnog društva sada se fokusiraju na „nove narative“ kako bi proširili a ne smanjili građanski prostor.

U proteklih nekoliko godina, mnoge inicijative i organizacije su radile na spoju veštačke inteligencije i jezika. Masakhane je, na primer, inicijativa vođena od strane zajednice koja radi na izgradnji alata i modela za Obradu prirodnih jezika (NLP) za afričke jezike, sa ciljem da ih očuva i promoviše u digitalnom dobu. Usmeno i pismeno prevođenje su takođe deo igre, a organizacije sada rade na proširenju spektra, na primer sa ovim besplatnim prevodnim rečnikom razvojne terminologije za čičeva-engleski kombinaciju. AI for the People se fokusira na zalaganje za inkluzivniji i pravedniji razvoj i primenu tehnologija veštačke inteligencije. Takođe nudi resurse i obuku za zajednice da se bave veštačkom inteligencijom.

Ipak, prema platformi NeuralSpace, koja pomaže da se premosti veliki jezički jaz u tehnologiji, 90 odsto NLP rešenja je dostupno isključivo na evropskim jezicima. Veštačka inteligencija ima potencijal da razbije jezičke barijere za preostalih šest milijardi ljudi suprotstavljajući se ovom obliku „digitalnog aparthejda“. Kako? Premošćivanjem jezičkih barijera složenim sistemima za prevođenje ili aplikacijama za učenje jezika, na primer. Drugi načini uključuju stvaranje digitalnih arhiva koje uključuju Optičko prepoznavanje karaktera ili prepoznavanje govora i činjenje sadržaja dostupnim na maternjim jezicima a ne na sveprisutnim „kolonijalnim“.

Ali sve ovo zvuči previše dobro da bi bilo (samo) istinito. Pre nego što veštačka inteligencija uspe da dekolonizuje jezik, sama veštačka inteligencija mora biti dekolonizovana.

Paradoks veštačke inteligencije

Veštačka inteligencija ima potencijal da transformiše način na koji komuniciramo, ali je takođe savršen predajnik za pogoršanje postojećih predrasuda. „Moramo se pozabaviti pitanjima pristrasnosti u jezičkim modelima i osigurati da oni budu inkluzivni i reprezentativni za sve korisnike“, kaže Soudžanja Porija, docent na Tehnološkom univerzitetu Nanjang.

Jezik na kome se veštačka inteligencija obučava možda je već „iskrivljen“ i nesposoban da zameni pristrasno ljudsko razmišljanje i ponašanje.

„Dekolonizacija jezika je od kritične važnosti za osnaživanje zajednica i izazivanje dominantnih narativa. Tehnologija ima potencijal da bude moćno oruđe u ovom procesu, ali moramo biti oprezni da ne ponovimo iste obrasce isključivanja i marginalizacije koje pokušavamo da prevaziđemo“, kaže dr Isooba.

Pitali smo ChatGPT da li veštačka inteligencija može da kopira kolonijalni, rasistički ili seksistički jezik i evo šta je odgovorio:

Kao jezički model veštačke inteligencije, nisam sposoban da posedujem ili izražavam lična uverenja, vrednosti ili predrasude. Međutim, priznajem da podaci koji se koriste za moju obuku mogu sadržati pristrasnosti i nastojim da pružim informacije koje su tačne, nepristrasne i inkluzivne. Važno je napomenuti da su ljudi ti koji programiraju i koriste veštačku inteligenciju, a oni mogu nenamerno da ugrade sopstvene predrasude u razvoj i upotrebu sistema veštačke inteligencije. Stoga je ključno biti svestan ovih potencijalnih pristrasnosti i težiti stvaranju i korišćenju sistema veštačke inteligencije na etički, inkluzivan i odgovoran način.

Prema rečima Timnita Gebrua iz Black in AI, moramo se odmaknuti od razmišljanja o „čistim“ i „prljavim“ podacima i pomeriti ka razmišljanju o podacima koji odražavaju raznolikost stvarnog sveta.

„Jedan od najboljih načina da se to uradi je izgradnja različitih timova naučnika koji se bave podacima koji su u stanju da prepoznaju sopstvene predrasude i pozabave se njima“, kaže on.

Sabelo Mhlambi i drugi naučnici su nedavno izradili Decolonial AI Manyfesto, kako bi se „odmaknuli od predrasuda usredsređenih na Zapad“ i izgradili „dostojanstvenu društveno-tehničku budućnost“. Civilno društvo je takođe sve više uključeno u razvoj veštačke inteligencije tako što aktivno učestvuje u javnim diskusijama i debatama o etičkim, društvenim i političkim implikacijama tehnologija veštačke inteligencije. Ipak, nekoliko lidera i aktivista civilnog društva, kao što je Mvarimu Mutemi va Kiama iz Kenije, koji je bio uhapšen zbog svojih tvitova, tvrde da je namerno isključivanje marginalizovanih glasova iz procesa donošenja odluka u tehnologiji oblik strukturalnog nasilja.

„Moramo da priznamo da je pristup tehnologiji ljudsko pravo i da radimo na tome da svi imaju mesto za stolom“, kaže Kiama.

Dajan Olivan, aktivistkinja za digitalna prava i rodna pitanja, kaže nam kako su marginalizovani pojedinci „izolovani“ od okruženja za donošenje odluka jer se ovi prostori nalaze unutar neokolonijalnog okvira:

Oni koji obično učestvuju u ovim razgovorima takođe su privilegovani da učestvuju; imaju ekonomski i kulturni kapital da doprinose i napreduju. Naravno, ima pokušaja da se bude reprezentativan i inkluzivan, ali treba da se zapitamo: Gde se ti razgovori odvijaju? Šta treba da imam da bih učestvovala? Na kom jeziku se deli značenje? Čiji su glasovi najglasniji u prostoriji? Šta se dešava nakon ovih razgovora, koji je okvir odgovornosti?

Nakon ovih „konsultativnih“ sastanaka u kreiranju politike o digitalnim pravima i upravljanju internetom, svi ćemo se vratiti istim strukturama digitalne moći koje dozvoljavaju i onemogućavaju informacije kojima pristupamo i koje zadržavamo, i odlučuju koji identiteti smeju da postoje na ovim platformama, kaže Olivan:

Istinski inkluzivne digitalne zajednice i infrastruktura zahtevaju transformativni objektiv od samog početka – one odbacuju kapitalistički internet. One su vođene kreativnošću, razmenom, brigom, pristankom i blagostanjem; one izazivaju i zaobilaze infrastrukturu nadzora. A mi ćemo to izgraditi tako što ćemo prvo izmestiti fokus sa rada na prihvatanju od strane najglasnijih, najartikulisanijih glasova u uskogrudoj sali za sastanke, na obezbeđivanje prostora i traženje onih koji ne mogu čak ni da prođu kroz ta vrata.