Programer kompjutera, pod pseudonimom ‘smilings’, je napisao reflektirajući članak na my1510.cn [zh] o njegovom iskustvu u radu na razvijanju programa za filtriranje ključnih riječi na mobilnim aparatima. Bloger objašnjava čitaocima prirodu filtriranja – koja uključuje aktivno praćenje privatnosti pojedinca. Dolje slijedi kompletan prijevod njegovog komentara:
Na drugoj godini studija je šef mog odjela zatražio od mog kolege i mene da izradimo program za filtriranje ključnih riječi. To je program koji putem sistema prepoznavanja ključnih riječi omogućuje razlikovanje određenih ključnih riječi u poruci. Ako ih prepozna, sistem odbija slanje poruke. S druge strane, treba poslati poruku pošiljaocu o uspješnom primitku poruke. Kasnije su naši klijenti zahtjevali da dodamo još jednu funkciju. Nakon što je poruka blokirana, sistem mora zapamtiti broj pošiljaoca, primaoca i sadržaj poruke. U to vrijeme sam bio mlad i prihvatio sam zadatak bez razmišljanja.
Moja kolega i ja smo se posvetili analizama, projektiranju i ispitivanju svih funkcija. Za vrijeme testiranja smo zaključili kako bi sistem usporio vrijeme primitka poruke za 30%. Radili smo prekovremeno kako bi povećali njegovu brzinu. Izradili smo i korisničku datoteku u cilju jednostavnijeg korištenja sistema. Tu su korisnici mogli dodavati ili brisati ključne riječi, kontrolirati filtrirane poruke, kako poruke pošiljaoca tako i primaoca. Ubrzo smo nadogradili sistem i naš klijent je bio vrlo zadovoljan. Kasnije, kada sam otišao na sistem zbog održavanja, otkrio sam da sistem blokira razne neprimjerene, osjetljive i osobne poruke zbog čega sam se vrlo nelagodno osjećao. Ali nisam dalje razmišljao i ubrzo sam to zaboravio.
Nakon nekog vremena, kada sam postao iskusniji i izloženiji različitim idejama, počeo sam stvari drugačije gledati. Gledajući unatrag na moju predanost razvijanju sistema filtriranja osjećam se krivim. Ponekad se pitam da li je sistem kojeg sam izradio drugima uzrokovao probleme. Ili je netko na taj način izložio svoju privatnost. Da li bi stvari bile drugačije da smo odbili ovaj zadatak?
Još uvijek nemam odgovor na sva pitanja i još uvijek se osjećam nelagodno. Usprkos činjenici da nisam bio svjestan problema i da nisam imao izbora…čak i da smo odbili zadatak, netko drugi bi ga sigurno preuzeo.
Ubrzo se pokazalo da sam bio u pravu. Prije nekog vremena je naš menađer od nas zatražio da se nađemo sa kupcem koji je htio sličan program. Ovog puta sam odmah prigovorio. Menađer se zbunio i upitao me zašto. Nasmijao se mom obrazloženju i rekao: “Ovo je najbolja prilika da se naš proizvod probije na kinesko tržište. Kinesko mobilno tržište će se isplatiti. Toga moraš biti svjestan. Bez ovog sistema, nikada ne bi mogli doći na tržište, konkurencija je ogromna.” Kada sam ga pokušao uvjeriti da odbije posao, pogledao me kao da sam vanzemaljac. Nije nam uspjelo jedno drugoga uvjeriti i on je zadatak predao drugom kolegi.
Nakon što je moj kolega završio izradu programa, javio sam se da ga testiram. Kao što sam i očekivao, pri korištenju memorije očitano je smanjenje brzine od 25% i CPU povečanje na 32%. U izvještaju o testiranju sam zaključio: “Zbog xxx razloga, takva funkcija zauzima puno prostora i smanjuje brzinu. Predlažem da se proizvod ne pokrene.” Menađer se namrštio nad izvještajem i upitao: “Što treba učiniti da podignemo kapacitet na traženi nivo?” Moj kolega se ustručavao odgovoriti. Rekao sam: “Cijena je prilično visoka.” Za programera koji teži perfekciji, ovo je bio kontradiktoran potez. Međutim, da bih se oslobodio moralne dileme, izdao sam vlastitu profesionalnu etiku premda sam znao da ništa ne mogu promjeniti.
Suočeni sa ostvarivanjem profita i opstankom na tržištu, rijetko se zapitamo da li je za nas etički da razvijemo proizvod, ili da li će takav proizvod prouzročiti nepravdu drugima ili nama samima. U našim očima izgleda potpuno normalno da izradimo određeni proizvod kako bi osvojili profit, ali vrlo rijetko vodimo računa o tome da proizvodi mogu postati sredstva za kontrolu običnih ljudi, uključujući i nas. Čak i kada smo svjesni problema, možemo li riskirati naš posao i reći ne? Zar nije neminovno da će netko drugi preuzeti posao jer je u pitanju profit? Ako je tako, šta će se dogoditi sa nama?