Pravo pitanje nije samo „Možemo li to da izgradimo?“

Tehnologije u nastajanju mogu proširiti ljudske mogućnosti. Takođe mogu ponoviti stare oblike isključivanja većom brzinom i u većem obimu. Odgovorna inovacija postavlja pitanje kakav se napredak stvara, za koga i pod čijom kontrolom.

Veštačka inteligencija može prevoditi lekcije, pomagati pri postavljanju dijagnoza i učiniti složene alate lakšim za upotrebu. Genske i ćelijske terapije mogu delovati na biološke uzroke bolesti koje su se ranije lečile samo kontinuiranim ublažavanjem simptoma. Neurotehnologija nekim osobama sa ozbiljnim oštećenjima može vratiti sposobnost komunikacije ili kretanja. Svaki od tih razvoja može biti zaista vredan, a da pritom nije univerzalno dostupan, podjednako efikasan ili etički zaokružen.

Jaz između izuma i javne koristi mesto je na kojem se otvaraju mnoga etička pitanja. Usluga može tehnički postojati, ali ostati neupotrebljiva zato što je preskupa, nepristupačna, nedostupna na jeziku neke osobe ili zavisi od infrastrukture koju njena zajednica nema. Sistem može u proseku dobro funkcionisati, a ipak iznova zakazivati kod manje grupe. Tretman može biti klinički izuzetno uspešan, ali zahtevati specijalizovane centre, dugotrajnu negu, putovanja i kontrolne preglede, zbog čega je pristup mnogo složeniji nego što samo njegova cena sugeriše.

Međunarodna telekomunikaciona unija procenila je da je 2025. godine 2,2 milijarde ljudi i dalje bilo van mreže, uglavnom u zemljama sa niskim i srednjim prihodima.1 Povezanost se ogromno proširila, ali naslovni broj korisnika interneta ne otkriva kvalitet veze, pristup uređajima, priuštivost, digitalne veštine, pristupačnost niti da li su korisne usluge dostupne lokalno. Slični slojevi postoje u zdravstvu, obrazovanju i javnim uslugama.

Pristup je lanac sa najmanje šest karika

Nazivanje proizvoda „dostupnim“ može sakriti praktičnu udaljenost između njegovog postojanja i sposobnosti osobe da od njega bezbedno ima koristi.

Ako bilo koja ključna karika zakaže, nominalni pristup može doneti malu korist. Besplatna platforma za učenje nije stvarno dostupna domaćinstvu koje deli jedan nepouzdan uređaj. Dijagnostički model nije pravičan ako loše radi za određenu podgrupu, a kliničari nisu upozoreni. Veoma napredno lečenje ne dopire do pacijenta samo zato što osiguravač pokriva lek, ako su putovanje, očuvanje plodnosti, odsustvo s posla ili dugotrajna nega i dalje nemogući.

Jednakost i pravičnost su povezane, ali nisu isto

Jednakost često znači obezbeđivanje istog resursa ili pravila. Pravičnost ispituje da li različiti početni uslovi i potrebe sprečavaju da ta formalno jednaka ponuda pruži pravičnu priliku. Ponekad je najpravičniji dizajn univerzalan: titlovi, jasan jezik i bezbedna podrazumevana podešavanja pomažu mnogim ljudima. Ponekad je neophodna dodatna podrška: prilagođen interfejs, pomoć pri putovanju, zdravstveni radnik iz zajednice ili opcija bez korišćenja interneta.

Nejednakost se može pojaviti u svakoj fazi inovacije

Pristrasnost nije samo nedostatak algoritma. Može početi izborom problema koji dobijaju finansiranje, nastaviti se kroz istraživanje i dizajn, a ponovo se pojaviti kada alat dospe u neravnopravan svet.

1. Izbor problema

   Investicije prate podsticaje, političke prioritete i kupovnu moć. Potrebe ljudi sa manjim uticajem na tržištu mogu ostati nedovoljno proučene čak i kada je njihov društveni trošak visok.

2. Dokazi i podaci

   Ko učestvuje utiče na ono što istraživači mogu da saznaju. Grupe koje nedostaju, loše merenje, istorijska diskriminacija i oznake zasnovane na pogrešnim ranijim odlukama mogu oblikovati rezultate pre nego što se model obuči ili proizvod testira.

3. Dizajnerske odluke

   Jezik, podrazumevana podešavanja, zahtevi u pogledu uređaja, pretpostavke o čulnim sposobnostima i definicije onoga što je „normalno“ određuju ko može udobno da koristi sistem i čije se ponašanje tretira kao izuzetak.

4. Uslovi primene

   Alat potvrđen u jednoj ustanovi može se ponašati drugačije tamo gde se promene broj zaposlenih, infrastruktura, kultura, rasprostranjenost bolesti ili podsticaji. Kontekst je deo učinka.

5. Ishodi i opterećenja

   Merite ne samo tačnost ili prihvatanje, već i vreme čekanja, pogrešne odluke, gubitak privatnosti, neplaćeni rad, uticaj na životnu sredinu i posledice nemogućnosti odustajanja.

6. Povratne informacije, ispravka i izlaz

   Ljudi koji su najbliži nekom propustu često ga prvi uoče. Potreban im je vidljiv kanal za prijavljivanje, pravovremeni odgovor čoveka, ispravka evidencije i bezbedna alternativa dok se problem istražuje.

Etički kompas za nove tehnologije

Etička načela ne daju jedan automatski odgovor. Ona čine važne vrednosti vidljivim, otkrivaju sukobe i pomažu institucijama da objasne zašto je odluka opravdana.

Od principa do upravljanja

UNESCO-va Preporuka o etici veštačke inteligencije stavlja ljudska prava i dostojanstvo u središte i poziva na pravičnost, uključivanje i ljudski nadzor.2 Rad SZO na veštačkoj inteligenciji u zdravstvu i uređivanju ljudskog genoma takođe povezuje naučne mogućnosti sa bezbednošću, delotvornošću, etikom i odgovornim institucijama.4 Ovi okviri su vredni jer obuhvataju životni ciklus tehnologije, umesto da etiku tretiraju kao završnu kontrolnu tačku za odobrenje.

Odgovoran napredak koristi zaštitne mere srazmerne riziku

Korisni izbor retko glasi „inovacija ili etika“. Pravi zadatak je uskladiti dokaze, nadzor i reverzibilnost sa ozbiljnošću mogućih posledica.

Pomoćnik za pravopis, sistem za ocenjivanje u učionici, AI dijagnostički uređaj i implantirani interfejs mozak-računar ne bi trebalo da prolaze kroz identične kontrolne tačke. Upravljanje postaje zahtevnije kada je sistem teško vratiti u prethodno stanje, utiče na osnovna prava, obuhvata mnogo ljudi, deluje bez stvarnog izbora, koristi veoma osetljive podatke ili može da izazove ozbiljnu štetu.

Inovacije po fazama i kontrolnim tačkama

1. Definišite očekivanu korist i neprihvatljivu štetu

   Definišite populaciju, okruženje, problem i granice pre izgradnje. Zabeležite ko je pomogao da ih definišete.

2. Proverite pretpostavke pre proširivanja primene

   Koristite reprezentativne dokaze, realne uslove i poređenje sa postojećim alternativama - ne samo povoljnu demonstraciju.

3. Postepeno uvodite tamo gde i dalje postoji neizvesnost

   Ograničite obim, pažljivo pratite i zaštitite učesnike. Regulatorno peskovito okruženje treba da bude kontrolisano okruženje za učenje, a ne imunitet od obaveza u pogledu prava ili bezbednosti.

4. Ostavite mogućnost vraćanja na prethodno stanje

   Definišite pragove za pauziranje, ručne alternative, ispravku podataka, odgovor na incidente i odgovornost prema ljudima pogođenim tokom obustave.

5. Ponovo odobravajte na osnovu dokaza

   Preispitujte učinak, raspodelu ishoda i nove rizike. Dozvola za nastavak ne bi trebalo da bude automatska samo zato što je sistem postao uobičajen.

Akt EU o veštačkoj inteligenciji ilustruje pristup zasnovan na riziku: stupio je na snagu 2024. godine i primenjuje se u fazama, uz različite obaveze za zabranjene prakse, modele opšte namene i određene visokorizične sisteme.3 Tačne zakonske obaveze zavise od sistema, uloge, namene i trenutnog roka za primenu, zato organizacije treba da se konsultuju sa zvaničnim tekstom i kvalifikovanim pravnim savetnicima, umesto da se oslanjaju na pojednostavljene oznake.

Ugradite inkluziju u infrastrukturu, istraživanje i isporuku

Pravičan pristup ne može se popraviti samo popustom na kraju. Zahteva usklađene odluke od prvog istraživačkog pitanja, preko finansiranja i uvođenja, do dugoročne podrške.

Koristite kupovnu moć za nagrađivanje odgovornog dizajna

Javne institucije, bolnice, škole i veliki poslodavci mogu učiniti pristupačnost, zaštitu podataka, interoperabilnost, učinak u podgrupama, prijavljivanje incidenata i podršku pri izlasku delom nabavke. Ugovori mogu zahtevati od dobavljača da otkriju bitne promene, pomognu pri migraciji podataka i nastave ključnu podršku tokom dogovorenog perioda.

Kod terapija visokih troškova, eksperimenti sa finansiranjem mogu povezati plaćanje sa ishodima ili koordinisati pregovore između platilaca. Dobrovoljni CMS model pristupa ćelijskoj i genskoj terapiji u Sjedinjenim Državama, prvobitno usmeren na bolest srpastih ćelija, jedan je primer: države učesnice i proizvođači koriste sporazume zasnovane na ishodima koje je pregovarao CMS, dok model takođe prepoznaje praktičnu podršku povezanu sa lečenjem.6 To treba procenjivati kao model koji se stalno razvija, a ne tretirati kao dokaz da je svaki problem pristupa rešen.

Praktični plan za ljude koji oblikuju tehnologiju

Odgovornost je zajednička, ali ne sme postati toliko rasuta da niko ne bude pozvan na odgovornost. Svaka institucija ima posebne poluge i dužnosti.

Sažeta procena uticaja na pravičnost

Koristite ova pitanja u fazi predloga, pre pokretanja i u zakazanim trenucima za proveru. Odgovori treba da budu potkrepljeni dokazima i dodeljeni imenovanim odgovornima.

Dokazi koje vredi sačuvati

• Zapis o svrsi: predviđena upotreba, zabranjena upotreba, ciljna populacija, alternative i kriterijumi uspeha.
• Zapis o učešću: ko je učestvovao, kako je izabran, kako je nadoknađen i šta se promenilo.
• Zapis o dokazima: skupovi podataka, populacije obuhvaćene studijom, uslovi testiranja, neizvesnost i poznata ograničenja.
• Zapis o uticaju: koristi, greške, pritužbe, žalbe, prepreke pristupu i ishodi u relevantnim grupama.
• Zapis o odlukama: imenovani odgovorni, prihvatanje rizika, korektivne mere, datumi provere i razlozi za nastavak ili obustavu.

Dokumentacija nije vredna samo zato što postoji. Trebalo bi da odgovornoj osobi pomogne da razume sistem, prati odluku, prepozna obrazac u nastajanju i deluje pre nego što se šteta koju je moguće sprečiti proširi.

Uobičajeni mitovi i praktična pitanja

Pojednostavljeni slogani mogu učiniti da etička neslaganja deluju lakšim nego što jesu. Ove razlike otvaraju prostor za bolje odluke.

Napredak je veći kada više ljudi može da utiče na njegov oblik

Tehnička sposobnost tehnologije samo je deo njenog uspeha. Ostatak leži u institucijama i odnosima koji je okružuju: u tome da li istraživanje odražava stvarne potrebe, da li dokazi uključuju ljude koji će se na nju oslanjati, da li je pristup praktičan, da li se poštuje mogućnost izbora i da li se greške mogu osporiti i ispraviti.

Etika ne bi trebalo ni da ukrašava inovacije ni da ih zamrzava. Trebalo bi da pomogne društvu da usmerava njihov razvoj - tako što rizik čini vidljivim, postavlja granice, štiti one sa manje moći i čuva prostor za učenje. Uključivanje poboljšava ovaj proces jer zajednice doprinose znanjem koje udaljeni dizajneri, investitori i regulatorna tela možda ne poseduju.

Cilj nije svet u kojem svi koriste istu tehnologiju. Cilj je svet u kojem vredan napredak po podrazumevanom pravilu ne postaje privilegija, ranjivost se ne tretira kao dozvola, a ljudi ostaju učesnici u odlukama koje menjaju njihovo obrazovanje, zdravlje, rad, tela i budućnost.

Ovaj članak služi u opšteobrazovne svrhe i ne predstavlja pravni, medicinski, regulatorni, investicioni ili politički savet. Zahtevi i dokazi se menjaju; za odluke sa značajnim posledicama konsultujte aktuelne zvanične izvore i kvalifikovane stručnjake.

Dokazi i dodatna literatura

Prepravka zamenjuje statističke podatke bez potkrepljenja i nepostojeće ili pogrešno opisane programe iz prvobitnog članka primarnim institucionalnim izvorima.

1. Međunarodna unija za telekomunikacije — Činjenice i brojke 2025
   Globalne procene korišćenja interneta i trajnih razlika u povezanosti, pristupačnosti i kvalitetu.
2. UNESCO — Preporuka o etici veštačke inteligencije
   Globalni okvir usredsređen na ljudska prava, dostojanstvo, pravičnost, inkluziju, transparentnost i ljudski nadzor.
3. Evropska komisija — Regulatorni okvir za veštačku inteligenciju
   Zvanični pregled i aktuelni vremenski okvir postepene primene Akta Evropske unije o veštačkoj inteligenciji.
4. Svetska zdravstvena organizacija — Uređivanje ljudskog genoma: okvir za upravljanje
   Vrednosti, principi, institucije i alati upravljanja za somatsko, germinativno i nasledno uređivanje ljudskog genoma.
5. Uprava za hranu i lekove SAD — Prve genske terapije odobrene za bolest srpastih ćelija
   Saopštenje FDA iz decembra 2023. godine, uključujući prvu terapiju odobrenu od strane FDA koja koristi CRISPR/Cas9.
6. Centri za Medicare i Medicaid usluge — Model pristupa ćelijskoj i genskoj terapiji
   Aktuelni detalji modela o sporazumima zasnovanim na ishodima i podršci pristupu genskoj terapiji za bolest srpastih ćelija.
7. Svetska zdravstvena organizacija — Etika i upravljanje veštačkom inteligencijom u zdravstvu
   Smernice koje povezuju zdravstveni potencijal veštačke inteligencije sa etikom, ljudskim pravima i javnom odgovornošću.
8. Nacionalni institut za standarde i tehnologiju SAD — Okvir za upravljanje rizicima veštačke inteligencije
   Dobrovoljni okvir organizovan oko upravljanja, mapiranja, merenja i upravljanja rizicima veštačke inteligencije.