Pravo pitanje nije samo: „Možemo li to izgraditi?“

Tehnologije u nastajanju mogu proširiti ljudske mogućnosti. One također mogu reproducirati stare oblike isključenosti brže i u većem obimu. Odgovorna inovacija postavlja pitanje kakav se napredak stvara, za koga i pod čijom kontrolom.

Umjetna inteligencija može prevoditi lekcije, pomagati pri postavljanju dijagnoze i olakšati korištenje složenih alata. Genske i ćelijske terapije mogu djelovati na biološke uzroke bolesti koje su se nekada liječile samo kontinuiranim ublažavanjem simptoma. Neurotehnologija nekim osobama s teškim oštećenjima može vratiti sposobnost komunikacije ili kretanja. Svaki razvoj može biti istinski vrijedan, a da ipak nije univerzalno dostupan, jednako djelotvoran ili etički zaokružen.

Jaz između izuma i javne koristi mjesto je na kojem se pojavljuju mnoga etička pitanja. Usluga tehnički može postojati, ali ostati neupotrebljiva jer je preskupa, nepristupačna, nedostupna na jeziku određene osobe ili zavisi od infrastrukture koju njena zajednica nema. Sistem može u prosjeku dobro funkcionisati, a ipak iznova zakazivati kod manje grupe. Liječenje može biti klinički impresivno, ali zahtijevati specijalizirane centre, dugotrajnu njegu, putovanja i naknadne kontrole, zbog čega je pristup mnogo složeniji nego što sama cijena sugeriše.

Međunarodna telekomunikacijska unija procijenila je 2025. godine da je 2,2 milijarde ljudi i dalje bilo bez pristupa internetu, uglavnom u zemljama s niskim i srednjim prihodima.1 Povezanost se enormno proširila, ali glavni broj korisnika interneta ne otkriva kvalitet veze, pristup uređaju, cjenovnu pristupačnost, digitalne vještine, pristupačnost ni to da li su korisne usluge lokalno dostupne. Slični slojevi postoje u zdravstvu, obrazovanju i javnim uslugama.

Pristup je lanac od najmanje šest karika

Nazivanje proizvoda „dostupnim“ može prikriti praktičnu udaljenost između njegovog postojanja i sposobnosti osobe da od njega sigurno ima koristi.

Ako bilo koja ključna karika zakaže, nominalni pristup može donijeti malo koristi. Besplatna platforma za učenje nije stvarno dostupna domaćinstvu koje dijeli jedan nepouzdan uređaj. Dijagnostički model nije pravičan ako loše radi za određenu podgrupu, a kliničari nisu upozoreni. Veoma napredan tretman ne dopire do pacijenta samo zato što osiguravač pokriva lijek, ako putovanje, očuvanje plodnosti, odsustvo s posla ili dugotrajna njega i dalje nisu mogući.

Jednakost i pravičnost povezane su, ali nisu isto

Jednakost često znači obezbjeđivanje istog resursa ili pravila. Pravičnost ispituje da li različiti početni uslovi i potrebe sprečavaju da ta formalno jednaka ponuda proizvede pravednu priliku. Ponekad je najpravedniji dizajn univerzalan: titlovi, jasan jezik i sigurne početne postavke pomažu mnogim ljudima. Ponekad je neophodna dodatna podrška: prilagođen interfejs, pomoć pri putovanju, zdravstveni radnik iz zajednice ili opcija bez interneta.

Nejednakost može nastati u svakoj fazi inovacije

Pristrasnost nije samo nedostatak algoritma. Može početi od toga koji problemi dobijaju finansiranje, nastaviti se kroz istraživanje i dizajn, a ponovo se pojaviti kada alat dospije u nejednak svijet.

1. Odabir problema

   Ulaganja prate poticaje, političke prioritete i kupovnu moć. Potrebe koje se tiču ljudi s manjim uticajem na tržištu mogu ostati nedovoljno istražene čak i kada je njihov društveni trošak visok.

2. Dokazi i podaci

   Ko učestvuje utiče na ono što istraživači mogu saznati. Grupe koje nedostaju, loše mjerenje, historijska diskriminacija i oznake zasnovane na pogrešnim ranijim odlukama mogu oblikovati rezultate prije nego što se model obuči ili proizvod testira.

3. Dizajnerske odluke

   Jezik, zadane postavke, zahtjevi u pogledu uređaja, pretpostavke o osjetilima i definicije „normalnog“ određuju ko može ugodno koristiti sistem i čije se ponašanje tretira kao izuzetak.

4. Uslovi primjene

   Alat provjeren u jednoj ustanovi može se ponašati drugačije tamo gdje se razlikuju broj zaposlenih, infrastruktura, kultura, učestalost bolesti ili poticaji. Kontekst je dio učinka.

5. Ishodi i opterećenja

   Ne mjerite samo tačnost ili usvajanje, već i vrijeme čekanja, pogrešne odluke, gubitak privatnosti, neplaćeni rad, uticaj na okoliš i posljedice nemogućnosti odustajanja.

6. Povratne informacije, ispravka i izlaz

   Ljudi najbliži nekom propustu često ga prvi primijete. Potreban im je vidljiv kanal za prijavljivanje, pravovremeni odgovor čovjeka, ispravka evidencije i sigurna alternativa dok se problem istražuje.

Etički kompas za nove tehnologije

Etički principi ne daju jedan automatski odgovor. Oni čine važne vrijednosti vidljivim, otkrivaju sukobe i pomažu institucijama da objasne zašto je odluka opravdana.

Od principa do upravljanja

UNESCO-va Preporuka o etici umjetne inteligencije u središte stavlja ljudska prava i dostojanstvo te poziva na pravednost, uključivanje i ljudski nadzor.2 Rad Svjetske zdravstvene organizacije na AI-u u zdravstvu i uređivanju ljudskog genoma slično povezuje naučne mogućnosti sa sigurnošću, djelotvornošću, etikom i odgovornim institucijama.4 Ovi okviri su vrijedni jer obuhvataju životni ciklus tehnologije, umjesto da etiku tretiraju kao završnu stavku za odobrenje.

Odgovoran napredak koristi zaštitne mjere srazmjerne riziku

Koristan izbor rijetko je „inovacija ili etika“. Pravi zadatak je uskladiti dokaze, nadzor i reverzibilnost s ozbiljnošću mogućih posljedica.

Pomoćnik za pravopis, sistem za ocjenjivanje u učionici, AI dijagnostički uređaj i implantirani moždani interfejs ne bi trebali prolaziti kroz identične provjere. Upravljanje postaje zahtjevnije kada je sistem teško vratiti u prethodno stanje, utiče na osnovna prava, doseže veliki broj ljudi, djeluje bez stvarnog izbora, koristi veoma osjetljive podatke ili bi mogao prouzrokovati ozbiljnu štetu.

Inovacije s faznim odobravanjem

1. Definišite namjeravanu korist i neprihvatljivu štetu

   Odredite populaciju, okruženje, problem i granice prije izgradnje. Zabilježite ko je pomogao da se oni definišu.

2. Testirajte pretpostavke prije širenja

   Koristite reprezentativne dokaze, realne uslove i poređenje s postojećim alternativama - ne samo povoljnu demonstraciju.

3. Postepeno uvodite tamo gdje i dalje postoji neizvjesnost

   Ograničite obim, pomno pratite i zaštitite učesnike. Regulatorni eksperimentalni okvir treba biti kontrolisano okruženje za učenje, a ne imunitet od obaveza u pogledu prava ili sigurnosti.

4. Omogućite povratak na prethodno stanje

   Definišite pragove za pauziranje, ručne alternative, ispravku podataka, odgovor na incidente i odgovornost prema osobama pogođenim tokom obustave.

5. Ponovo odobravajte na osnovu dokaza

   Preispitujte učinak, raspodjelu ishoda i nove rizike. Dozvola za nastavak ne bi trebala biti automatska samo zato što je sistem postao uobičajen.

Akt Evropske unije o vještačkoj inteligenciji ilustruje pristup zasnovan na riziku: stupio je na snagu 2024. godine i primjenjuje se u fazama, uz različite obaveze za zabranjene prakse, modele opšte namjene i određene visokorizične sisteme.3 Tačne zakonske obaveze zavise od sistema, uloge, namjene i trenutnog vremenskog okvira implementacije, pa bi se organizacije trebale konsultovati sa službenim tekstom i kvalifikovanim pravnim savjetnicima, umjesto da se oslanjaju na pojednostavljene oznake.

Ugradite inkluziju u infrastrukturu, istraživanje i pružanje usluga

Pravedan pristup ne može se popraviti samo popustom na kraju. Zahtijeva usklađene odluke od prvog istraživačkog pitanja do finansiranja, uvođenja i dugoročne podrške.

Iskoristite kupovnu moć za nagrađivanje odgovornog dizajna

Javne institucije, bolnice, škole i veliki poslodavci mogu uključiti pristupačnost, zaštitu podataka, interoperabilnost, učinak po podgrupama, prijavljivanje incidenata i podršku pri izlasku iz sistema u proces nabavke. Ugovori mogu zahtijevati od dobavljača da prijave značajne promjene, pomognu pri migraciji podataka i nastave pružati ključnu podršku tokom dogovorenog perioda.

Za terapije visokih troškova, eksperimenti s finansiranjem mogu povezati plaćanje s ishodima ili koordinirati pregovore između platilaca. Dobrovoljni model CMS-a za pristup ćelijskim i genskim terapijama u Sjedinjenim Američkim Državama, u početku usmjeren na srpastu anemiju, jedan je primjer: države učesnice i proizvođači koriste sporazume zasnovane na ishodima koje je dogovorio CMS, dok model prepoznaje i praktičnu podršku povezanu s liječenjem.6 Treba ga procjenjivati kao model koji se kontinuirano razvija, a ne tretirati kao dokaz da je svaki problem pristupa riješen.

Praktična mapa puta za ljude koji oblikuju tehnologiju

Odgovornost je zajednička, ali ne smije postati toliko raspršena da niko ne bude pozvan na odgovornost. Svaka institucija ima vlastite poluge djelovanja i obaveze.

Sažeti pregled uticaja na pravednost

Koristite ova pitanja u fazi prijedloga, prije pokretanja i u zakazanim tačkama preispitivanja. Odgovori bi trebali biti potkrijepljeni dokazima i dodijeljeni imenovanim nosiocima odgovornosti.

Dokazi koje vrijedi čuvati

• Evidencija svrhe: predviđena upotreba, zabranjena upotreba, ciljna populacija, alternative i kriteriji uspjeha.
• Evidencija učešća: ko je učestvovao, kako je odabran, kako je nagrađen i šta se promijenilo.
• Evidencija dokaza: skupovi podataka, populacije obuhvaćene studijom, uslovi testiranja, neizvjesnost i poznata ograničenja.
• Evidencija uticaja: koristi, greške, pritužbe, žalbe, prepreke pristupu i ishodi u relevantnim grupama.
• Evidencija odluka: imenovani nosioci odgovornosti, prihvatanje rizika, korektivne mjere, datumi preispitivanja i razlozi za nastavak ili obustavu.

Dokumentacija nije vrijedna samo zato što postoji. Trebalo bi da odgovornoj osobi pomogne da razumije sistem, prati odluku, prepozna obrazac u nastajanju i djeluje prije nego što se spriječiva šteta proširi.

Uobičajeni mitovi i praktična pitanja

Jednostavni slogani mogu učiniti da etička neslaganja djeluju lakšim nego što jesu. Ove razlike stvaraju prostor za bolje odluke.

Napredak postaje veći kada ga više ljudi može oblikovati

Tehnička sposobnost tehnologije samo je dio njenog uspjeha. Ostatak leži u institucijama i odnosima koji je okružuju: da li istraživanje odražava stvarne potrebe, da li dokazi uključuju ljude koji će se na nju oslanjati, da li je pristup praktičan, da li se izbor poštuje te da li se greške mogu osporiti i ispraviti.

Etika ne bi trebala ni ukrašavati inovacije ni ih zamrznuti. Trebala bi pomoći društvu da usmjerava inovacije - učiniti rizik vidljivim, postaviti granice, zaštititi one s manje moći i sačuvati prostor za učenje. Uključivanje poboljšava ovaj proces jer zajednice doprinose znanjem koje udaljeni dizajneri, investitori i regulatori možda ne posjeduju.

Cilj nije svijet u kojem svi koriste istu tehnologiju. To je svijet u kojem vrijedni napreci po defaultu ne postaju privilegije, ranjivost se ne tretira kao dozvola, a ljudi ostaju učesnici u odlukama koje mijenjaju njihovo obrazovanje, zdravlje, rad, tijela i budućnost.

Ovaj članak je namijenjen općem obrazovanju i ne predstavlja pravni, medicinski, regulatorni, investicijski ili politički savjet. Zahtjevi i dokazi se mijenjaju; za odluke s ozbiljnim posljedicama konsultujte aktuelne zvanične izvore i kvalifikovane stručnjake.

Dokazni okvir i dodatna literatura

Preradom su izvorne, nepotkrijepljene statistike i nepostojeći ili pogrešno opisani programi iz članka zamijenjeni primarnim institucionalnim izvorima.

1. Međunarodna telekomunikacijska unija — Činjenice i brojke 2025
   Globalne procjene korištenja interneta i trajnih razlika u povezanosti, pristupačnosti i kvalitetu.
2. UNESCO — Preporuka o etici umjetne inteligencije
   Globalni okvir usmjeren na ljudska prava, dostojanstvo, pravičnost, uključivanje, transparentnost i ljudski nadzor.
3. Evropska komisija — Regulatorni okvir za umjetnu inteligenciju
   Zvanični pregled i aktuelni vremenski okvir fazne implementacije Akta Evropske unije o umjetnoj inteligenciji.
4. Svjetska zdravstvena organizacija — Okvir za upravljanje uređivanjem ljudskog genoma
   Vrijednosti, principi, institucije i alati upravljanja za somatsko, germinativno i nasljedno uređivanje ljudskog genoma.
5. Američka Uprava za hranu i lijekove — Prve genske terapije odobrene za bolest srpastih ćelija
   Saopštenje FDA iz decembra 2023. godine, uključujući prvi tretman koji je FDA odobrila, a koji koristi CRISPR/Cas9.
6. Centri za Medicare i Medicaid usluge — Model pristupa ćelijskoj i genskoj terapiji
   Aktuelni detalji modela o sporazumima zasnovanim na ishodima i podršci pristupu genskoj terapiji za bolest srpastih ćelija.
7. Svjetska zdravstvena organizacija — Etika i upravljanje umjetnom inteligencijom za zdravlje
   Smjernice koje povezuju zdravstveni potencijal umjetne inteligencije s etikom, ljudskim pravima i javnom odgovornošću.
8. Američki Nacionalni institut za standarde i tehnologiju — Okvir za upravljanje rizicima umjetne inteligencije
   Dobrovoljni okvir organizovan oko upravljanja, mapiranja, mjerenja i upravljanja rizicima umjetne inteligencije.