Pravo pitanje nije samo: „Možemo li to izgraditi?”

Tehnologije u nastajanju mogu proširiti ljudske mogućnosti. Također mogu brže i u većem opsegu ponoviti stare oblike isključenosti. Odgovorne inovacije pitaju se kakav se napredak stvara, za koga i pod čijom kontrolom.

Umjetna inteligencija može prevoditi lekcije, pomagati pri dijagnosticiranju i olakšati uporabu složenih alata. Genske i stanične terapije mogu djelovati na biološke uzroke bolesti koje su se nekoć liječile samo trajnim ublažavanjem simptoma. Neurotehnologija nekim osobama s teškim oštećenjima može vratiti komunikaciju ili kretanje. Svaki od tih razvoja može biti istinski vrijedan, a da pritom nije univerzalno dostupan, jednako učinkovit ili etički cjelovit.

Jaz između izuma i javne koristi prostor je u kojem se pojavljuju mnoga etička pitanja. Usluga može tehnički postojati, ali i dalje biti neupotrebljiva jer je preskupa, nepristupačna, nedostupna na jeziku određene osobe ili ovisna o infrastrukturi koju njezina zajednica nema. Sustav u prosjeku može dobro funkcionirati, a opet opetovano zakazivati za manju skupinu. Liječenje može biti klinički impresivno, ali zahtijevati specijalizirane centre, dugotrajnu skrb, putovanja i kontrolne preglede, zbog čega je pristup mnogo složeniji nego što sama cijena sugerira.

Godine 2025. Međunarodna telekomunikacijska unija procijenila je da je 2,2 milijarde ljudi i dalje bilo izvan mreže, većinom u zemljama s niskim i srednjim dohotkom.1 Povezanost se golemo proširila, ali istaknuti broj korisnika interneta ne otkriva kvalitetu veze, pristup uređajima, cjenovnu pristupačnost, digitalne vještine, pristupačnost ni dostupnost korisnih usluga na lokalnoj razini. Slični se slojevi pojavljuju u zdravstvu, obrazovanju i javnim uslugama.

Pristup je lanac od najmanje šest karika

Nazivanje proizvoda „dostupnim” može prikriti praktičnu udaljenost između njegova postojanja i sposobnosti osobe da od njega sigurno ima koristi.

Ako bilo koja ključna karika zakaže, nominalni pristup može donijeti vrlo malo koristi. Besplatna platforma za učenje nije istinski dostupna kućanstvu koje dijeli jedan nepouzdan uređaj. Dijagnostički model nije pravedan ako loše radi za određenu podskupinu, a kliničari nisu upozoreni. Vrlo napredno liječenje ne dolazi do pacijenta samo zato što osiguravatelj pokriva lijek ako su putovanje, očuvanje plodnosti, izostanak s posla ili dugotrajna skrb i dalje neizvedivi.

Jednakost i pravednost povezane su, ali nisu istovjetne

Jednakost često znači pružanje istog resursa ili pravila. Pravednost ispituje sprječavaju li različiti početni uvjeti i potrebe da ta formalno jednaka ponuda pruži pravednu priliku. Ponekad je najpravedniji dizajn univerzalan: titlovi, jasan jezik i sigurne zadane postavke pomažu mnogim ljudima. Ponekad je potrebna dodatna podrška: prilagođeno sučelje, pomoć pri putovanju, zdravstveni radnik iz zajednice ili izvanmrežni način.

Nejednakost može nastati u svakoj fazi inovacije

Pristranost nije samo nedostatak algoritma. Može započeti odabirom problema koji dobivaju financiranje, nastaviti se kroz istraživanje i dizajn te se ponovno pojaviti kada se alat susretne s nejednakim svijetom.

1. Odabir problema

   Ulaganja slijede poticaje, političke prioritete i kupovnu moć. Potrebe ljudi s manjim utjecajem na tržištu mogu ostati nedovoljno istražene čak i kada je njihov društveni trošak velik.

2. Dokazi i podaci

   Tko sudjeluje utječe na ono što istraživači mogu saznati. Izostavljene skupine, loša mjerenja, povijesna diskriminacija i oznake utemeljene na pogrešnim prijašnjim odlukama mogu oblikovati rezultate prije nego što se model obuči ili proizvod testira.

3. Dizajnerske odluke

   Jezik, zadane postavke, zahtjevi u pogledu uređaja, pretpostavke o osjetilima i definicije „normalnog” određuju tko se može ugodno koristiti sustavom i čije se ponašanje smatra iznimkom.

4. Uvjeti uvođenja

   Alat provjeren u jednoj ustanovi može se ponašati drukčije ondje gdje se razlikuju broj zaposlenih, infrastruktura, kultura, raširenost bolesti ili poticaji. Kontekst je dio uspješnosti.

5. Ishodi i opterećenja

   Ne mjerite samo točnost ili prihvaćenost, već i vrijeme čekanja, pogrešne odluke, gubitak privatnosti, neplaćeni rad, utjecaj na okoliš i posljedice nemogućnosti odustajanja.

6. Povratne informacije, ispravak i izlaz

   Ljudi najbliži neuspjehu često ga prvi uoče. Potreban im je vidljiv kanal za prijavu, pravodoban odgovor čovjeka, ispravak zapisa i sigurna alternativa dok se problem istražuje.

Etički kompas za nove tehnologije

Etička načela ne daju jedan automatski odgovor. Ona čine važne vrijednosti vidljivima, otkrivaju sukobe i pomažu institucijama objasniti zašto je odluka opravdana.

Od načela do upravljanja

UNESCO-ova Preporuka o etici umjetne inteligencije u središte stavlja ljudska prava i dostojanstvo te poziva na pravednost, uključivost i ljudski nadzor.2 Rad WHO-a na umjetnoj inteligenciji za zdravlje i uređivanju ljudskog genoma na sličan način povezuje znanstvene mogućnosti sa sigurnošću, djelotvornošću, etikom i odgovornim institucijama.4 Ovi su okviri vrijedni jer obuhvaćaju životni ciklus tehnologije, umjesto da etiku tretiraju kao posljednju kućicu za odobrenje.

Odgovoran napredak koristi zaštitne mjere razmjerne riziku

Korisni izbor rijetko je „inovacija ili etika”. Stvarni je zadatak uskladiti dokaze, nadzor i reverzibilnost s ozbiljnošću mogućih posljedica.

Pravopisni pomoćnik, sustav za ocjenjivanje u učionici, dijagnostički uređaj s umjetnom inteligencijom i implantirano sučelje mozak-računalo ne bi trebali prolaziti kroz identične kontrolne točke. Upravljanje postaje zahtjevnije kada je sustav teško poništiti, utječe na temeljna prava, doseže velik broj ljudi, djeluje bez stvarnog izbora, koristi vrlo osjetljive podatke ili bi mogao prouzročiti ozbiljnu štetu.

Inovacije po fazama i kontrolnim točkama

1. Definirajte namjeravanu korist i neprihvatljivu štetu

   Definirajte populaciju, okruženje, problem i granice prije izgradnje. Zabilježite tko je sudjelovao u njihovu definiranju.

2. Testirajte pretpostavke prije širenja

   Koristite reprezentativne dokaze, realne uvjete i usporedbu s postojećim alternativama - ne samo povoljnu demonstraciju.

3. Postupno uvodite tamo gdje i dalje postoji neizvjesnost

   Ograničite opseg, pomno pratite i zaštitite sudionike. Regulatorni eksperimentalni okvir treba biti kontrolirano okruženje za učenje, a ne imunitet od obveza povezanih s pravima ili sigurnošću.

4. Omogućite povratak na prethodno stanje

   Definirajte pragove za pauziranje, ručne alternative, ispravljanje podataka, odgovor na incidente i odgovornost prema osobama pogođenima tijekom obustave.

5. Ponovno odobravajte na temelju dokaza

   Preispitujte uspješnost, raspodjelu ishoda i nove rizike. Dopuštenje za nastavak ne bi trebalo biti automatsko samo zato što je sustav postao uobičajen.

Akt EU-a o umjetnoj inteligenciji ilustrira pristup utemeljen na riziku: stupio je na snagu 2024. i primjenjuje se u fazama, s različitim obvezama za zabranjene prakse, modele opće namjene i određene visokorizične sustave.3 Točne pravne obveze ovise o sustavu, ulozi, upotrebi i trenutačnom rasporedu provedbe, stoga bi se organizacije trebale savjetovati sa službenim tekstom i kvalificiranim pravnim smjernicama, a ne oslanjati se na pojednostavljene oznake.

Ugradite uključivost u infrastrukturu, istraživanje i isporuku

Pravedan pristup ne može se popraviti samo popustom na kraju. Zahtijeva usklađene odluke od prvog istraživačkog pitanja preko financiranja i uvođenja do dugoročne podrške.

Iskoristite kupovnu moć za nagrađivanje odgovornog dizajna

Javne ustanove, bolnice, škole i veliki poslodavci mogu dostupnost, zaštitu podataka, interoperabilnost, uspješnost u podskupinama, prijavljivanje incidenata i podršku pri izlasku učiniti dijelom nabave. Ugovorima se od dobavljača može zahtijevati da otkrivaju bitne promjene, pomažu pri migraciji podataka i nastave pružati ključnu podršku tijekom dogovorenog razdoblja.

Za terapije visoke cijene financijski eksperimenti mogu povezati plaćanje s ishodima ili koordinirati pregovore među platiteljima. Dobrovoljni američki model CMS-a za pristup staničnim i genskim terapijama, koji je isprva bio usmjeren na bolest srpastih stanica, jedan je primjer: države i proizvođači koji sudjeluju koriste sporazume o ishodima koje je dogovorio CMS, dok model također prepoznaje praktičnu podršku povezanu s liječenjem.6 To treba ocjenjivati kao model koji se neprekidno razvija, a ne smatrati dokazom da je svaki problem pristupa riješen.

Praktični plan puta za ljude koji oblikuju tehnologiju

Odgovornost je zajednička, ali ne smije postati toliko raspršena da nitko ne bude odgovoran. Svaka institucija ima vlastite poluge djelovanja i dužnosti.

Sažeta procjena učinka na pravednost

Upotrijebite ova pitanja u fazi prijedloga, prije pokretanja i u zakazanim trenucima za reviziju. Odgovori trebaju biti potkrijepljeni dokazima i dodijeljeni imenovanim vlasnicima.

Dokazi koje vrijedi sačuvati

• Zapis svrhe: predviđena uporaba, zabranjena uporaba, ciljna populacija, alternative i kriteriji uspjeha.
• Zapis sudjelovanja: tko je sudjelovao, kako je odabran, kako je plaćen i što se promijenilo.
• Zapis dokaza: skupovi podataka, ispitivane populacije, uvjeti testiranja, nesigurnost i poznata ograničenja.
• Zapis o učinku: koristi, pogreške, pritužbe, žalbe, prepreke pristupu i ishodi među relevantnim skupinama.
• Zapis odluke: imenovani vlasnici, prihvaćanje rizika, korektivne mjere, datumi revizije i razlozi za nastavak ili prekid.

Dokumentacija nije vrijedna samo zato što postoji. Trebala bi odgovornoj osobi pomoći da razumije sustav, prati odluku, prepozna obrazac u nastajanju i djeluje prije nego što se šteta koju je moguće spriječiti proširi.

Uobičajeni mitovi i praktična pitanja

Jednostavni slogani mogu učiniti da etička neslaganja izgledaju lakšima nego što jesu. Ove razlike stvaraju prostor za bolje odluke.

Napredak postaje veći kada ga može oblikovati više ljudi

Tehnička sposobnost tehnologije samo je dio njezina postignuća. Ostatak leži u institucijama i odnosima koji je okružuju: odražava li istraživanje stvarne potrebe, uključuju li dokazi ljude koji će se na njega oslanjati, je li pristup praktičan, poštuje li se izbor te mogu li se pogreške osporiti i ispraviti.

Etika ne bi trebala ni uljepšavati inovacije ni kočiti ih. Trebala bi pomoći društvu da usmjerava njihov razvoj - učiniti rizik vidljivim, postaviti granice, zaštititi one s manje moći i očuvati prostor za učenje. Uključivanje poboljšava taj proces jer zajednice doprinose znanjem koje udaljeni dizajneri, ulagači i regulatori možda nemaju.

Cilj nije svijet u kojem svi koriste istu tehnologiju. Cilj je svijet u kojem vrijedni napreci prema zadanim postavkama ne postaju privilegije, ranjivost se ne smatra dopuštenjem, a ljudi ostaju sudionici u odlukama koje mijenjaju njihovo obrazovanje, zdravlje, rad, tijela i budućnost.

Ovaj je članak namijenjen općim obrazovnim svrhama i ne predstavlja pravni, medicinski, regulatorni, investicijski ili politički savjet. Zahtjevi i dokazi se mijenjaju; za odluke s važnim posljedicama konzultirajte aktualne službene izvore i kvalificirane stručnjake.

Dokazni okvir i dodatno štivo

Preradom se izvorni članak oslobađa nepodržanih statistika te nepostojećih ili pogrešno opisanih programa, uz oslanjanje na primarne institucionalne izvore.

1. Međunarodna telekomunikacijska unija — Činjenice i brojke 2025.
   Globalne procjene korištenja interneta i trajnih razlika u povezivosti, cjenovnoj pristupačnosti i kvaliteti.
2. UNESCO — Preporuka o etici umjetne inteligencije
   Globalni okvir usmjeren na ljudska prava, dostojanstvo, pravednost, uključivost, transparentnost i ljudski nadzor.
3. Europska komisija — regulatorni okvir za umjetnu inteligenciju
   Službeni pregled i aktualni vremenski okvir postupne provedbe Akta Europske unije o umjetnoj inteligenciji.
4. Svjetska zdravstvena organizacija — Uređivanje ljudskog genoma: okvir za upravljanje
   Vrijednosti, načela, institucije i alati upravljanja za somatsko, zametno i nasljedno uređivanje ljudskog genoma.
5. Američka Uprava za hranu i lijekove — prve genske terapije odobrene za bolest srpastih stanica
   Objava FDA-a iz prosinca 2023., uključujući prvu terapiju koju je FDA odobrila, a koja koristi CRISPR/Cas9.
6. Centri za Medicare i Medicaid usluge — model pristupa staničnoj i genskoj terapiji
   Aktualne pojedinosti o sporazumima temeljenima na ishodima i podršci pristupu genskoj terapiji za bolest srpastih stanica.
7. Svjetska zdravstvena organizacija — Etika i upravljanje umjetnom inteligencijom za zdravlje
   Smjernice koje povezuju zdravstveni potencijal umjetne inteligencije s etikom, ljudskim pravima i javnom odgovornošću.
8. Američki Nacionalni institut za standarde i tehnologiju — okvir za upravljanje rizicima umjetne inteligencije
   Dobrovoljni okvir organiziran oko upravljanja, mapiranja, mjerenja i upravljanja rizicima umjetne inteligencije.