Pravo vprašanje ni le »Ali lahko to zgradimo?«

Nastajajoče tehnologije lahko širijo človeške možnosti. Prav tako lahko z večjo hitrostjo in v večjem obsegu ponovijo stare oblike izključevanja. Odgovorno inoviranje se sprašuje, kakšen napredek se ustvarja, za koga in pod čigavim nadzorom.

Umetna inteligenca lahko prevaja učne vsebine, pomaga pri diagnosticiranju in olajša uporabo zapletenih orodij. Genske in celične terapije lahko obravnavajo biološke vzroke bolezni, ki so jih nekoč zdravili le z nenehnim obvladovanjem simptomov. Nevrotehnologija lahko nekaterim ljudem z resnimi okvarami povrne sposobnost sporazumevanja ali gibanja. Vsak razvoj je lahko resnično dragocen, ne da bi bil splošno dostopen, enako učinkovit ali etično celovit.

Vrzel med izumom in javno koristjo je prostor, kjer se porajajo številna etična vprašanja. Storitev lahko tehnično obstaja, vendar ostane neuporabna, ker je predraga, nedostopna, ni na voljo v jeziku posameznika ali je odvisna od infrastrukture, ki je njegova skupnost nima. Sistem lahko v povprečju deluje dobro, vendar vedno znova odpove pri manjši skupini. Zdravljenje je lahko klinično zelo učinkovito, vendar zahteva specializirane centre, dolgotrajno oskrbo, potovanja in nadaljnje spremljanje, zaradi česar je dostop veliko bolj zapleten, kot nakazuje sama cena.

Leta 2025 je Mednarodna telekomunikacijska zveza ocenila, da je 2,2 milijarde ljudi ostalo brez povezave, večinoma v državah z nizkimi in srednjimi dohodki.1 Povezljivost se je izjemno razširila, vendar naslovno število uporabnikov interneta ne razkriva kakovosti povezave, dostopa do naprav, cenovne dostopnosti, digitalnih spretnosti, dostopnosti ali tega, ali so uporabne storitve na voljo lokalno. Podobne plasti se pojavljajo v zdravstvu, izobraževanju in javnih storitvah.

Dostop je veriga z vsaj šestimi povezavami

Označevanje izdelka kot »razpoložljivega« lahko prikrije praktično razdaljo med njegovim obstojem in sposobnostjo osebe, da ima od njega varno korist.

Če odpove katera koli bistvena povezava, lahko nominalni dostop prinese le malo koristi. Brezplačna učna platforma ni zares dostopna gospodinjstvu, ki si deli eno nezanesljivo napravo. Diagnostični model ni pravičen, če je njegova uspešnost pri določeni podskupini slaba in zdravniki na to niso opozorjeni. Zelo napredno zdravljenje ne doseže bolnika zgolj zato, ker zavarovalnica krije zdravilo, če so potovanje, ohranjanje plodnosti, odsotnost z dela ali dolgotrajna oskrba še vedno nemogoči.

Enakost in pravičnost sta povezani, vendar nista enaki

Enakost pogosto pomeni zagotavljanje enakega vira ali pravila. Pravičnost pa preučuje, ali različni začetni pogoji in potrebe preprečujejo, da bi ta formalno enaka ponudba omogočila pravično priložnost. Včasih je najbolj pravična zasnova univerzalna: podnapisi, jasen jezik in varne privzete nastavitve pomagajo številnim ljudem. Včasih je potrebna dodatna podpora: prilagojen vmesnik, pomoč pri prevozu, skupnostni zdravstveni delavec ali možnost brez povezave.

Neenakost se lahko pojavi na vsaki stopnji inovacij

Pristranskost ni le napaka v algoritmu. Začne se lahko pri tem, kateri problemi prejmejo financiranje, se nadaljuje skozi raziskave in oblikovanje ter se znova pojavi, ko se orodje sreča z neenakim svetom.

1. Izbira problema

   Naložbe sledijo spodbudam, političnim prednostnim nalogam in kupni moči. Potrebe ljudi z manjšim vplivom na trg lahko ostanejo premalo raziskane, tudi ko so njihovi družbeni stroški visoki.

2. Dokazi in podatki

   Kdo sodeluje, vpliva na to, kaj lahko raziskovalci spoznajo. Izpuščene skupine, slabe meritve, zgodovinska diskriminacija in oznake, ki temeljijo na pomanjkljivih preteklih odločitvah, lahko oblikujejo rezultate, še preden je model usposobljen ali izdelek preizkušen.

3. Oblikovalske odločitve

   Jezik, privzete nastavitve, zahteve glede naprav, predpostavke o čutnih zmožnostih in opredelitve »normalnega« določajo, kdo lahko sistem udobno uporablja in čigavo vedenje se obravnava kot izjema.

4. Pogoji uvedbe

   Orodje, potrjeno v eni ustanovi, se lahko drugače vede tam, kjer se spremenijo kadrovska zasedba, infrastruktura, kultura, razširjenost bolezni ali spodbude. Kontekst je del učinkovitosti.

5. Izidi in bremena

   Ne merite le natančnosti ali uporabe, temveč tudi čakalni čas, napačne odločitve, izgubo zasebnosti, neplačano delo, okoljske stroške in posledice nezmožnosti odjave.

6. Povratne informacije, odprava škode in izstop

   Ljudje, ki so najbližje napaki, jo pogosto opazijo prvi. Potrebujejo jasno vidno pot za prijavo, pravočasen človeški odziv, popravek evidenc in varno alternativo, medtem ko se težava preiskuje.

Etični kompas za nastajajočo tehnologijo

Etična načela ne ustvarijo enega samodejnega odgovora. Pomagajo izpostaviti pomembne vrednote, razkriti nasprotja in institucijam pojasniti, zakaj je odločitev utemeljena.

Od načel do upravljanja

Unescovo Priporočilo o etiki umetne inteligence postavlja človekove pravice in dostojanstvo v središče ter poziva k pravičnosti, vključevanju in človeškemu nadzoru.2 Delo SZO na področju umetne inteligence za zdravje in urejanja človeškega genoma podobno povezuje znanstvene priložnosti z varnostjo, učinkovitostjo, etiko in odgovornimi institucijami.4 Ti okviri so dragoceni, ker zajemajo življenjski cikel tehnologije, namesto da bi etiko obravnavali kot zadnje polje za odobritev.

Odgovoren napredek uporablja zaščitne ukrepe, sorazmerne tveganju

Koristna izbira le redko pomeni »inovacija ali etika«. Resnična naloga je uskladiti dokaze, nadzor in možnost povrnitve v prejšnje stanje z resnostjo možnih posledic.

Pomočnik za črkovanje, sistem za ocenjevanje v razredu, diagnostična naprava z umetno inteligenco in vsajeni možganski vmesnik ne bi smeli prehajati skozi enake kontrolne točke. Upravljanje postaja zahtevnejše, ko je sistem težko povrniti v prejšnje stanje, vpliva na temeljne pravice, doseže veliko ljudi, deluje brez smiselne izbire, uporablja zelo občutljive podatke ali bi lahko povzročil hudo škodo.

Inovacije po fazah z vmesnimi odločitvami

1. Opredelite pričakovano korist in nesprejemljivo škodo

   Preden začnete graditi, opredelite populacijo, okolje, problem in meje. Zabeležite, kdo je pomagal pri njihovem opredeljevanju.

2. Pred širitvijo preverite predpostavke

   Uporabite reprezentativne dokaze, realne pogoje in primerjavo z obstoječimi alternativami - ne le ugodne predstavitve.

3. Postopoma uvajajte tam, kjer ostaja negotovost

   Omejite obseg, pozorno spremljajte in zaščitite udeležence. Regulativni peskovnik bi moral biti nadzorovano okolje za učenje, ne pa imuniteta pred dolžnostmi glede pravic ali varnosti.

4. Ohranite možnost razveljavitve

   Opredelite pragove za zaustavitev, ročne alternative, popravljanje podatkov, odzivanje na incidente in odgovornost za ljudi, ki jih suspenz prizadene.

5. Na podlagi dokazov ponovno odobrite

   Pregledujte uspešnost, porazdelitev izidov in nova tveganja. Dovoljenje za nadaljevanje ne bi smelo biti samodejno zgolj zato, ker je sistem postal znan.

Akt Evropske unije o umetni inteligenci ponazarja pristop, ki temelji na tveganju: začel je veljati leta 2024 in se uporablja po fazah, pri čemer veljajo različne obveznosti za prepovedane prakse, modele splošnega namena in nekatere visokotvegane sisteme.3 Natančne zakonske obveznosti so odvisne od sistema, vloge, uporabe in trenutnega časovnega načrta izvajanja, zato naj se organizacije posvetujejo z uradnim besedilom in usposobljenimi pravnimi svetovalci, namesto da bi se zanašale na poenostavljene oznake.

Vključenost vgradite v infrastrukturo, raziskave in izvajanje

Pravičnega dostopa ni mogoče popraviti zgolj s popustom na koncu. Zahteva usklajene odločitve od prvega raziskovalnega vprašanja do financiranja, uvedbe in dolgoročne podpore.

Uporabite kupno moč za nagrajevanje odgovornega oblikovanja

Javne institucije, bolnišnice, šole in veliki delodajalci lahko dostopnost, varstvo podatkov, interoperabilnost, uspešnost po podskupinah, poročanje o incidentih in podporo pri izstopu vključijo v javna naročila. Pogodbe lahko od ponudnikov zahtevajo razkritje bistvenih sprememb, pomoč pri migraciji podatkov in nadaljevanje ključne podpore za dogovorjeno obdobje.

Pri dragih terapijah lahko finančni poskusi povežejo plačilo z rezultati ali uskladijo pogajanja med plačniki. Prostovoljni model CMS Cell and Gene Therapy Access Model v Združenih državah Amerike, ki je bil sprva osredotočen na srpastocelično bolezen, je en tak primer: sodelujoče zvezne države in proizvajalci uporabljajo sporazume, ki temeljijo na rezultatih in jih je izpogajal CMS, model pa priznava tudi praktične oblike podpore, povezane z zdravljenjem.6 Ocenjevati ga je treba kot model v razvoju, ne pa ga obravnavati kot dokaz, da je bil vsak problem dostopa rešen.

Praktični načrt za ljudi, ki oblikujejo tehnologijo

Odgovornost je skupna, vendar ne sme postati tako razpršena, da nihče ne bi bil odgovoren. Vsaka ustanova ima svoje vzvode in dolžnosti.

Kratek pregled vpliva na pravičnost

Ta vprašanja uporabite v fazi predloga, pred uvedbo in ob načrtovanih pregledih. Odgovori naj bodo podprti z dokazi in dodeljeni imenovanim odgovornim osebam.

Dokazi, ki jih je vredno ohraniti

• Evidenca namena: predvidena uporaba, prepovedana uporaba, ciljna populacija, alternative in merila uspeha.
• Evidenca sodelovanja: kdo je sodeloval, kako je bil izbran, kako je bil plačan in kaj se je spremenilo.
• Evidenca dokazov: nabori podatkov, proučevane populacije, pogoji testiranja, negotovost in znane omejitve.
• Evidenca vplivov: koristi, napake, pritožbe, ugovori, ovire pri dostopu in izidi za relevantne skupine.
• Evidenca odločitev: imenovani odgovorni, sprejemanje tveganja, korektivni ukrepi, datumi pregledov ter razlogi za nadaljevanje ali ustavitev.

Dokumentacija ni dragocena zgolj zato, ker obstaja. Odgovorni osebi bi morala pomagati razumeti sistem, slediti odločitvi, prepoznati nastajajoč vzorec in ukrepati, preden se preprečljiva škoda razširi.

Pogosti miti in praktična vprašanja

Preprosti slogani lahko povzročijo, da so etična nesoglasja videti lažja, kot so v resnici. Te razlike ustvarjajo prostor za boljše odločitve.

Napredek je večji, ko ga lahko oblikuje več ljudi

Tehnična zmogljivost tehnologije je le del njenega dosežka. Preostalo je odvisno od institucij in odnosov okoli nje: ali raziskave odražajo resnične potrebe, ali dokazi vključujejo ljudi, ki se bodo nanjo zanašali, ali je dostop praktičen, ali se izbira spoštuje ter ali je mogoče napake izpodbijati in odpraviti.

Etika ne bi smela niti krasiti inovacij niti jih zamrzniti. Družbi bi morala pomagati usmerjati razvoj - narediti tveganja vidna, postaviti meje, zaščititi tiste z manjšo močjo in ohraniti prostor za učenje. Vključevanje ta proces izboljšuje, saj skupnosti prispevajo znanje, ki ga oddaljeni načrtovalci, vlagatelji in regulatorji morda nimajo.

Cilj ni svet, v katerem vsi uporabljajo isto tehnologijo. Cilj je svet, v katerem dragoceni dosežki privzeto ne postanejo privilegiji, ranljivost ne velja za dovoljenje, ljudje pa ostanejo udeleženi pri odločitvah, ki spreminjajo njihovo izobraževanje, zdravje, delo, telesa in prihodnost.

Ta članek je namenjen splošnim izobraževalnim namenom in ne predstavlja pravnega, zdravstvenega, regulativnega, naložbenega ali političnega svetovanja. Zahteve in dokazi se spreminjajo; pri pomembnih odločitvah se posvetujte z aktualnimi uradnimi viri in usposobljenimi strokovnjaki.

Dokazni vidik in dodatno branje

Predelava nadomešča nepodprte statistične podatke iz izvirnega članka ter neobstoječe ali napačno opisane programe z izvirnimi institucionalnimi viri.

1. Mednarodna telekomunikacijska zveza — Dejstva in številke 2025
   Globalne ocene uporabe interneta in nenehnih vrzeli v povezljivosti, cenovni dostopnosti in kakovosti.
2. UNESCO — priporočilo o etiki umetne inteligence
   Globalni okvir, osredotočen na človekove pravice, dostojanstvo, pravičnost, vključevanje, preglednost in človeški nadzor.
3. Evropska komisija — regulativni okvir za umetno inteligenco
   Uradni pregled in aktualni časovni načrt postopnega izvajanja akta Evropske unije o umetni inteligenci.
4. Svetovna zdravstvena organizacija — Urejanje človeškega genoma: okvir za upravljanje
   Vrednote, načela, institucije in orodja upravljanja za somatsko, zarodno in dedno urejanje človeškega genoma.
5. Ameriška agencija za hrano in zdravila — prve genske terapije, odobrene za srpastocelično bolezen
   Napoved ameriške agencije FDA iz decembra 2023, vključno s prvim zdravljenjem, ki ga je odobrila FDA in uporablja CRISPR/Cas9.
6. Centri za storitve Medicare in Medicaid — model dostopa do celičnih in genskih terapij
   Aktualne podrobnosti o sporazumih, ki temeljijo na rezultatih, in podpori dostopu do genske terapije za srpastocelično bolezen.
7. Svetovna zdravstvena organizacija — Etika in upravljanje umetne inteligence za zdravje
   Smernice, ki povezujejo zdravstveni potencial umetne inteligence z etiko, človekovimi pravicami in javno odgovornostjo.
8. Nacionalni inštitut za standarde in tehnologijo ZDA — okvir za upravljanje tveganj umetne inteligence
   Prostovoljni okvir, organiziran okoli upravljanja, kartiranja, merjenja in obvladovanja tveganj umetne inteligence.