Skutočná otázka neznie iba: „Dokážeme to vytvoriť?“

Nové technológie môžu rozšíriť ľudské možnosti. Môžu však aj rýchlejšie a vo väčšom rozsahu reprodukovať staré formy vylúčenia. Zodpovedná inovácia sa pýta, aký druh pokroku vzniká, pre koho a pod čou kontrolou.

Umelá inteligencia môže prekladať lekcie, pomáhať pri diagnostike a uľahčovať používanie zložitých nástrojov. Génové a bunkové terapie môžu riešiť biologické príčiny ochorení, ktoré sa kedysi liečili iba pokračujúcim zvládaním príznakov. Neurotechnológie môžu niektorým ľuďom so závažným postihnutím obnoviť komunikáciu alebo pohyb. Každý takýto vývoj môže byť skutočne hodnotný bez toho, aby bol všeobecne dostupný, rovnako účinný alebo eticky úplný.

Medzera medzi vynálezom a verejným prínosom je miestom, kde vzniká mnoho etických otázok. Služba môže technicky existovať, no zostať nepoužiteľná, pretože je cenovo nedostupná, neprístupná, nie je dostupná v jazyku človeka alebo závisí od infraštruktúry, ktorú jeho komunita nemá. Systém môže v priemere fungovať dobre, no opakovane zlyhávať pri menšej skupine. Liečba môže byť klinicky pôsobivá, no vyžadovať špecializované centrá, dlhodobú starostlivosť, cestovanie a následné kontroly, vďaka čomu je prístup k nej oveľa zložitejší, než naznačuje samotná cena.

V roku 2025 Medzinárodná telekomunikačná únia odhadla, že 2,2 miliardy ľudí zostávali offline, väčšinou v krajinách s nízkymi a strednými príjmami.1 Konektivita sa výrazne rozšírila, ale hlavný údaj o počte používateľov internetu neodhaľuje kvalitu pripojenia, prístup k zariadeniam, cenovú dostupnosť, digitálne zručnosti, prístupnosť ani to, či sú užitočné služby dostupné lokálne. Podobné vrstvy sa objavujú v zdravotníctve, vzdelávaní a verejných službách.

Prístup je reťaz s najmenej šiestimi článkami

Označenie produktu ako „dostupného“ môže zakryť praktickú vzdialenosť medzi jeho existenciou a schopnosťou človeka bezpečne z neho profitovať.

Ak zlyhá ktorýkoľvek nevyhnutný článok, nominálny prístup môže priniesť len malý úžitok. Bezplatná vzdelávacia platforma nie je zmysluplne dostupná domácnosti, ktorá zdieľa jedno nespoľahlivé zariadenie. Diagnostický model nie je spravodlivý, ak má slabú výkonnosť v určitej podskupine a klinickí pracovníci na to nie sú upozornení. Veľmi pokročilá liečba sa k pacientovi nedostane len preto, že poisťovateľ hradí liek, ak naďalej nie je možná cesta, zachovanie plodnosti, čas mimo práce alebo dlhodobá starostlivosť.

Rovnosť a spravodlivosť spolu súvisia, ale nie sú totožné

Rovnosť často znamená poskytovanie rovnakého zdroja alebo pravidla. Spravodlivosť skúma, či rozdielne východiskové podmienky a potreby nebránia tomu, aby táto formálne rovnaká ponuka vytvorila spravodlivú príležitosť. Niekedy je najspravodlivejšie riešenie univerzálne: titulky, zrozumiteľný jazyk a bezpečné predvolené nastavenia pomáhajú mnohým ľuďom. Niekedy je potrebná dodatočná podpora: prispôsobené rozhranie, pomoc s cestovaním, komunitný zdravotnícky pracovník alebo offline možnosť.

Nerovnosť môže preniknúť do každej fázy inovácie

Predpojatosť nie je len nedostatok algoritmu. Môže sa začať tým, ktoré problémy získajú financovanie, pokračovať výskumom a dizajnom a znovu sa prejaviť, keď sa nástroj stretne s nerovným svetom.

1. Výber problému

   Investície sa riadia stimulmi, politickými prioritami a kúpnou silou. Potreby ľudí s menším vplyvom na trhu môžu zostať nedostatočne preskúmané, aj keď sú ich spoločenské náklady vysoké.

2. Dôkazy a údaje

   To, kto sa zúčastňuje, ovplyvňuje, čo sa výskumníci môžu dozvedieť. Chýbajúce skupiny, nekvalitné meranie, historická diskriminácia a označenia založené na chybných minulých rozhodnutiach môžu formovať výsledky ešte pred natrénovaním modelu alebo otestovaním produktu.

3. Dizajnové rozhodnutia

   Jazyk, predvolené nastavenia, požiadavky na zariadenia, zmyslové predpoklady a definície „normálneho“ určujú, kto môže systém pohodlne používať a koho správanie sa považuje za výnimku.

4. Podmienky nasadenia

   Nástroj overený v jednej inštitúcii sa môže správať odlišne tam, kde sa zmenia personálne kapacity, infraštruktúra, kultúra, prevalencia chorôb alebo stimuly. Kontext je súčasťou výkonnosti.

5. Výsledky a bremená

   Merajte nielen presnosť alebo využívanie, ale aj čakaciu dobu, nesprávne rozhodnutia, stratu súkromia, neplatenú prácu, environmentálne náklady a dôsledky nemožnosti odmietnuť účasť.

6. Spätná väzba, náprava a možnosť odstúpiť

   Ľudia, ktorí sú najbližšie k zlyhaniu, si ho často všimnú ako prví. Potrebujú viditeľný spôsob nahlasovania, včasnú ľudskú reakciu, opravu záznamov a bezpečnú alternatívu počas vyšetrovania problému.

Etický kompas pre vznikajúce technológie

Etické princípy nevytvárajú jednu automatickú odpoveď. Zviditeľňujú dôležité hodnoty, odhaľujú konflikty a pomáhajú inštitúciám vysvetliť, prečo je rozhodnutie odôvodnené.

Od princípov k riadeniu

Odporúčanie UNESCO o etike umelej inteligencie stavia ľudské práva a dôstojnosť do svojho centra a vyzýva na spravodlivosť, inklúziu a ľudský dohľad.2 Práca WHO v oblasti umelej inteligencie v zdravotníctve a úprav ľudského genómu podobne prepája vedecké príležitosti s bezpečnosťou, účinnosťou, etikou a zodpovednými inštitúciami.4 Tieto rámce sú cenné, pretože pokrývajú životný cyklus technológie namiesto toho, aby etiku považovali za posledné schvaľovacie políčko.

Zodpovedný pokrok používa ochranné opatrenia primerané riziku

Užitočná voľba zriedka spočíva v rozhodnutí „inovácia alebo etika“. Skutočnou úlohou je prispôsobiť dôkazy, dohľad a vratnosť závažnosti možných dôsledkov.

Asistent na kontrolu pravopisu, systém hodnotenia v triede, diagnostické zariadenie s umelou inteligenciou a implantované mozgové rozhranie by nemali prechádzať rovnakými kontrolnými bodmi. Riadenie sa stáva náročnejším, keď je systém ťažko vratný, ovplyvňuje základné práva, zasahuje veľké množstvo ľudí, koná bez zmysluplnej voľby, používa mimoriadne citlivé údaje alebo môže spôsobiť závažnú ujmu.

Inovácie s postupným schvaľovaním

1. Definujte zamýšľaný prínos a neprijateľnú ujmu

   Pred začatím vývoja pomenujte populáciu, prostredie, problém a hranice. Zaznamenajte, kto ich pomáhal definovať.

2. Overte predpoklady pred rozšírením

   Používajte reprezentatívne dôkazy, realistické podmienky a porovnanie s existujúcimi alternatívami - nielen priaznivú ukážku.

3. Postupujte postupne tam, kde pretrváva neistota

   Obmedzte rozsah, pozorne monitorujte a chráňte účastníkov. Regulačný sandbox by mal byť kontrolovaným prostredím na učenie, nie imunitou voči povinnostiam v oblasti práv alebo bezpečnosti.

4. Zachovajte možnosť návratu späť

   Definujte prahové hodnoty na pozastavenie, manuálne alternatívy, opravu údajov, reakciu na incidenty a zodpovednosť voči ľuďom, ktorých pozastavenie ovplyvní.

5. Opätovne schvaľujte na základe dôkazov

   Preskúmavajte výkonnosť, rozdelenie výsledkov a nové riziká. Povolenie pokračovať by nemalo byť automatické len preto, že systém sa stal známym.

Akt o umelej inteligencii Európskej únie ilustruje prístup založený na riziku: nadobudol účinnosť v roku 2024 a uplatňuje sa postupne, pričom pre zakázané praktiky, modely na všeobecné účely a určité vysokorizikové systémy platia odlišné povinnosti.3 Konkrétne právne povinnosti závisia od systému, úlohy, použitia a aktuálneho harmonogramu implementácie, preto by organizácie mali konzultovať oficiálne znenie a kvalifikované právne poradenstvo namiesto spoliehania sa na zjednodušené označenia.

Začleňte inklúziu do infraštruktúry, výskumu a poskytovania služieb

Rovný prístup nemožno napraviť iba zľavou na konci. Vyžaduje si koordinované rozhodnutia od prvej výskumnej otázky cez financovanie a nasadenie až po dlhodobú podporu.

Využite kúpnu silu na odmeňovanie zodpovedného dizajnu

Verejné orgány, nemocnice, školy a veľkí zamestnávatelia môžu do obstarávania zahrnúť prístupnosť, ochranu údajov, interoperabilitu, výkonnosť v podskupinách, hlásenie incidentov a podporu pri ukončení používania. Zmluvy môžu od dodávateľov vyžadovať, aby oznamovali podstatné zmeny, pomáhali s migráciou údajov a pokračovali v poskytovaní kritickej podpory počas dohodnutého obdobia.

Pri nákladných terapiách môžu experimenty s financovaním prepojiť platby s výsledkami alebo koordinovať rokovania medzi platiteľmi. Dobrovoľný americký model CMS pre prístup k bunkovým a génovým terapiám, pôvodne zameraný na kosáčikovitú anémiu, je jedným z príkladov: zúčastnené štáty a výrobcovia využívajú dohody založené na výsledkoch vyjednané agentúrou CMS, pričom model uznáva aj praktickú podporu spojenú s liečbou.6 Malo by sa to hodnotiť ako priebežne fungujúci model, nie považovať za dôkaz, že každý problém s prístupom bol vyriešený.

Praktická cestovná mapa pre ľudí, ktorí formujú technológie

Zodpovednosť je spoločná, no nesmie sa stať takou rozptýlenou, aby sa nikto nemusel zodpovedať. Každá inštitúcia má vlastné nástroje a povinnosti.

Stručné preskúmanie vplyvu na rovnosť

Použite tieto otázky vo fáze návrhu, pred spustením a v naplánovaných bodoch preskúmania. Odpovede by mali byť podložené dôkazmi a pridelené menovaným vlastníkom.

Dôkazy, ktoré sa oplatí uchovať

• Záznam o účele: zamýšľané použitie, zakázané použitie, cieľová populácia, alternatívy a kritériá úspechu.
• Záznam o účasti: kto sa zapojil, ako bol vybraný, ako bol odmenený a čo sa zmenilo.
• Záznam o dôkazoch: súbory údajov, skúmané populácie, podmienky testovania, neistota a známe obmedzenia.
• Záznam o vplyve: prínosy, chyby, sťažnosti, odvolania, prekážky v prístupe a výsledky v relevantných skupinách.
• Záznam o rozhodnutí: menovaní vlastníci, akceptácia rizika, nápravné opatrenia, dátumy preskúmania a dôvody pokračovania alebo zastavenia.

Dokumentácia nie je hodnotná iba preto, že existuje. Mala by pomôcť zodpovednej osobe pochopiť systém, vysledovať rozhodnutie, identifikovať vznikajúci vzorec a konať skôr, než sa zabránená škoda rozšíri.

Bežné mýty a praktické otázky

Jednoduché slogany môžu spôsobiť, že etické nezhody sa zdajú jednoduchšie, než v skutočnosti sú. Tieto rozlíšenia vytvárajú priestor na lepšie rozhodnutia.

Pokrok je väčší, keď ho môže formovať viac ľudí

Technická schopnosť technológie je len časťou jej úspechu. Zvyšok spočíva v inštitúciách a vzťahoch okolo nej: v tom, či výskum odráža skutočné potreby, či dôkazy zahŕňajú ľudí, ktorí sa na ňu budú spoliehať, či je prístup praktický, či sa rešpektuje možnosť voľby a či možno chyby napadnúť a napraviť.

Etika by nemala inovácie ani zdobiť, ani zmrazovať. Mala by spoločnosti pomáhať usmerňovať ich - zviditeľňovať riziká, stanovovať hranice, chrániť tých, ktorí majú menšiu moc, a zachovávať priestor na učenie sa. Inklúzia tento proces zlepšuje, pretože komunity prinášajú poznatky, ktoré vzdialení dizajnéri, investori a regulátori nemusia mať.

Cieľom nie je svet, v ktorom všetci používajú rovnakú technológiu. Cieľom je svet, v ktorom sa hodnotný pokrok nestáva automaticky privilégiom, zraniteľnosť sa nepovažuje za povolenie a ľudia zostávajú účastníkmi rozhodnutí, ktoré menia ich vzdelávanie, zdravie, prácu, telo a budúcnosť.

Tento článok slúži na všeobecné vzdelávacie účely a nepredstavuje právne, lekárske, regulačné, investičné ani politické poradenstvo. Požiadavky a dôkazy sa menia; pri rozhodnutiach s významnými dôsledkami sa obráťte na aktuálne oficiálne zdroje a kvalifikovaných odborníkov.

Dôkazová perspektíva a ďalšie čítanie

Prepracovanie nahrádza nepodložené štatistiky pôvodného článku a neexistujúce alebo nesprávne opísané programy primárnymi zdrojmi inštitúcií.

1. Medzinárodná telekomunikačná únia — Fakty a čísla 2025
   Globálne odhady používania internetu a pretrvávajúcich rozdielov v konektivite, dostupnosti a kvalite.
2. UNESCO — Odporúčanie o etike umelej inteligencie
   Globálny rámec zameraný na ľudské práva, dôstojnosť, spravodlivosť, inklúziu, transparentnosť a ľudský dohľad.
3. Európska komisia — Regulačný rámec pre umelú inteligenciu
   Oficiálny prehľad a aktuálny harmonogram postupného zavádzania Aktu o umelej inteligencii Európskej únie.
4. Svetová zdravotnícka organizácia — Rámec riadenia úprav ľudského genómu
   Hodnoty, zásady, inštitúcie a nástroje riadenia pre somatické, zárodočné a dedičné úpravy ľudského genómu.
5. Úrad pre potraviny a liečivá USA — Prvé génové terapie schválené na liečbu kosáčikovitej anémie
   Oznámenie FDA z decembra 2023 vrátane prvej liečby schválenej FDA s využitím CRISPR/Cas9.
6. Centrá pre služby Medicare a Medicaid — Model prístupu k bunkovej a génovej terapii
   Aktuálne podrobnosti o dohodách založených na výsledkoch a podpore prístupu ku génovej terapii kosáčikovitej anémie.
7. Svetová zdravotnícka organizácia — Etika a riadenie umelej inteligencie v zdravotníctve
   Usmernenia prepájajúce zdravotný potenciál umelej inteligencie s etikou, ľudskými právami a verejnou zodpovednosťou.
8. Národný inštitút pre štandardy a technológie USA — Rámec riadenia rizík umelej inteligencie
   Dobrovoľný rámec zameraný na riadenie, mapovanie, meranie a zvládanie rizík umelej inteligencie.