Etikai és társadalmi kihívások az intelligencia fejlesztésében
Linas JuozėnasMegosztás
Igazságosság · Feltörekvő technológia · Felelős innováció
Kik részesülhetnek az előnyökből? Méltányos, biztonságos és mindenki számára hozzáférhető innováció létrehozása
Egy áttörés nem pusztán azért tekinthető teljes sikernek, mert működik a laboratóriumban vagy eljut a piacra. Valódi értéke attól is függ, hogy ki tudja használni, kinek az igényei formálták, ki viseli a kockázatait, és hogy az emberek megkérdőjelezhetik-e, visszautasíthatják-e, illetve kereshetnek-e jogorvoslatot, ha kárt okoz.
- Érdemi hozzáférés
- Emberi jogok
- Arányos biztosítékok
- Nyilvános részvétel
A valódi kérdés nem csupán az, hogy „Meg tudjuk építeni?”
A feltörekvő technológiák kitágíthatják az emberi lehetőségeket. Ugyanakkor a régi kirekesztéseket is nagyobb sebességgel és léptékben reprodukálhatják. A felelős innováció azt kérdezi, milyen fejlődést hozunk létre, kinek és kinek az ellenőrzése alatt.
A mesterséges intelligencia lefordíthatja a tananyagokat, segítheti a diagnózist, és könnyebbé teheti az összetett eszközök használatát. A gén- és sejtterápiák kezelhetik olyan betegségek biológiai okait, amelyeket korábban csak a tünetek folyamatos kezelésével tartottak kordában. A neurotechnológia egyes súlyos fogyatékossággal élő embereknél helyreállíthatja a kommunikációt vagy a mozgást. Mindegyik fejlesztés lehet valóban értékes anélkül, hogy mindenki számára elérhető, egyformán hatékony vagy etikailag teljes volna.
A találmány és a közhaszon közötti szakadékban számos etikai kérdés rejlik. Egy szolgáltatás technikailag létezhet, mégis használhatatlan maradhat, mert megfizethetetlen, hozzáférhetetlen, nem érhető el az adott személy nyelvén, vagy olyan infrastruktúrától függ, amellyel a közössége nem rendelkezik. Egy rendszer átlagosan jól működhet, miközben egy kisebb csoportot újra és újra cserbenhagy. Egy kezelés klinikailag lenyűgöző lehet, mégis szakorvosi központokat, hosszan tartó ellátást, utazást és utókövetést igényelhet, ami a hozzáférést jóval összetettebbé teszi annál, mint amit önmagában az ára sugall.
Ez az igazságtalan akadályok megszüntetését, az előnyök és kockázatok eloszlásának vizsgálatát, a különböző szükségletek figyelembevételét, valamint azt jelenti, hogy megvédjük mindenki képességét a megértésre, a választásra, a visszautasításra és a jogorvoslat keresésére.
2025-ben a Nemzetközi Távközlési Unió becslése szerint 2,2 milliárd ember maradt offline, többségük alacsony és közepes jövedelmű országokban.1 A kapcsolódás óriási mértékben bővült, de az internetfelhasználók címszavakban közölt száma nem mutatja meg a kapcsolat minőségét, az eszközhöz való hozzáférést, a megfizethetőséget, a digitális készségeket, a hozzáférhetőséget vagy azt, hogy helyben elérhetők-e hasznos szolgáltatások. Hasonló rétegek jelennek meg az egészségügyben, az oktatásban és a közszolgáltatásokban is.
Egy áttörés működik
A kutatók megállapítják, hogy egy módszer meghatározott feltételek mellett képes-e elérni a kívánt hatást.
A rendszer eljut az emberekhez
Az infrastruktúra, az intézmények, a képzett munkatársak és a fenntartható finanszírozás lehetővé teszik a használatot a kísérleten túl is.
Az emberek méltányosan részesülhetnek az előnyökből
A hozzáférést, az eredményeket, a választási lehetőségeket és az elszámoltathatóságot népességcsoportokon átívelően vizsgálják - nem az átlagokból következtetnek rájuk.
A hozzáférés legalább hat láncszemből áll
Az, hogy egy terméket „elérhetőnek” nevezünk, elfedheti a gyakorlati távolságot a létezése és aközött, hogy egy személy biztonságosan képes-e hasznot húzni belőle.
Ha bármelyik alapvető láncszem hibás, a névleges hozzáférés kevés hasznot hozhat. Egy ingyenes tanulási platform nem tekinthető érdemben hozzáférhetőnek egy olyan háztartás számára, amely egyetlen, megbízhatatlan eszközön osztozik. Egy diagnosztikai modell nem méltányos, ha egy alcsoportban rosszul teljesít, és erről nem figyelmeztetik a klinikusokat. Egy korszerű kezelés nem jut el a beteghez pusztán azért, mert a biztosító fedezi a gyógyszert, ha az utazás, a termékenység megőrzése, a munkából való távollét vagy a hosszú távú ellátás továbbra sem megoldható.
Az egyenlőség és a méltányosság összefügg, de nem azonos
Az egyenlőség gyakran ugyanazon erőforrás vagy szabály biztosítását jelenti. A méltányosság azt vizsgálja, hogy az eltérő kiindulási feltételek és szükségletek megakadályozzák-e, hogy ez a formálisan egyenlő ajánlat méltányos lehetőséget teremtsen. Néha a legméltányosabb megoldás az egyetemes kialakítás: a feliratok, a közérthető nyelv és a biztonságos alapbeállítások sok embernek segítenek. Máskor további támogatásra van szükség: akadálymentesített felületre, utazási támogatásra, közösségi egészségügyi munkásra vagy offline lehetőségre.
Egy rendszer javíthatja az átlagos eredményt, miközben egy kisebb népességcsoport eredményeit rontja. Az értékelésnek be kell mutatnia, kik vettek részt benne, hogyan tér el a teljesítmény a releváns csoportok között, és tapasztal-e bárki új vagy aránytalan terhet.
Az egyenlőtlenség az innováció minden szakaszában megjelenhet
Az elfogultság nem csupán egy algoritmus hibája. Kezdődhet azzal, hogy mely problémák kapnak finanszírozást, folytatódhat a kutatás és a tervezés során, majd ismét megjelenhet, amikor egy eszköz egyenlőtlen világban találkozik a valósággal.
-
Problémaválasztás
A beruházásokat az ösztönzők, a politikai prioritások és a vásárlóerő irányítják. A kisebb piaci befolyással rendelkező embereket érintő szükségletek akkor is kevéssé kutatottak maradhatnak, ha társadalmi költségük magas.
-
Bizonyítékok és adatok
Az, hogy kik vesznek részt, befolyásolja, mit tanulhatnak meg a kutatók. A hiányzó csoportok, a gyenge mérés, a történelmi diszkrimináció és a korábbi hibás döntéseken alapuló címkék már a modell betanítása vagy a termék tesztelése előtt alakíthatják az eredményeket.
-
Tervezési döntések
A nyelv, az alapértelmezések, az eszközkövetelmények, az érzékszervi képességekre vonatkozó feltételezések és a „normális” meghatározása dönti el, hogy ki tud kényelmesen használni egy rendszert, és kinek a viselkedését kezelik kivételként.
-
Bevezetési feltételek
Egy intézményben validált eszköz másképp működhet ott, ahol eltér a személyzeti ellátottság, az infrastruktúra, a kultúra, a betegségek gyakorisága vagy az ösztönzők rendszere. A környezet a teljesítmény része.
-
Eredmények és terhek
Ne csak a pontosságot vagy az elterjedtséget mérjük, hanem a várakozási időt, a téves döntéseket, a magánszféra sérelmét, a nem fizetett munkát, a környezeti költséget és annak következményeit is, ha valaki nem tud kilépni.
-
Visszajelzés, helyreállítás és kilépés
A hibához legközelebb álló emberek gyakran elsőként veszik észre azt. Látható bejelentési lehetőségre, időszerű emberi válaszra, a nyilvántartások helyesbítésére és biztonságos alternatívára van szükségük, amíg a problémát kivizsgálják.
Egy sokszínű bevezetési csapat vagy egyetlen konzultáció nem garantálhatja a méltányos eredményeket. A részvételnek hatással kell lennie a döntésekre, a nyomon követésnek pedig a bevezetés után is folytatódnia kell, miközben a felhasználók, a körülmények és a technológia változnak.
Ugyanazok az etikai alapelvek másképp érvényesülnek a különböző technológiákban
A mesterséges intelligenciát, a biotechnológiát és a neurotechnológiát nem szabad egyetlen, differenciálatlan kategóriaként szabályozni. A beavatkozás mélysége, visszafordíthatósága, a bizonyítékok, az érintett jogok és a hiba következményei mind számítanak.
A hozzáférés többet jelent annál, mint hogy minden tanulónak adunk egy alkalmazást
A mesterséges intelligencia fordítást, példákat, visszajelzést és további gyakorlási lehetőséget kínálhat. A tanulás azonban függ a tanterv minőségétől, a tanári támogatástól, a megbízható eszközöktől, a nyelvi lefedettségtől, a hozzáférhetőségtől és attól, hogy a tanuló továbbra is maga végzi-e a gondolkodást. A felvételihez, értékeléshez, fegyelmezéshez vagy a tanulói profilalkotáshoz használt rendszerek sokkal szigorúbb ellenőrzést igényelnek, mint egy opcionális ötletelési eszköz.
- Biztosítsunk nem mesterséges intelligencián alapuló lehetőséget az alapvető szolgáltatások igénybevételére.
- A jelentős következményekkel járó döntésekért maradjanak az oktatók felelősek.
- Vizsgáljuk a hozzáférhetőséget, az egyenlőtlen hibaarányt és a téves tudáselsajátítást.
- Minimalizáljuk a gyermekek és a tanulók adatainak gyűjtését.
A hatékonyság nem írhatja felül a tisztességes eljárást
Az automatizálás segíthet az ügyek feldolgozásában vagy a mintázatok felismerésében, de egy helytelen, egészségügyet, foglalkoztatást, hitelt, támogatásokat vagy közbiztonságot érintő döntés súlyos kárt okozhat egy embernek. Nem az a helyes kérdés, hogy lenyűgöző-e egy modell, hanem az, hogy a szerepe, a bizonyítékok és a biztosítékok megfelelőek-e az adott döntéshez.
- Értesítse az embereket, amikor az automatizált rendszerek érdemben befolyásolják a döntéseket.
- Adjon érthető indoklást, és biztosítson érdemi emberi felülvizsgálatot.
- Akadályozza meg, hogy az ellenőrzést végző személy pusztán jóváhagyja a gép eredményét.
- Rögzítse és vizsgálja ki a hibák és a jogorvoslati kérelmek mintázatait.
A gyógyszer csak egy része a hozzáférésnek
Az FDA 2023 decemberében hagyta jóvá a sarlósejtes betegség első CRISPR/Cas9-alapú kezelését, nem 2025-ben.5 Megjelenése fontos tudományos mérföldkő volt. Egyben azt is szemlélteti, miért nem szűkíthető le a hozzáférés a listaárra: a kezeléshez speciális központokra, őssejtgyűjtésre, intenzív előkészítő kezelésre, kiterjesztett ellátásra, a termékenységgel kapcsolatos szempontok figyelembevételére és hosszú távú utánkövetésre lehet szükség.
- Vesse össze az előnyöket és a terheket a meglévő ellátással.
- Tervezzen kapacitást ott, ahol a legnagyobb a betegségek terhe.
- A finanszírozásban számoljon az utazással, az időráfordítással, a támogatással és az utógondozással.
- Vezessen nyilvántartásokat, és biztosítsa az átlátható, hosszú távú biztonsági felügyeletet.
Az intim adatok tartós felelősséget igényelnek
A neurotechnológia az invazivitást nem igénylő kutatásoktól és fogyasztói eszközöktől a beültetett orvosi rendszerekig terjed. Ezek a felhasználási módok nem azonos kockázatokkal járnak. Az invazívabb vagy nagyobb következményekkel járó rendszerek kérdéseket vetnek fel a mentális magánszférával, a változó beleegyezéssel, a kiberbiztonsággal, a javítással, a szoftvertámogatással, a tulajdonjoggal, a származtatott adatok tulajdonjogával és azzal kapcsolatban, hogy ki felelős, ha egy vállalat kivon egy terméket.
- Válassza külön a terápiás bizonyítékokat a teljesítményfokozást népszerűsítő marketingtől.
- A beleegyezést folyamatos folyamatként kezelje, ne egyetlen aláírásként.
- Tervezze meg a karbantartást, a cserét és a biztonságos leállítást.
- Korlátozza az idegi és viselkedési adatok másodlagos felhasználását.
Etikai iránytű a feltörekvő technológiákhoz
Az etikai alapelvek nem adnak egyetlen automatikus választ. Láthatóvá teszik a fontos értékeket, feltárják az ellentéteket, és segítenek az intézményeknek megmagyarázni, miért indokolt egy döntés.
Emberként kezelje az embereket
Ne redukáljon senkit előrejelzésre, pontszámra, genomra, diagnózisra vagy adatforrásra. A technológiának az emberi jogok keretei között kell működnie, nem pedig kényelmi szempontok miatt újradefiniálnia azokat.
Tegye érdemivé a választást
A beleegyezéshez érthető tájékoztatás, a nem megfelelő nyomástól való mentesség és reális alternatíva szükséges. Az olvashatatlan tájékoztató nem jelent valódi kontrollt.
Vizsgálja meg a teljes hatást
Vesse össze az ígért előnyöket a fizikai, pszichológiai, társadalmi, gazdasági és környezeti kockázatokkal - beleértve a hibák vagy a visszaélések által okozott károkat is.
Vizsgálja meg az eloszlást
Vizsgálja meg, hogy a hasonló szükségletekkel rendelkező embereket következetesen kezelik-e, és hogy a meglévő hátrányok egyenlőtlen hozzáférést, kitettséget vagy eredményeket okoznak-e.
Gyűjtsön kevesebb adatot, és védje megfelelően
A hasznos adatok érzékenyek is lehetnek. Korlátozza az adatgyűjtést, a hozzáférést, a megőrzést és az újbóli felhasználást; védje a rendszereket teljes működési életciklusuk alatt.
Legyen egyértelmű, ki felelős
Valakinek hatáskörrel és kötelességgel kell rendelkeznie egy rendszer kivizsgálására, kijavítására, a károk megtérítésére, felfüggesztésére vagy visszavonására. Az, hogy „az algoritmus döntött”, nem jelent elszámoltathatóságot.
Az alapelvektől az irányításig
Az UNESCO mesterséges intelligencia etikájáról szóló ajánlása középpontjába az emberi jogokat és az emberi méltóságot helyezi, és méltányosságot, inklúziót és emberi felügyeletet sürget.2 A WHO mesterséges intelligenciával kapcsolatos egészségügyi munkája és az emberi genom szerkesztése szintén összekapcsolja a tudományos lehetőségeket a biztonságossággal, hatékonysággal, etikával és elszámoltatható intézményekkel.4 E keretrendszerek azért értékesek, mert a technológia teljes életciklusát lefedik, ahelyett hogy az etikát egy utolsó jóváhagyási pontként kezelnék.
Egy gyakorlat lehet technikailag jogszerű, mégis kizsákmányoló, hozzáférhetetlen, megtévesztő vagy kellő bizonyítékokkal alá nem támasztott. Ezzel szemben a különböző joghatóságok ugyanazt a kockázatot eltérően szabályozhatják. A szervezetek továbbra is felelősek a megfontolt döntéshozatalért.
A felelősségteljes fejlődés a kockázattal arányos védintézkedéseket alkalmaz
A helyes választás ritkán „innováció vagy etika”. A valódi feladat az, hogy a bizonyítékokat, a felügyeletet és a visszafordíthatóságot a lehetséges következmények súlyosságához igazítsuk.
Egy helyesírási segéd, egy osztálytermi értékelési rendszer, egy mesterségesintelligencia-alapú diagnosztikai eszköz és egy beültetett agyi interfész nem haladhat át azonos ellenőrzési szakaszokon. Az irányítási követelmények akkor válnak szigorúbbá, ha egy rendszer nehezen fordítható vissza, alapvető jogokat érint, sok emberhez jut el, érdemi választási lehetőség nélkül működik, különösen érzékeny adatokat használ, vagy súlyos kárt okozhat.
| Kontextus | Szemléltető példa | Minimális kérdések | A védintézkedések intenzitása |
|---|---|---|---|
| Alacsony következményekkel járó és visszafordítható | Személyes jegyzeteket átszervező, opcionális eszköz. | Védve vannak az adatok? Ellenőrizhető a kimenet? Könnyen kiléphet a felhasználó? | Egyértelmű tájékoztatás, biztonságos alapbeállítások és egyszerű javítási lehetőség. |
| Mérsékelt következményekkel járó | Gyakorlatokat vagy tartalmakat ajánló tanulási rendszer. | Működik különböző tanulók esetében? Szűkíti a lehetőségeket vagy függőséget alakít ki? | Oktatói felügyelet, hozzáférhetőségi tesztelés és az eredmények folyamatos felülvizsgálata. |
| Jelentős következményekkel járó | Foglalkoztatást, oktatáshoz való hozzáférést, hitelt, támogatásokat vagy klinikai ellátást befolyásoló rendszer. | Jogszerű és szükséges a használat? Milyen bizonyíték támasztja alá? Fellebbezhet-e az érintett ténylegesen? | Független értékelés, dokumentáció, képzett emberi döntéshozó, audit és érvényesíthető jogorvoslat. |
| Fizikai vagy mélyen személyes beavatkozás | Génterápia vagy beültetett neurotechnológia. | Kellően megalapozott a biztonságosság és a haszon? Tartós a beleegyezés? Ki biztosít élethosszig tartó támogatást? | Klinikai és etikai felülvizsgálat, szakosított szabályozás, hosszú távú nyomon követés és a folytonosság megtervezése. |
Szakaszokra bontott, kapuellenőrzéshez kötött innováció
-
Határozza meg a kívánt előnyt és az elfogadhatatlan kárt
A fejlesztés megkezdése előtt nevezze meg a célcsoportot, a környezetet, a problémát és a határokat. Rögzítse, ki vett részt ezek meghatározásában.
-
A feltételezéseket még a kiterjesztés előtt tesztelje
Reprezentatív bizonyítékokat és reális körülményeket használjon, és hasonlítsa össze a meglévő alternatívákkal - ne csak egy kedvező bemutatóra támaszkodjon.
-
Fokozatos bevezetés, ha továbbra is bizonytalanság áll fenn
Korlátozza a hatókört, szorosan kövesse nyomon, és védje a résztvevőket. A szabályozási tesztkörnyezet ellenőrzött tanulási környezet legyen, ne pedig mentesség a jogok tiszteletben tartása vagy a biztonsági kötelezettségek alól.
-
A visszaállítás lehetőségét fenn kell tartani
Meg kell határozni a szüneteltetés küszöbértékeit, a manuális alternatívákat, az adatok helyesbítését, az incidenskezelést és az érintett emberekért való felelősséget a felfüggesztés ideje alatt.
-
Újraengedélyezés bizonyítékok alapján
A teljesítményt, az eredmények eloszlását és az új kockázatokat felül kell vizsgálni. A folytatás engedélyezése nem lehet automatikus pusztán azért, mert egy rendszer megszokottá vált.
Az Európai Unió mesterséges intelligenciáról szóló jogszabálya kockázatalapú megközelítést szemléltet: 2024-ben lépett hatályba, és szakaszosan alkalmazandó, eltérő kötelezettségekkel a tiltott gyakorlatokra, az általános célú modellekre és egyes magas kockázatú rendszerekre vonatkozóan.3 A pontos jogi kötelezettségek a rendszertől, a szereptől, a felhasználástól és az aktuális végrehajtási ütemtervtől függenek, ezért a szervezeteknek az egyszerűsített megnevezésekre való hagyatkozás helyett a hivatalos szöveget és a megfelelő jogi útmutatást kell áttekinteniük.
A befogadást be kell építeni az infrastruktúrába, a kutatásba és a megvalósításba
Az igazságos hozzáférést nem lehet pusztán egy, a folyamat végén adott kedvezménnyel helyreállítani. Ehhez összehangolt döntésekre van szükség az első kutatási kérdéstől kezdve a finanszírozáson és a bevezetésen át a hosszú távú támogatásig.
A valóban hasznos kapcsolódás megteremtése
A lefedettség csak a kezdet. A megbízható áramellátás, a megfizethető szolgáltatás, a megfelelő eszközök, a karbantartás, a biztonságos személyazonosság-kezelési rendszerek, a digitális készségek, valamint az offline vagy alacsony sávszélességű lehetőségek határozzák meg, hogy a kapcsolódás képességgé válik-e.
A hozzáférhető tervezést alapvető minőségként kell kezelni
Elismert hozzáférhetőségi szabványokat kell alkalmazni, a tesztelésbe be kell vonni a fogyatékossággal élő embereket, és többféle módot kell biztosítani egy szolgáltatás érzékelésére, megértésére és használatára. A kirekesztés után végzett utólagos átalakítás általában nehezebb és kevésbé teljes körű.
A szavaknál többet kell lokalizálni
A fordítás önmagában nem teremt kulturális vagy gyakorlati relevanciát. A példáknak, a feltételezéseknek, a kockázatkommunikációnak, a fizetési lehetőségeknek és a támogatásnak illeszkedniük kell ahhoz a környezethez, amelyben az emberek cselekedni fognak.
A döntéshozatali hatalom megosztása
A konzultáció akkor fontos, ha hatással lehet a követelményekre, a költségvetésre, az ütemtervre vagy arra, hogy egy projekt megvalósul-e. A közösségi szakértelmet kompenzálni kell, és be kell számolni arról, hogyan változtatta meg a vélemény a tervezést.
A reprezentativitás felelős javítása
A toborzásnak az indokolt bizonyítékhiányokat kell kezelnie anélkül, hogy a közösségeket adatforrásként kezelné. A hozzájárulás, a haszonmegosztás, az irányítás és a hasznos eredmények visszajuttatása a minta sokfélesége mellett ugyanilyen fontos.
A teljes hozzáférési útvonal finanszírozása
Az árat, a szállítási kapacitást, a munkaerőt, az utazást, a támogató ellátást, a nyomon követést és az alternatív költségeket együtt kell figyelembe venni. A finanszírozott termék működőképes hozzáférési útvonal nélkül továbbra is elérhetetlen marad.
A felelős tervezés jutalmazása a vásárlóerő felhasználásával
A közintézmények, kórházak, iskolák és nagy munkáltatók a hozzáférhetőséget, az adatvédelmet, az interoperabilitást, az alcsoportok teljesítményét, az incidensek bejelentését és a kivonulás támogatását is a beszerzési folyamat részévé tehetik. A szerződések előírhatják a beszállítók számára, hogy tájékoztassanak a lényeges változásokról, segítsék az adatmigrációt, és egy meghatározott ideig továbbra is biztosítsák a kritikus támogatást.
A magas költségű terápiák esetében a finanszírozási kísérletek összekapcsolhatják a fizetést az eredményekkel, vagy összehangolhatják a tárgyalásokat a finanszírozók között. Az Egyesült Államok önkéntes CMS Cell and Gene Therapy Access Model programja, amely kezdetben a sarlósejtes betegségre összpontosított, egy példa erre: a részt vevő államok és gyártók a CMS által kialkudott, eredményalapú megállapodásokat alkalmaznak, miközben a modell a kezeléssel kapcsolatos gyakorlati támogatásokat is elismeri.6 Folyamatosan működő modellként kell értékelni, nem pedig annak bizonyítékaként kezelni, hogy minden hozzáférési problémát megoldottak.
A partnerségek erősebbek, ha fejlesztik a helyi kutatási vezetést, a műszaki készségeket, a karbantartást, az irányítást és a döntéshozatali hatáskört. Egy eszköz adományozása anélkül, hogy meglenne a képesség annak átalakítására, javítására vagy megkérdőjelezésére, a kiszolgáltatottság új formáját hozhatja létre.
Gyakorlati ütemterv a technológiát alakító emberek számára
A felelősség megosztott, de nem szabad annyira szétaprózódnia, hogy végül senki ne legyen elszámoltatható. Minden intézménynek megvannak a saját eszközei és kötelességei.
| Érdekelt fél | A fejlesztés vagy beszerzés előtt | A bevezetés során | Bevezetés után |
|---|---|---|---|
| Kormányok és szabályozó hatóságok | Alakítsanak ki jogalapú szabályokat, finanszírozzák az elhanyagolt szükségleteket, mérjék fel az infrastruktúrát, és követeljenek a kockázattal arányos bizonyítékokat. | Ellenőrizzenek, érvényesítsék a szabályokat, tegyenek közzé útmutatást, és védjék a független kutatást, a panaszokat és a visszaélések bejelentését. | Kövessék nyomon az eredményeket, zárják be a kiskapukat, hangolják össze a munkát a határokon átnyúlóan, és biztosítsanak hatékony jogorvoslatot. |
| Vállalatok és befektetők | Határozzák meg a tervezett felhasználókat és a kizárt felhasználási módokat; tervezzenek költségvetést a hozzáférhetőségre, a biztonságra, a támogatásra és a felelős kivonulásra. | Dokumentálják a korlátokat, kövessék nyomon a hibák eloszlását, és biztosítsanak felhatalmazást a termékcsapatoknak a nem biztonságos munka leállítására. | Jelentsék a súlyos incidenseket, korrigálják a károkat, tartsák karban a kritikus termékeket, és ne hagyják magukra a rájuk támaszkodó felhasználókat. |
| Kutatók és egyetemek | Válasszanak társadalmilag releváns kérdéseket, javítsák a reprezentativitást, és alakítsanak ki érdemi beleegyezési és irányítási folyamatokat. | Őrizzék meg a kutatás integritását, regisztrálják a megfelelő vizsgálatokat, és számoljanak be a korlátokról és a kedvezőtlen eredményekről. | Osszák meg felelősen a hasznos tudást, támogassák a reprodukálást, és vizsgálják a publikáción túli, valós környezetben jelentkező hatásokat. |
| Egészségügyi és oktatási intézmények | Hasonlítsák össze a technológiát a meglévő gyakorlattal, és vonják be a szakembereket, a betegeket, a tanulókat és a gondozókat. | Képezzék a felhasználókat, tartsák fenn az emberi felelősségvállalást, és biztosítsanak hozzáférhető alternatívákat és jogorvoslati lehetőségeket. | A tanulási, egészségügyi és méltányossági eredményeket mérjék - ne csupán a használatot -, és állítsák le azokat a rendszereket, amelyek nem indokolják a rájuk fordított erőforrásokat. |
| Közösségek és civil társadalom | Fogalmazzák meg az igényeket, a nem alku tárgyát képező jogokat és a haszon helyileg értelmezhető meghatározásait. | Kísérjék figyelemmel a megvalósítást, segítsék a közérthető tájékoztatást, és azonosítsák a rejtett költségeket vagy a kizárt csoportokat. | Panaszokkal, közérdekű kutatással, érdekképviselettel és részvételi felülvizsgálattal követeljék a korrekciót. |
Egy hosszú technikai dokumentum közzététele nem elegendő, ha az érintett emberek nem értik meg, vagy nem tudnak mit kezdeni az információval. A hasznos átláthatóság az egyértelmű magyarázatot a választás lehetőségével, a felügyelettel, a korrekcióval és a következményekkel kapcsolja össze.
Rövid, igazságossági hatásvizsgálat
Használja ezeket a kérdéseket a javaslat szakaszában, az indulás előtt és az ütemezett felülvizsgálati pontokon. A válaszokat bizonyítékokkal kell alátámasztani, és megnevezett felelősökhöz kell rendelni.
Tizenkét kérdés a léptéknövelés előtt
Ha hiányoznak a bizonyítékok, rögzítsük a bizonytalanságot, és döntsük el, hogyan fogjuk feloldani. A hallgatás nem bizonyítja az alacsony kockázatot.
- Pontosan milyen problémát oldunk meg, és ki határozta meg?
- Kiktől várható, hogy részesüljenek az előnyökből, és hogyan nézne ki az érdemi előny?
- Kiket zárhat ki a költség, a nyelv, a fogyatékosság, a helyszín, az eszköz vagy az intézményi szabályok?
- Mely csoportok hiányoznak a bizonyítékokból, vagy melyek vannak túl kis számban képviselve?
- Milyen adatokat gyűjtenek, következtetnek ki, őriznek meg, osztanak meg vagy használnak fel újra?
- Részt vehetnek-e az emberek anélkül, hogy szükségtelenül le kellene mondaniuk a magánszférájukról?
- Valóban önkéntes, érthető és visszavonható-e a beleegyezés?
- Hogyan különböznek a hibák és az eredmények a releváns népességcsoportok között?
- Mi történik egy személlyel, amikor a rendszer hibázik?
- Felülvizsgálhatja és megváltoztathatja-e egy megfelelően képzett ember a jelentős következményekkel járó döntést?
- Ki szüneteltetheti, javíthatja vagy vonhatja vissza a rendszert, és milyen küszöbértéknél?
- Ki fizeti a támogatás, a korrekció, az átállás és a hosszú távú kötelezettségek költségeit?
Megőrzésre érdemes bizonyítékok
- Célnyilvántartás: tervezett felhasználás, tiltott felhasználás, célpopuláció, alternatívák és sikerkritériumok.
- Részvételi nyilvántartás: kik vettek részt, hogyan választották ki őket, hogyan részesültek díjazásban, és mi változott.
- Bizonyítéknyilvántartás: adatkészletek, vizsgálati populációk, tesztelési körülmények, bizonytalanságok és ismert korlátok.
- Hatásnyilvántartás: előnyök, hibák, panaszok, jogorvoslati kérelmek, hozzáférési akadályok és az eredmények a releváns csoportok körében.
- Döntési nyilvántartás: megnevezett felelősök, a kockázat elfogadása, korrekciós intézkedések, felülvizsgálati időpontok, valamint a folytatás vagy leállítás indokai.
A dokumentáció önmagában nem értékes pusztán azért, mert létezik. Segítenie kell egy felelős személynek a rendszer megértésében, egy döntés nyomon követésében, egy kialakulóban lévő minta felismerésében és a megelőzhető károk terjedése előtti cselekvésben.
Gyakori mítoszok és gyakorlati kérdések
Az egyszerű szlogenek a valóságosnál könnyebbnek tüntethetik fel az etikai nézeteltéréseket. Ezek a megkülönböztetések teret adnak a jobb döntéseknek.
Az igazságosság lassítja az innovációt?
Az átgondolt védőintézkedések időt és erőforrásokat igényelhetnek, különösen súlyos következményekkel járó rendszerek esetében. Ez nem jelenti azt, hogy szemben állnának az innovációval. A hozzáférhetetlenség, a nem biztonságos működés vagy a társadalmi elutasítás felismerése nagy léptékű bevezetés után sokkal költségesebb lehet. A megfelelő ütem a kockázat súlyosságától és visszafordíthatóságától függ.
A technológiai áttörések természetes módon megfizethetővé válnak?
Egyes technológiák a méretgazdaságosság, a verseny és a tanulás révén olcsóbbá válnak. Mások ritka anyagoktól, speciális szaktudást igénylő munkaerőtől, összetett gyártástól, folyamatos támogatástól vagy erős piaci kizárólagosságtól függenek. A megfizethetőség a technológia, az intézmények, a finanszírozás és a szakpolitika eredménye - nem automatikus törvényszerűség.
Megoldható-e az algoritmikus torzítás több adat hozzáadásával?
A reprezentatívabb és jobb minőségű adatok segíthetnek, de önmagában a mennyiség nem hozhat helyre egy rosszul meghatározott célt, igazságtalan történelmi címkéket, hiányzó kontextust, nem megfelelő alkalmazást vagy káros felhasználást. A teljes döntési rendszert - beleértve az intézményeket és az ösztönzőket is - meg kell vizsgálni.
Automatikusan méltányos-e a nyílt forráskód?
A nyílt kód vagy tudás csökkentheti bizonyos akadályokat, és lehetővé teheti az ellenőrzést vagy a helyi adaptációt. Az embereknek ettől még hiányozhatnak a számítási erőforrások, a speciális készségek, a megfelelő adatok, a támogatás vagy a használathoz szükséges jogi szabadság. A nyitottság a nem biztonságos képességek terjesztését is megkönnyítheti. Hatásai attól függnek, mit, kik számára és milyen védintézkedések mellett tesznek nyitottá.
Elég-e az átláthatóság ahhoz, hogy egy rendszer etikus legyen?
Nem. Egy rendszer lehet alaposan dokumentált, mégis nem biztonságos, kényszerítő vagy igazságtalan. Az átláthatóság akkor fontos, ha támogatja a tájékozott választást, a független értékelést, az elszámoltathatóságot és a jogorvoslatot. Kiegészíti az érdemi korlátokat, de nem helyettesíti azokat.
Mindenki számára egyenlő hozzáférést kell biztosítani minden fejlesztéshez?
Nem minden javasolt fejlesztés biztonságos, előnyös vagy társadalmilag kívánatos, és az egészségügyi prioritásoknak figyelembe kell venniük a szükségletet, a bizonyítékokat és az alternatív költséget. A méltányosság nem követel válogatás nélküli elosztást. Tisztességes érvelést, a diszkriminációval szembeni védelmet, érdemi részvételt és különös körültekintést követel, amikor a hozzáférés tartós hatalmi vagy kirekesztési formákat hozhat létre.
Illeszkedhet-e egyetlen globális etikai keretrendszer minden kultúrához?
A megvalósításnak tiszteletben kell tartania a nyelvet, a kontextust és a legitim kulturális különbségeket, miközben az alapvető jogok megvédik az embereket attól, hogy a kényszert vagy a diszkriminációt szokásként igazolják. A globális alapelveknek és a helyi részvételnek kölcsönösen kell formálniuk egymást, nem pedig arra kényszeríteniük, hogy válasszunk közöttük.
Ki a felelős, amikor a rendszert számos szervezet építette?
A felelősség megosztható, de továbbra is egyértelműnek kell lennie. A fejlesztőket, alkalmazókat, szakmai felhasználókat, beszerzőket, vezetőket és szabályozókat eltérő kötelezettségek terhelhetik. A szerződéseknek és az irányítási rendszereknek meg kell határozniuk, ki ellenőriz, reagál, javít, kártalanít, és ki dönt arról, hogy a működés folytatódhat-e.
A fejlődés nagyobbá válik, ha többen alakíthatják.
Egy technológia technikai képessége csak egy része annak, amit elér. A többi a körülötte lévő intézményeken és kapcsolatokon múlik: hogy a kutatás tükrözi-e a valós szükségleteket, hogy a bizonyítékok magukban foglalják-e azokat, akik támaszkodni fognak rá, hogy a hozzáférés gyakorlatban megvalósítható-e, hogy tiszteletben tartják-e a választás szabadságát, és hogy a hibák megtámadhatók és orvosolhatók-e.
Az etika ne díszítse az innovációt, de ne is fagyassza be. Segítsen a társadalomnak irányt tartani: tegye láthatóvá a kockázatokat, szabjon határokat, védje a kisebb hatalommal rendelkezőket, és őrizzen teret a tanulásnak. A bevonás javítja ezt a folyamatot, mert a közösségek olyan tudással járulhatnak hozzá, amellyel a távoli tervezők, befektetők és szabályozók nem feltétlenül rendelkeznek.
Nem az a cél, hogy egy olyan világban éljünk, ahol mindenki ugyanazt a technológiát használja. Olyan világot szeretnénk, amelyben az értékes fejlődés alapértelmezés szerint nem válik kiváltsággá, a kiszolgáltatottságot nem tekintik engedélynek, és az emberek továbbra is részt vesznek az oktatásukat, egészségüket, munkájukat, testüket és jövőjüket megváltoztató döntésekben.
Működik. Értékes problémát old meg. Az emberek elérhetik és használhatják. A vele járó terhek indokoltak és méltányosan oszlanak meg. Az érintettek megőrzik méltóságukat és választási lehetőségüket, valamint érdemi lehetőségük marad a korrekcióra.
Ez a cikk általános oktatási célokat szolgál, és nem minősül jogi, orvosi, szabályozási, befektetési vagy szakpolitikai tanácsadásnak. A követelmények és a bizonyítékok változnak; jelentős következményekkel járó döntésekhez tekintse meg az aktuális hivatalos forrásokat, és kérje képzett szakemberek tanácsát.
Bizonyítékokon alapuló nézőpont és további olvasnivaló
Az átdolgozás az eredeti cikk nem kellően alátámasztott statisztikáit, valamint nem létező vagy tévesen leírt programjait elsődleges intézményi forrásokkal váltja fel.
-
Nemzetközi Távközlési Unió — Tények és számadatok 2025
Globális becslések az internethasználatról, valamint a kapcsolódás, a megfizethetőség és a minőség fennálló hiányosságairól. -
UNESCO — Ajánlás a mesterséges intelligencia etikájáról
Emberi jogokra, méltóságra, méltányosságra, befogadásra, átláthatóságra és emberi felügyeletre épülő globális keretrendszer. -
Európai Bizottság — Szabályozási keretrendszer a mesterséges intelligenciára
Az Európai Unió MI-rendeletének hivatalos áttekintése és az aktuális, szakaszos végrehajtási ütemterv. -
Egészségügyi Világszervezet — Az emberi genom szerkesztése: irányítási keretrendszer
Értékek, alapelvek, intézmények és irányítási eszközök a szomatikus, csíravonalbeli és örökölhető emberi genom szerkesztéséhez. -
Amerikai Élelmiszer- és Gyógyszerügyi Hatóság — Az első sarlósejtes betegség kezelésére jóváhagyott génterápiák
Az FDA 2023. decemberi bejelentése, beleértve az első, CRISPR/Cas9-et alkalmazó, FDA által jóváhagyott kezelést. -
Medicare- és Medicaid-szolgáltatások központjai — Sejt- és génterápiás hozzáférési modell
Aktuális modellrészletek az eredményalapú megállapodásokról és a sarlósejtes génterápiához való hozzáférés támogatásáról. -
Egészségügyi Világszervezet — A mesterséges intelligencia etikája és irányítása az egészségügyben
Útmutatás, amely összekapcsolja az MI-ben rejlő egészségügyi lehetőségeket az etikával, az emberi jogokkal és a nyilvános elszámoltathatósággal. -
Az Egyesült Államok Nemzeti Szabványügyi és Technológiai Intézete — MI-kockázatkezelési keretrendszer
Az MI-kockázatok irányítására, feltérképezésére, mérésére és kezelésére szervezett önkéntes keretrendszer.