Etika kognitivnega izboljšanja
Linas JuozėnasDeli
Etika kognitivnega izboljšanja
Širimo možnosti ljudi. Varujmo njihovo svobodo odločanja.
Želja po učenju, pomnjenju, sporazumevanju in jasnejšem razmišljanju je povsem razumljiva. Boljša orodja lahko odprejo več možnosti za učenje, ustvarjanje, samostojnost in sodelovanje v družbenem življenju. Vendar ni odvisno samo od obljube o izboljšanju sposobnosti, ali naj določen poseg postane del človekovega življenja.
Katera korist je v resnici dokazana? Ali si je človek sam želi? Ali jo lahko zavrne, ne da bi izgubil priložnosti? Kdo nadzoruje zbrane informacije in kdo ostane odgovoren, če gre kaj narobe?
Zaradi teh vprašanj etika postane neločljiv del dobrega načrtovanja in odgovornih odločitev. V tem vodniku jih obravnavamo na podlagi dokazov, praktičnih primerov ter evropskih in mednarodnih okvirov, ki pomagajo varovati ljudi, ko se tehnologije razvijajo.
Vprašajte, kaj želi omogočiti in ali predlagano orodje resnično pomaga doseči ta cilj.
Demonstracija, trditev o izdelku in zanesljiva vsakodnevna korist so različne stvari.
Uporabniki morajo imeti možnost izbire, vendar morajo tudi razvijalci in institucije ostati odgovorni za svoje odločitve.
Kaj imamo v mislih, ko govorimo o kognitivnem izboljšanju?
Kognitivno izboljšanje v širšem smislu zajema prizadevanja za izboljšanje sposobnosti, kot so učenje, pozornost, spomin ali sklepanje. V razpravah se pogosto govori o uporabi zunaj zdravljenja bolezni, vendar meja med zdravljenjem, podporo, obnovo funkcij in izboljšanjem ni vedno jasna.
Komunikacijsko sredstvo lahko človeku pomaga izraziti sposobnosti, ki jih že ima. Učno orodje lahko informacije naredi lažje razumljive in uporabne. Biološki poseg je lahko namenjen spreminjanju samega kognitivnega procesa. Zato je koristneje jasno opredeliti predvideni namen, namesto da bi vsa ta sredstva obravnavali kot enakovredna.
Znani cilji, drugačna odgovornost
Knjige, izobraževanje in zunanja pomagala za spomin že dolgo širijo to, kar lahko ljudje počnejo. Nove metode lahko sprožijo dodatna vprašanja o poseganju v telo, občutljivih informacijah, odvisnosti od ponudnika ali učinkih, ki jih je težko odpraviti.
| Metoda | Kaj je ponujeno? | Glavno etično vprašanje |
|---|---|---|
| Učenje in digitalna pomoč | Vaja, povratne informacije, opomniki, dostopne informacije ali pomoč pri opravljanju naloge. | Ali razvija koristne sposobnosti in ali lahko uporabnik oceni rezultat, ki ga zagotavlja orodje? |
| Biološke intervencije | Snov ali postopek, namenjen spreminjanju telesnega procesa, povezanega s spoznavanjem. | Ali obstajajo prepričljivi dokazi, da je to primerno za ta namen in to osebo ter da je breme sprejemljivo? |
| Nevrotehnologije | Beleženje ali vplivanje na delovanje živčnega sistema, vključno s stimulacijo možganov in vmesniki možgani–računalnik.[1] | Kdo nadzoruje intervencijo, njene nastavitve in informacije, ki jih ustvari? |
| Genetski predlogi | Spreminjanje DNK, ki ima lahko posledice tudi za druge ljudi, ne le za posameznika. | Kaj je mogoče realno predvideti in kdo bo nosil posledice? |
Te kategorije opisujejo metode, ne pa priporočila zanje ali njihove lestvice učinkovitosti. V nadaljevanju vodnika je obravnavano, kako oceniti konkreten predlog v dejanskem kontekstu njegove uporabe.
Kaj se je izboljšalo, pri kom in za koliko časa?
Trditev »izboljšuje kognitivne sposobnosti« lahko skriva več povsem različnih stvari. Hitrejši rezultat v trenirani igri, boljše pomnjenje določenega seznama besed in boljše odločitve v vsakdanjem življenju so različni izidi. Dokazov za en izid ne bi smeli samodejno prenesti na drugega.
Pregled trditev o urjenju možganov iz leta 2016 je ugotovil trdne dokaze, da se izboljša izvajanje treniranih nalog, vendar precej šibkejše dokaze o širšem prenosu sposobnosti. Izdajatelj revije je opisal tudi težave, kot so neustrezne primerjalne skupine in trditve, razširjene onkraj proučevanih skupin ljudi.[2] Ta zgodovinski primer kaže, kako je mogoče preverjati trditev; ni razsodba o vsakem sedanjem ali prihodnjem izdelku.
Zahtevajte smiselno primerjavo
Ali bi bil enak rezultat dosežen že z običajnim vadenjem, pozornostjo učitelja ali uporabo preprostejšega orodja? Ali so bile v raziskavi primerjane podobne izkušnje? Ali so bili izidi izbrani, še preden so bile znane ugotovitve raziskave? Ali so bili objavljeni tudi razočarajoči rezultati?
Koristen opis raziskave navaja udeležence, primerjalne pogoje, trajanje, izmerjene koristi in negotovosti. Pojasnjuje tudi, ali so koristi za ljudi ostale zunaj raziskovalnega okolja.
Ohranite obseg demonstracije
Uspešna laboratorijska demonstracija lahko utemelji nadaljnje raziskave. Vendar sama po sebi ne dokazuje, da že obstaja zanesljiva storitev za potrošnike, dolgotrajno povečanje splošne inteligentnosti ali intervencija, primerna za otroke.
Pošteno navedena negotovost lahko človeku pomaga odločiti se, ali ga možnost zanima. Napihnjene obljube to odločitev otežijo, tudi kadar je sama raziskava dragocena.
Avtonomija, dobrobit, skrb in pravičnost delujejo skupaj
Unescova Splošna deklaracija o bioetiki in človekovih pravicah spoštovanje dostojanstva in avtonomije povezuje s koristjo, zmanjševanjem škode, pravičnostjo in zaščito pred diskriminacijo.[3] Ta načela lahko pomagajo pri razmisleku o ponudbah, vendar ne pomenijo, da bo odgovor v vsakem primeru enak.
Avtonomija
Ali človek razume svojo izbiro in ima zanjo dejansko dovolj prostora? Njegovi cilji in želje bi morali oblikovati to, kar se dogaja.
Korist
Kakšno izboljšanje bi bilo v njegovem življenju dejansko pomembno? Višji rezultat je dragocen le, če pomaga pri doseganju smiselnega cilja.
Preprečevanje škode
Kakšno breme lahko nastane in kako ga zmanjšati? Upoštevajte zdravje, zasebnost, finance in možnost spremembe izbrane smeri.
Pravičnost
Kdo bo lahko imel koristi, kdo bo prevzel tveganje in kaj bi lahko nova pričakovanja potisnila na stran?
Avtonomija vključuje tudi pravico do prizadevanja za boljše možnosti
Človek lahko upravičeno ceni možnost, ki bi jo drugi človek zavrnil. Spoštovanje pomeni sposobnost prisluhniti njegovemu cilju, zagotoviti točne informacije in, kadar je mogoče, ponuditi odgovorne poti za njegovo doseganje.
Prav tako mora ostati možnost izbrati drugačen način življenja. Študent lahko ceni učenje brez nenehnega merjenja rezultatov, zaposleni pa lahko izbere delo, pri katerem poseg v telo ni zahtevan. Ambicije so lahko zelo različne.
Ko so vrednote med seboj v nasprotju, je konflikt vredno jasno poimenovati. Manj invazivna izbira lahko na primer prinese manjšo korist, vendar se bolje ujema s človekovimi prednostnimi nalogami. Drugi človek se lahko med istimi zakonitimi in etično sprejemljivimi možnostmi odloči drugače.
Informirana privolitev je proces razumevanja in izbire
Podpis zabeleži odločitev, vendar sam po sebi ne dokazuje, da je človek vse razumel. Splošno pravilo Oviedske konvencije o intervencijah na področju zdravja zahteva svobodno in informirano privolitev, potem ko je človeku ustrezno pojasnjen namen, posledice in tveganje intervencije. Konvencija določa tudi možnost preklica privolitve.[4]
Pojasnite, kaj je dejansko ponujeno
Človek, ki razmišlja o ponujenem, mora razumeti njegov namen, kaj bo sam doživel, kakšni so dokazi o koristih, kakšno breme se pričakuje, katere pomembne stvari so še vedno neznane, katere so alternative in kakšne praktične posledice bi nastale, če bi se odločil odnehati.
Informacije morajo biti koristne za človeka: jasen jezik, ustrezna komunikacijska podpora, čas za vprašanja in možnost, da se o odločitvi pogovori zasebno. Če človeka prosite, naj s svojimi besedami pojasni ponujeno, lahko opazite, kje je razlaga še nezadostna.
Ločite različne odločitve
Soglasje za uporabo naprave, sodelovanje v raziskavi, deljenje podatkov, na podlagi katerih je mogoče ugotoviti identiteto, in dovoljenje za uporabo fotografije v oglaševanju so različne odločitve. Predstavljene morajo biti tako jasno, da človek razume, kaj je potrebno za pridobitev storitve in kaj je neobvezno.
K pogovoru se vrnite, ko se kaj bistveno spremeni
Nove varnostne informacije, bistveno spremenjen namen ali temeljita sprememba delovanja sistema lahko pomenijo, da je treba odločitev znova obravnavati in po potrebi pridobiti novo privolitev. Pomembne spremembe ne bi smeli skriti v običajnih dokumentih.
Preklic privolitve ne more vedno izničiti že izvedenega postopka ali zakonito varovanih raziskovalnih podatkov. Te omejitve je treba pojasniti vnaprej. Poštena razlaga, kaj pomeni ustaviti postopek, je dragocenejša od obljube, da je mogoče vse vedno v celoti preklicati.
Izbira je lahko pod pritiskom, tudi ko jo imenujemo prostovoljno
Pomislite, kaj se zgodi osebi, ko reče »ne«. Ali bodo trpele njene ocene, plača, možnosti ali odnosi? Ali vodja prejme seznam ljudi, ki so zavrnili? Ali lahko oseba postavlja vprašanja, ne da bi jo označili za nesodelujočo?
Na področju varstva podatkov Evropski odbor za varstvo podatkov opozarja, da odvisnost, ki obstaja v delovnih razmerjih, običajno pomeni, da privolitev ni ustrezna pravna podlaga za obdelavo podatkov zaposlenih. V izjemnih okoliščinah mora biti izbira resnično svobodna in ne sme povzročiti negativnih posledic.[5] Širša etična lekcija je, da ne ocenjujemo le same privolitve, temveč tudi pogoje, v katerih je dana.
Izobraževanje
Priložnost za učenje bi morala biti dostopna, pravila ocenjevanja pa jasna. Študenti morajo imeti možnost izraziti pomisleke, ne da bi tvegali naklonjenost predavatelja ali svoje mesto v programu.
Delo
Vredno je vprašati, ali ponudba služi interesom zaposlenih in ne le produktivnosti. Preden poseg v telo postane pričakovana rešitev, bi bilo treba oceniti delovno obremenitev, število zaposlenih in možnosti za počitek.
Hierarhični poklici
Kjer je razmerje moči močno, postaneta neodvisno svetovanje in nadzor še posebej pomembna. Sodelovanje v raziskavi, poklicne dolžnosti in klinični nadzor bi morali biti jasno ločeni.
Ustvarite resnično alternativo
Institucija lahko ponudi enakovredno drugo možnost, loči odločitve o sodelovanju od ocenjevanja dejavnosti ter vzpostavi zaupen kanal za izražanje težav. Vse to mora delovati tudi v praksi: obljuba o prostovoljnosti pomeni malo, če oseba, ki zavrne, tiho izgubi priložnosti.
Nagrada sama po sebi ni prisila. Nadomestilo za čas, potovanje ali nevšečnosti lahko sodelovanje celo naredi pravičnejše. Pomembno je oceniti, ali skupna ponudba ne zasenči tveganja in ne izkorišča okoliščin osebe.
Otroci in ljudje, ki potrebujejo pomoč pri odločanju, morajo imeti tudi svoj glas
Težave pri sporazumevanju bi morale spodbuditi iskanje načinov, kako pogovor narediti dostopnejši. Ne bi smele samodejno pomeniti predpostavke, da oseba o svojem življenju nima ničesar pomembnega povedati.
Kadar mladoletnik pravno ne more sam privoliti v zdravstveni poseg, Oviedska konvencija določa ustrezno dovoljenje in vse večjo težo otrokovega mnenja z večanjem njegove starosti in zrelosti. Konvencija prav tako zahteva, da se, kolikor je mogoče, vključijo odrasli, ki sami ne morejo dati privolitve.[4]
Vprašajte, čigav cilj se uresničuje
Otrokova želja po lažjem sporazumevanju se lahko razlikuje od želje odraslega, da bi otrok dobil višje ocene ali se vedel mirneje. To razliko je vredno jasno videti. Treba je razmisliti, kako bi poseg lahko vplival na otrokovo vsakodnevno izkušnjo, odnose in prihodnje možnosti.
Pri neobveznem izboljšanju je lahko vprašanje, kaj bi lahko pridobili s čakanjem, prav tako koristno kot vprašanje, kaj lahko pridobimo zdaj. Odgovor je odvisen od konkretnega predloga in njegovih dokazov; kadar človek potrebuje oskrbo, čakanje samo po sebi ni ustrezna rešitev.
Izogibajte se tako izključevanju kot nepotrebnemu tveganju
Varovanje ljudi ne bi smelo pomeniti njihove izključitve iz vseh možnosti izkoriščanja napredka raziskav. Sodelovanje mora imeti utemeljen cilj, ustrezne zaščitne ukrepe in upoštevati odločitve samega človeka. Diagnoza ali invalidnost sama po sebi ne povesta, ali si konkreten človek želi določene tehnologije.
Družinam in strokovnjakom lahko koristi vprašanje: »Kako lahko ta odločitev zaščiti človekove interese in njegovo sodelovanje, ne da bi pozabili tudi na človeka, v katerega se šele razvija?«
Pomembno korist je treba ocenjevati skupaj z njenim bremenom
Tveganje je odvisno od konkretnega posega, načina njegove uporabe in človeka, na katerega bo vplival. Aplikacija za opomnike, zunanja stimulacija in implantiran sistem zahtevajo povsem različne presoje. Pomirjujoči opisi, kot sta »personalizirana« ali »neinvazivna«, ne morejo nadomestiti dokazov.
Glejte širše od glavnega izida
Vprašajte o nelagodju, neželenih učinkih, nadaljnji oskrbi, tehnični podpori in o tem, kakšna pomoč bi bila na voljo, če poseg človeku ne bi več ustrezal. Kadar je učinek nejasen ali ga je težko odpraviti, mora biti ta negotovost eden najpomembnejših delov odločitve.
Upoštevajte tudi čas, potovanja, učenje uporabe sistema, naročnine, pomoč družine in vsakodnevni trud. Tudi tehnično uspešen poseg lahko zahteva več, kot je človek pripravljen sprejeti.
Primerjajte z razpoložljivimi alternativami
Ali bi lahko isto potrebo zadovoljilo preprostejše sredstvo, dostopnejše delovno mesto, drugačen način poučevanja ali ustrezna podpora? Včasih nov poseg prinese nekaj edinstvenega. Včasih je veliko bolj neposredna rešitev sprememba samega okolja.
Pri tej primerjavi je pomembno upoštevati tudi ceno neukrepanja. Za človeka, ki se sooča z veliko omejitvijo, ima lahko ohranjanje trenutnega stanja prav tako resnično ceno.
Upoštevajte sorazmernost
Večja možna korist pod ustreznimi pogoji lahko upraviči raziskovanje bolj zapletenega posega. Vendar navdušenje ne more okrepiti šibkih dokazov, soglasje človeka pa ne odpravlja odgovornosti tistih, ki poseg ponujajo.
Okvir OECD za odgovorne inovacije presojo varnosti povezuje z vključevanjem, nadzorom in varstvom možganskih podatkov.[6] Skupna presoja teh vidikov pomaga preprečiti položaj, v katerem ozek kazalnik delovanja zasenči celotno odločitev.
Zasebnost misli je povezana tako s podatki kot s sklepi, izpeljanimi iz njih
Signali, zabeleženi iz živčnega sistema, so lahko občutljivi. Občutljivi so lahko tudi sklepi, izpeljani iz njih. Tudi napačna ocena človekove pozornosti ali čustvenega stanja lahko škoduje, če jo druga oseba šteje za zanesljivo in verodostojno.
Tehnološke zmožnosti ocenjujte realistično
V raziskavi iz leta 2023 so znanstveniki iz podatkov funkcionalnega magnetnoresonančnega slikanja rekonstruirali določene vidike pomena jezika. Za uspešno dekodiranje je bilo potrebno sodelovanje udeleženca tako med učenjem sistema kot med njegovo uporabo.[7] Šlo je za konkreten raziskovalni sistem, ne za dokaz, da je mogoče neomejeno dostopati do zasebnih misli katerega koli človeka.
Zasebnost lahko jemljemo zelo resno in hkrati natančno opišemo zmožnosti tehnologije. Napovedi je treba predstaviti skupaj z njihovimi omejitvami, zlasti kadar lahko vplivajo na človekove zmožnosti ali ugled.
Razumite, katere informacije zapustijo napravo
Vprašajte, kaj se zbira, kaj se ugotavlja iz teh podatkov, kdo jih prejema, zakaj so potrebni in koliko časa se hranijo. Ločite informacije, ki so nujne za zagotavljanje storitve, od neobvezne uporabe za raziskave ali komercialne namene. Prav tako je vredno oceniti, ali bi bilo mogoče podatke obdelovati z uporabo manj informacij, ki razkrivajo identiteto.
V skladu z GDPR je za obdelavo osebnih podatkov potrebna pravna podlaga in zaščitni ukrepi, kot so omejitev namena, minimizacija podatkov in ustrezna varnost. Zdravstveni in genetski podatki ter biometrični podatki, ki se uporabljajo za enolično ugotavljanje identitete posameznika, spadajo v posebej varovane kategorije iz člena 9. Konkretna presoja zbirke nevronskih podatkov je odvisna od njene vsebine in uporabe.[8]
Samo soglasje ne upravičuje nepotrebne ali nepravične obdelave podatkov, poleg tega je soglasje le ena od več možnih pravnih podlag.[5] Organizacije morajo pojasniti uporabljeno pravno podlago in izpolnjevati z njo povezane obveznosti.
Identiteta in samostojnost sta praktični vprašanji, ne le filozofski uganki
Ena oseba lahko pomoč doživlja kot dobrodošel del izražanja svoje osebnosti. Za drugo je lahko neprijetno orodje, ki spreminja njeno vsakdanje življenje ali način sporazumevanja. Te izkušnje je vredno prisluhniti, ne da bi vsiljevali edino razumevanje tega, kdo je »avtentičen« človek.
Vprašajte, kdo ohranja nadzor
Če sistem predlaga besede ali dejanja, ali jih lahko človek pregleda, zavrne ali popravi? Če se sistem sam prilagaja, ali so njegove pomembne spremembe pojasnjene in ali ima uporabnik ustrezne načine upravljanja? Kaj se zgodi, ko se človek in sistem »ne strinjata«?
Ta vprašanja so še posebej pomembna, kadar se rezultat sistema pripiše samemu uporabniku. Stavka, ki ga predlaga sistem, ne bi smeli samodejno obravnavati kot izraz človekovih prepričanj ali namenov.
Pustite prostor za različne dragocene načine mišljenja
Ljudje lahko različno vrednotijo ustvarjalnost, skrbno premišljevanje, čustveno bogastvo, sporazumevanje ali hitrost. Institucionalno priljubljeno merilo uspešnosti ne bi smelo postati edini sprejemljivi model mišljenja.
Spoštovanje kognitivne raznolikosti ni v nasprotju s tem, da človeku pomagamo spremeniti tisto, kar mu samemu povzroča težave. Pomembni so njegovi lastni cilji. Tako ponudba pomoči kot sprejetje zavrnitve sta lahko izraz spoštovanja.
Govorite o pristnosti, ne da bi jo nadzorovali
Eden od etičnih pomislekov je, da bi lahko izboljšave oddaljile dosežek od truda ali dragocenih izkušenj. Drugo stališče trdi, da so različni pripomočki ljudem vedno pomagali izraziti njihove sposobnosti. Noben argument sam po sebi ne rešuje vsakega primera. Vprašati se je treba, kakšen je namen dejavnosti, kaj drugi ljudje upravičeno pričakujejo in ali se človek sam strinja s spremembo.
Pravičnost vključuje dostopnost, prilagajanje in svobodo zavrnitve
Pripomoček lahko zmanjša oviro za eno osebo, hkrati pa postane drago pričakovanje za vse druge. Etična presoja bi morala obravnavati obe možnosti, namesto da vnaprej predvideva, da inovacije nujno bodisi povečujejo bodisi zmanjšujejo neenakost.
Izračunajte celotne stroške dostopa
Cena je le en del. Oceniti je treba jezik, razumljiva navodila, prevoz, zanesljivo internetno povezavo, popravila in stalno podporo. Storitev, ki je dostopna le v bližini specializiranega centra, je lahko težko dosegljiva človeku iz majhnega slovenskega mesta, tudi če je začetna naprava financirana.
Ustvarjalci lahko predvidijo oddaljeno pomoč, kadar je primerna, lokalna partnerstva, jasno dokumentacijo in financiranje, ki vključuje stroške vzdrževanja. O tem je mogoče razmišljati že zgodaj, ko se storitev šele razvija.
Pravičnost prilagodite naravi dejavnosti
Med izpitom je pravičnost deloma odvisna od tega, kaj naj bi ocenjevanje izmerilo in kateri pripomočki so dovoljeni. Pri vsakdanjem delu lahko koristen pripomoček poveča človekove možnosti sodelovanja, ne da bi škodil namenu same naloge.
Prilagoditve za invalide ne bi smeli lahkomiselno enačiti z goljufanjem. Pravila morajo imeti jasen namen in način upoštevanja različnih potreb.
Spremljajte naraščajoča pričakovanja
Če neobvezno izboljšanje postane nujno za ohranjanje konkurenčnosti ali sploh za to, da človek obdrži delo, samo povečanje dostopnosti ne bo odpravilo pritiska. Institucije bodo morda morale znova ovrednotiti pričakovanja glede uspešnosti in zaščititi smiselne alternative.
Tudi javne naložbe so izbira. Predlog dragega izboljšanja bi bilo treba oceniti skupaj z naložbami v izobraževanje, dostopna okolja in potrebno oskrbo ter navesti razloge, ki bi jih lahko preučile prizadete skupnosti.
Genetsko izboljšanje odpira vprašanja, ki presegajo meje posamezne odločitve
Inteligenca je kompleksna lastnost, ki jo oblikujejo genetski in okoljski dejavniki. »MedlinePlus Genetics« opisuje prispevek številnih genov skupaj z možnostmi učenja, zdravjem in drugimi razvojnimi pogoji.[9] Povezava med določeno gensko različico in izmerjeno lastnostjo sama po sebi ne kaže, s kakšno gensko spremembo bi bilo mogoče varno izboljšati prihodnje človeške zmožnosti.
Razlikujte med spremembami človeških celic in dednimi spremembami
Somatski posegi so povezani s celicami zdravljene osebe. Dedne spremembe lahko vplivajo tudi na njene potomce. Delo SZO na področju urejanja genoma iz leta 2021 te razlike obravnava s priporočili o nadzoru, registrih, mednarodnem sodelovanju in sodelovanju javnosti.[10]
Starši sprejemajo odločitve, vendar njihove odločitve niso neomejene
Otroci ne morejo dati privolitve za številne odločitve, ki oblikujejo njihovo zgodnje življenje. Vendar samo to dejstvo ne odgovori na vprašanje, katere odločitve so sprejemljive. Pomembno je oceniti verjetne koristi, negotovost, alternative, reverzibilnost in to, v kolikšni meri odločitev omejuje otrokove prihodnje možnosti.
Kadar se morebitne posledice lahko prenašajo skozi generacije, individualna privolitev staršev ne more odgovoriti na vsa družbena vprašanja. Obstajajo interesi zunaj kroga najbližje družine in negotovosti, ki jih ne more odpraviti nobena oblika privolitve.
Pravo vedno povezujte z njegovo jurisdikcijo
Za države, za katere velja Oviedska konvencija, njen 13. člen omejuje posege v genom na preventivne, diagnostične ali terapevtske namene in ne dovoljuje prizadevanj za spreminjanje genoma potomcev.[11] To je konkretna pogodbena določba, ne opis zakona, ki bi veljal enako po vsem svetu.
Etično razmišljanje o prihodnosti lahko obravnava prihodnje možnosti, ne da bi špekulativno izboljšanje inteligence predstavljalo kot že obstoječo klinično storitev.
Evropsko pravo in mednarodne smernice imajo različne vloge
Ni enotnega pravila, ki bi zajemalo vse, kar imenujemo kognitivno izboljšanje. Uporabni sistem je odvisen od izdelka, njegovega namena, okolja, podatkov in jurisdikcije. Litva je Oviedsko konvencijo ratificirala leta 2002, zanjo pa je začela veljati leta 2003.[12]
Spodnja preglednica navaja izbrana pravila in področja njihove uporabe. Gre za orientacijski pregled, ne za celovito pravno presojo konkretnega izdelka ali storitve.
| Sistem | Status in ključno področje | Pomembna meja |
|---|---|---|
| Oviedska konvencija | Države pogodbenice obvezuje pogodba, ki zajema človekove pravice v biomedicini, privolitev in genetske posege.[4] | To je pogodba Sveta Evrope; sodelovanje v njej ni isto kot članstvo v Evropski uniji. |
| Splošna uredba EU o varstvu podatkov | Obvezna pravila za obdelavo osebnih podatkov, ki spadajo na področje uporabe uredbe, vključno z dodatnimi pogoji za posebne kategorije podatkov.[8] | Pravna podlaga za obdelavo podatkov sama po sebi ne daje pravice do poseganja v človeško telo. |
| Uredba EU o medicinskih pripomočkih | Ureja medicinske pripomočke in nekatere izdelke, ki niso namenjeni medicinski uporabi. V Prilogo XVI je vključena posebna oprema za stimulacijo možganov.[13] | Področje uporabe, predvideni namen in razvrstitev je treba oceniti konkretno; »nevrotehnologija« ni enoten razred naprav. |
| Akt EU o umetni inteligenci | Točka (f) odstavka 1 člena 5 prepoveduje določene načine uporabe umetne inteligence za ugotavljanje čustev na delovnih mestih in v izobraževalnih ustanovah, razen za medicinske ali varnostne namene.[14] | To ni splošna prepoved vseh načinov fiziološkega spremljanja. Pomembna sta konkretni sistem in namen njegove uporabe. |
| Priporočilo Unesca o nevrotehnologiji iz leta 2025 | Mednarodne smernice o pravicah, avtonomiji, zasebnosti misli in odgovornem razvoju, sprejete 11. novembra 2025.[1] | Samo priporočilo ni neposredno izvršljiv, po vsem svetu veljaven zakon o proizvodih. |
| Priporočilo OECD o odgovornih inovacijah | Okvir za vlade in razvijalce, ki zajema varnost, vključevanje, nadzor, podatke in dialog z javnostjo.[6] | Praktično izvajanje in izvršljive obveznosti so odvisni od konkretnih institucij in veljavnih zakonov. |
Standardi lahko oblikujejo prakso, ne da bi bili zakoni
Izjave o raziskavah, poklicni kodeksi in mednarodna priporočila lahko vplivajo na etično presojo, financiranje in politike institucij. Vendar se njihova pravna veljava in mehanizmi izvrševanja razlikujejo od zakonov.
Sodelovanje je pomembno tudi med državami
Raziskave, storitve in podatki lahko prečkajo državne meje. Odgovorni ponudniki storitev morajo upoštevati zadevne države in veljavne sporazume. Prenos storitve v drugo državo sam po sebi ne reši vprašanj glede dokazov, privolitve ali odgovornosti za nadaljnji nadzor.
Tukaj navedene pravne določbe so bile preverjene 5. septembra 2026. Poznejše spremembe, nacionalne zahteve in podrobnosti konkretne uporabe lahko spremenijo oceno.
Dobro upravljanje pomaga graditi zaupanje v dragocen napredek
Koristen pristop združuje zgodnje učenje z zaščitnimi ukrepi, sorazmernimi posledicam. Pri projektiranju z majhnim tveganjem je mogoče uporabnike vključiti že v zgodnjih fazah. Vendar so za poseganje v telo ali pomembno uporabo osebnih podatkov ustrezne znanstvene, etične in pravne podlage potrebne, še preden se ljudje soočijo z morebitnimi posledicami.
Prizadetim osebam omogočite dejanski vpliv
Potencialne uporabnike vprašajte, kaj bi jim pomenilo resnično korist, kaj bi jim otežilo sodelovanje in kakšno podporo bi potrebovali. Vključite tudi ljudi, ki bi tehnologijo morda zavrnili; njihovi pomisleki lahko razkrijejo težave pri oblikovanju, ki jih navdušenje spregleda.
Zagotovite odgovornost pri raziskavah
Helsinška deklaracija iz leta 2024 poziva k zagotavljanju neodvisne etične presoje, pregledni registraciji raziskav in objavi rezultatov, zaščiti udeležencev ter načrtovanju ustreznega dostopa po raziskavi. Prav tako jasno določa, da soglasje udeleženca odgovornosti raziskovalcev za zaščito udeleženca ne prenese na samega udeleženca.[15]
Za znanstveno svobodo je koristen sistem, ki ustvarja zanesljive dokaze. Objavljanje negativnih rezultatov in razkrivanje nasprotij interesov pomagata drugim razumeti, kaj določen rezultat v resnici dokazuje.
Načrtujte običajne okvare in konec podpore
Kdo bo poskrbel za popravila, spremembe programske opreme, ukinitev izdelka ali zaprtje organizacije? Kaj bi oseba potrebovala za prehod na drugo storitev? Če je sistem implantiran, kakšna klinična pomoč in katere možnosti bi ostale?
O teh vprašanjih je treba razpravljati pri načrtovanju, nakupu in izvajanju raziskav. Dolgoročna obljuba zahteva jasno določene odgovornosti in realna sredstva.
Ohranite možnost pregleda odločitve
Določite jasne pogoje, kdaj se bodo koristi ponovno ocenile, težave raziskale ter program spremenil ali končal. Dobro upravljanje lahko koristni tehnologiji omogoči razvoj, hkrati pa odzivanje na to, kar ljudje dejansko doživljajo.
Privlačno ponudbo spremenite v odločitev, na vprašanja katere je mogoče odgovoriti
Spodaj predstavljeni scenariji so izmišljeni primeri. Prikazujejo, kako lahko spremenjeni cilj, razmerje moči ali raven podpore spremeni etično presojo, tudi če se uporablja ista tehnologija.
Storitev za pomoč pri učenju
Fakulteta ponudi neobvezen program in natančno navede, katere veščine razvija. Študenti lahko izberejo enakovredno alternativo, udeležba pa ne vpliva na ocene.
Vprašanja glede dokazov, dostopnosti in podatkov ostajajo, vendar prava alternativa okrepi podlago za prostovoljno izbiro.
Nosljiva naprava na delovnem mestu
Vodja predlaga napravo za izboljšanje zbranosti, pridobi individualne rezultate zaposlenih in začne udeležbo upoštevati pri odločanju o napredovanjih.
Najprej bi bilo treba ponovno oceniti sam sistem: preveriti trditve, odpraviti pritiske, oceniti zakonito uporabo podatkov in zaposlene vključiti v odločanje.
Eksperimentalni vmesnik
Raziskovalna skupina pojasnjuje, da koristi niso jasne, in obljublja stalno tehnično podporo, vendar ne more odgovoriti, kaj se bo zgodilo po koncu financiranja.
Manjkajoči načrt podpore je bistveni del same ponudbe. Preden lahko oseba ustrezno oceni zavezo, je treba na to vprašanje konkretno odgovoriti.
Pet korakov do jasnejšega pogovora
-
Opredelite cilj osebe same.
Opišite praktično sposobnost ali zmožnost, ki jo želi doseči. Vprašajte, kdo je predlagal ta cilj in ali se oseba sama z njim strinja.
-
Preverite dokaze in alternative.
Ugotovite, kaj je dejansko dokazano, za katere ljudi in pod kakšnimi pogoji ter kaj je še vedno nejasno. Primerjajte z drugimi načini za zadovoljevanje iste potrebe.
-
Ocenite svobodo izbire.
Upoštevajte razmerje moči, plačilo, zasebnost in posledice odstopa. Zagotovite razumljivo razlago in možnost neodvisnega svetovanja.
-
Ocenite celotno zavezo.
Vključite podatke, stroške, breme, nadaljnjo podporo, nadzor, morebitne spremembe in prekinitev. Jasno navedite, kdo je odgovoren za vsak pomemben del.
-
Zapišite razloge za odločitev in pogoje za ponovno presojo.
Odločitev je lahko nadaljevati po ustrezni poti, spremeniti predlog, poiskati več dokazov ali odstopiti. Navedite, kaj bi lahko v prihodnosti upravičilo ponovno presojo odločitve.
Cilj je odločitev, ki jo prizadeti ljudje lahko razumejo in izpodbijajo. Skrben proces bi moral njihove izbire pojasniti.
Odgovori na ponavljajoča se etična vprašanja
Ali je kognitivno izboljšanje samo po sebi neetično?
Ni enega odgovora, primernega za vsako intervencijo. Oceniti je treba njen namen, dokaze, breme, prostovoljnost in vpliv na druge. Orodje lahko razširi človekove zmožnosti, hkrati pa zahteva jasne meje in odgovornost.
Ali podpisan obrazec za privolitev naredi intervencijo etično?
Ne. Pomembna sta razumevanje in svobodna izbira, privolitev pa ne odpravi dolžnosti glede dokazov, varnosti, zasebnosti ali pravičnega ravnanja. Nekateri predlogi lahko ostanejo nesprejemljivi ali celo nezakoniti, tudi če človek vanje privoli.
Ali lahko človek svobodno izbere tveganje?
V ustreznih okoliščinah lahko informirana odrasla oseba sprejme tveganje, ki bi ga drugi zavrnili. Spoštovanje takšne odločitve je treba uskladiti z zaščitnimi ukrepi, veljavnim pravom in odgovornostjo ljudi, ki intervencijo ponujajo.
Ali »neinvazivno« pomeni »neškodljivo«?
Ne. Ta izraz opisuje način izvedbe intervencije. Še vedno je treba oceniti njen učinek, primernost, dokaze in morebitno drugo breme. Pomembni so tudi zasebnost in finančne posledice.
Ali lahko možganske tehnologije preberejo misli kogar koli?
Tako široke trditve raziskava, obravnavana tukaj, ne utemeljuje. V raziskavi dekodiranja govora iz leta 2023 je bil uporabljen konkreten sistem fMRI, sodelovanje udeležencev pa je bilo potrebno.[7] Trditve drugih sistemov je treba ocenjevati na podlagi njihovih lastnih dokazov.
Ali se vsi nevronski podatki v skladu z GDPR samodejno štejejo za zdravstvene podatke?
Njihova razvrstitev je odvisna od tega, kaj podatki razkrivajo in kako se uporabljajo. Osebni nevronski podatki lahko odpirajo vprašanja v zvezi z 9. členom, vendar sama oznaka »nevronski« ne reši vsake pravne presoje.[8]
Ali lahko delodajalec nadzor naredi sprejemljiv zgolj tako, da ga označi kot neobveznega?
Pomembne so dejanske posledice zavrnitve. Neravnovesje moči v delovnih razmerjih v številnih primerih otežuje uporabo privolitve kot ustrezne pravne podlage.[5] Samo ime ne more nadomestiti ustreznega dogovora in presoje na podlagi veljavnega prava.
Ali je uporaba pripomočka za pomoč enaka goljufanju?
Ne. To je odvisno od namena dejavnosti in pravil. Prilagoditev za invalidnost, vsakodnevno delovno orodje in nedovoljena pomoč med izpitom zahtevajo različne presoje. Jasna in pravična pravila vsem pomagajo razumeti pričakovanja.
Ali Unescovo priporočilo ustvarja globalno prepoved?
Ne. Zagotavlja mednarodne etične smernice. Izvršljive zahteve izhajajo iz ustreznih pravnih sistemov in njihovega izvajanja. Razlika med smernicami in zavezujočim pravom je pojasnjena v 12. poglavju.
Kaj bi moralo ostati najpomembnejše, ko se tehnologija spreminja?
Človekovi lastni cilji, pošteni dokazi, smiselna izbira in odgovorna pomoč. Nove možnosti so lahko dragocene, hkrati pa ljudje ohranjajo svobodo, da jih preizprašujejo, pomagajo pri njihovem oblikovanju ali izberejo drugo pot.
Viri, pravne omejitve in omejitve primerov
Viri preverjeni 5. septembra 2026. V celotnem članku so ločeni znanstveni sklepi, etični argumenti in pravne zahteve. Primer izvirne raziskave ponazarja konkretno možnost v konkretnih raziskanih okoliščinah. Etični scenariji in vprašanja odločanja so praktične ponazoritve tega vodnika.
V pravnem delu so navedene izbrane določbe, ne vsa možna pravila. Pomembni so udeležba v pogodbah, razvrstitev izdelka, nacionalno pravo in konkreten način uporabe. Akt o umetni inteligenci in Uredbo o medicinskih pripomočkih je treba preveriti v spodaj navedenih konsolidiranih besedilih; uradni pravni akti Evropske unije ostajajo avtoritativna pravna besedila.
- UNESCO. Priporočilo o etiki nevrotehnologije. Sprejeto 11. novembra 2025. Mednarodno etično priporočilo, ki zajema celoten življenjski cikel tehnologije. Gre za normativni okvir, ne za globalni zakon o izdelkih, ki bi se neposredno izvrševal. Nazaj na besedilo ↑
- Association for Psychological Science. Te trditve o urjenju možganov niso podprte z znanostjo, kaže poročilo. Povzetek pregleda Simonsa in sodelavcev, ki ga je predložil založnik, 3. oktober 2016. Opisuje pregled »Ali programi za urjenje možganov delujejo?«. Tu je uporabljen kot zgodovinski primer vprašanj o prenosu sposobnosti in raziskovalni metodologiji, ne kot trenutna ocena vseh izdelkov. Nazaj na besedilo ↑
- UNESCO. Visuotinė deklaracija dėl bioetikos ir žmogaus teisių. Priimta 2005 m. spalio 19 d. Etinė sistema, apimanti orumą, autonomiją, naudą, žalos mažinimą, teisingumą ir diskriminaciją. Straipsnio pavyzdžiai šias idėjas taiko praktiškai; jie nėra citatos ar teisinės išvados. Grįžti į tekstą ↑
- Europos Taryba. Konvencija dėl žmogaus teisių ir biomedicinos (Oviedo konvencija). ETS Nr. 164, 1997 m. balandžio 4 d. Sutarties tekstas. 5–6 straipsniai reglamentuoja sutikimą ir dalyvavimą, o 13 straipsnis – genomo keitimą. Sutarties šalims jos taikymo srityje kyla privalomos pareigos. Grįžti į tekstą ↑
- Europos duomenų apsaugos valdyba. Gairės 05/2020 dėl sutikimo pagal Reglamentą 2016/679. Priimta 2020 m. gegužės 4 d.; 1.1 versija. Oficialus BDAR aiškinimas, apimantis galios disbalansą darbo santykiuose ir tikro pasirinkimo reikalavimą. Sutikimas tvarkyti duomenis ir sutikimas su intervencija yra skirtingi dalykai. Grįžti į tekstą ↑
- Ekonominio bendradarbiavimo ir plėtros organizacija. Neurotechnologija. Politikos apžvalga ir atsakingų inovacijų ištekliai. Paaiškinamas OECD požiūris ir pateikiama nuoroda į 2019 m. rekomendaciją. Aptariamas saugumas, teisės, įtrauktis, duomenų apsauga, visuomenės dialogas ir tarptautinis bendradarbiavimas. Grįžti į tekstą ↑
- Tang J, LeBel A, Jain S ir Huth AG. Nuolatinės kalbos semantinė rekonstrukcija iš neinvazinių smegenų įrašų. Nature Neuroscience, 2023; 26:858–866. Originalus eksperimentinis tyrimas naudojant fMRT. Dalyvio bendradarbiavimas buvo būtinas ir dekoderiui apmokyti, ir jam naudoti. Rezultatas neįrodo nevaržomos galimybės skaityti žmonių mintis. Grįžti į tekstą ↑
- Evropski parlament in Svet Evropske unije. Splošna uredba o varstvu podatkov — Uredba (EU) 2016/679. 27. april 2016; preverjene so bile izbrane določbe. Členi 4–9 in povezane določbe se uporabljajo pri obravnavi osebnih podatkov, načel njihove obdelave, pravnih podlag in posebnih kategorij podatkov. Posamezen nabor podatkov je kljub temu treba oceniti ločeno. Nazaj na besedilo ↑
- MedlinePlus Genetics, Nacionalna medicinska knjižnica ZDA. Ali je inteligenca določena z genetiko?. Posodobljeno 1. avgusta 2023. Znanstveni pregled vpliva genetskih in okoljskih dejavnikov, namenjen širši javnosti. Povezava s kompleksno lastnostjo sama po sebi ne dokazuje, da obstaja varen izboljševalni poseg. Nazaj na besedilo ↑
- Svetovna zdravstvena organizacija. WHO izdaja nova priporočila o urejanju človeškega genoma za izboljšanje javnega zdravja. 12. julij 2021 Uradni pregled sistema upravljanja in priporočil SZO. Razlikuje se med somatskim urejanjem, urejanjem zarodnih celic in dednim urejanjem; mednarodna priporočila ne ustvarjajo enotnega nacionalnega prava v vseh državah. Nazaj na besedilo ↑
- Svet Evrope. Tehnologije urejanja genoma: končne ugotovitve ponovne preučitve 13. člena Oviedske konvencije. 10. oktober 2022 Uradna razlaga ciljev posegov v genom, ki jih pogodba dovoljuje, in prepovedi prizadevanja za spremembo genoma potomcev. Nazaj na besedilo ↑
- Zbirka pogodb Organizacije združenih narodov. Konvencija o človekovih pravicah in biomedicini: registracija pogodbe in sodelovanje. Register pogodbenic. Navedeno je, da je Litva konvencijo ratificirala 17. oktobra 2002, za Litvo pa je začela veljati 1. februarja 2003. Ta vir se uporablja za utemeljitev aktualnosti konvencije v Litvi. Nazaj na besedilo ↑
- European Parliament and Council of the European Union. Uredba o medicinskih pripomočkih - Uredba (EU) 2017/745. Konsolidirano besedilo z dne 19. julija 2026. Preverjene so bile izbrane določbe o področju uporabe in razvrstitvi ter točka 6 Priloge XVI. Konkretne izdelke je treba oceniti ločeno; konsolidirana besedila so dokumentacijska orodja, povezana z avtoritativnimi pravnimi akti. Nazaj na besedilo ↑
- European Parliament and Council of the European Union. Akt o umetni inteligenci - Uredba (EU) 2024/1689. Konsolidirano besedilo z dne 27. julija 2026. Točka f prvega odstavka 5. člena ureja ugotavljanje čustev v delovnih in izobraževalnih okoljih ter določa izjeme za medicinske ali varnostne namene. Ta prepoved se uporablja od 2. februarja 2025. Nazaj na besedilo ↑
- World Medical Association. Helsinška deklaracija: etična načela za medicinske raziskave, ki vključujejo ljudi. Pregledano 19. oktobra 2024. Strokovna deklaracija o etiki medicinskih raziskav. Ustrezne določbe vključujejo neodvisno presojo, privolitev, objavo rezultatov, odgovornost in dogovore po koncu raziskave; sama deklaracija ni neposredno veljaven zakon po vsem svetu. Nazaj na besedilo ↑