Etička, pravna i društvena razmatranja
Linas JuozėnasPodijeli
Oslobođena inteligencija · Etika, pravo i društvo
Razvijajte ljudske sposobnosti.
Upravljanje prepustite čovjeku.
Kognitivno unapređenje može pomoći ljudima da uče, rasuđuju, komuniciraju, oporavljaju se, stvaraju i doprinose. Njegov cilj bi trebao biti veća ljudska autonomija - a ne obavezna optimizacija, privatno vlasništvo nad neuralnim podacima, napuhana obećanja ili moć upravljanja umom druge osobe.
- Inteligencija je važna Bolje učenje, rasuđivanje, pamćenje i kvalitet odluka mogu poboljšati živote i proširiti ono što čovječanstvo može razumjeti i stvoriti.
- „Moguće“ ne znači „dokazano“ Kliničko liječenje, potrošački proizvodi, istraživački prototipi i spekulativne budućnosti ne smiju se predstavljati kao da imaju isti nivo dokaza ili isti pravni status.
- Psihička sloboda - na prvom mjestu UNESCO-ov globalni etički okvir za neurotehnologije iz 2025. godine u središte stavlja dostojanstvo, autonomiju, mentalnu privatnost i ljudska prava.1
Suštinska ideja
Unapređenje je vrijedno kada obogaćuje život
Razvoj inteligencije nije sitnica. Sposobnost da se više razumije, brže uči, rješavaju složeniji problemi, odupre manipulaciji, mudrije bira i stvara originalan rad može promijeniti jedan život - a ponekad i mnoge druge.
Upravo zato kognitivni razvoj zaslužuje ozbiljna istraživanja, obrazovanje, ulaganja, zaštitu i slavljenje. Iz istog razloga standardi moraju biti strogi. Proizvod koji nakratko mijenja rezultat testa, ali šteti zdravlju, sužava ličnost, stvara zavisnost, prikuplja intimne podatke ili čini rad zavisnim od poslušnosti, ne može se nedvosmisleno nazvati napretkom.
01 · Definišite projekat
Šta se smatra kognitivnim poboljšanjem?
„Poboljšanje“ nije jedna tehnologija niti jedna moralna kategorija. Obuhvata raspon od uobičajenih uslova za učenje do intervencija koje mogu trajno promijeniti tijelo ili buduće generacije.
Prije rasprave o tome da li je poboljšanje ispravno ili pogrešno, najprije definišite cilj: koju sposobnost, kojim mehanizmom, za koju osobu, u kakvom okruženju, koliko dugo i u poređenju s kojom alternativom nastojite promijeniti?
Uobičajena razlika između liječenja i poboljšanja korisna je, ali nedovoljna. Obnavljanje govora pomoću interfejsa mozak–računar istovremeno može biti liječenje, pomoć u komunikaciji i nova sposobnost čovjeka i mašine. Ispravljanje teškog nedostatka sna može poboljšati kognitivne funkcije više nego eksperimentalni uređaj. Isti alat za jednu osobu može biti terapijski, za drugu dobrovoljno poboljšanje, a u trećem okruženju sredstvo prisilnog nadzora.
Koja se sposobnost mijenja?
Pažnja nije pamćenje; brzina obrade informacija nije mudrost; laboratorijski zadatak nije cjelokupna inteligencija. Sposobnost navedite precizno.
Kome i gdje?
Prosječan učinak može sakriti različit odgovor u zavisnosti od dobi, zdravlja, početnog nivoa sposobnosti, invaliditeta, lijekova, sna ili zahtjeva zadatka.
Šta se još mijenja?
Pitajte o raspoloženju, snu, kreativnosti, kvalitetu odluka, ovisnosti, privatnosti, fizičkoj sigurnosti, oportunitetnim troškovima i ishodu nakon prestanka djelovanja.
Cilj nije populacija koja na naredbu brže izvršava jedan zadatak. Cilj su ljudi s većom sposobnošću da razumiju, biraju, izmišljaju, grade odnose i sami usmjeravaju svoj život.
02 · Sposobnosti, trud, doprinos
Zašto inteligencija zaslužuje zaštitu i poštovanje
Kognitivne sposobnosti nisu igračka ni statusni dodatak. One mogu odražavati biologiju, razvoj, obrazovanje, cjeloživotnu praksu, discipliniranu pažnju, zdravlje, prilike i neprekidan rad na učenju.
Osoba s izuzetnim rasuđivanjem, pamćenjem, maštom, uvidom ili stečenom ekspertizom može uočavati mogućnosti, rješavati probleme ili usmjeravati druge na načine koje je nemoguće jednostavno oponašati kupovinom alata, čitanjem sažetka ili okupljanjem većeg broja ljudi.
Alati mogu umnožiti ljudsku misao, ali ne brišu značaj mislioca koji može razumjeti koje je pitanje važno, otkriti pogrešnu pretpostavku, povezati udaljene ideje, predvidjeti posljedice ili tokom decenija razvijati kvalitet donošenja odluka. Kada se takav um ošteti zbog bolesti koju je moguće izbjeći, hroničnog stresa, nasilja, opojnih supstanci, zagađenja, nedostatka sna, izolacije ili prisilnog prilagođavanja, gubitak je i lični i društveni. Zato je zaštita kognitivnog zdravlja, tišine, samostalnosti, obrazovanja i smislenog rada opravdan javni prioritet.
Viši validan rezultat na testu inteligencije može imati veliki značaj. U područjima sposobnosti koja kvalitetan test zaista mjeri, viši rezultat je dokaz boljeg učinka - a ne dekorativna etiketa. U područjima u kojima su presudni brzo učenje, apstrakcija, složeno rasuđivanje ili integracija brojnih varijabli, takva sposobnost može učiniti nečije prisustvo i doprinos izuzetno važnim. Takve sposobnosti mogu odražavati naslijeđeni potencijal, dugogodišnje obrazovanje, cjeloživotno disciplinirano učenje ili kombinaciju svih tih faktora. Zaslužuju priznanje, zaštitu, zahtjevne prilike i poštovanje. Jedan rezultat ne garantuje mudrost ni moralno rasuđivanje, ali ni strah od hijerarhije ne bi trebalo koristiti za negiranje stvarnih kognitivnih razlika ili brisanje vrijednosti izuzetnog uma.
Slavite razvijene i izuzetne umove
Priznajte zahtjevna intelektualna postignuća. Darovitim ljudima pružite vrijeme, resurse, sigurnost, nezavisnost i ozbiljne prilike. Savjetujte se sa stručnjacima. Zaštitite znanje. Neobičnim idejama pružite dovoljno vremena da se mogu provjeriti. Omogućite ljudima da uče i doprinose tokom cijelog života.
Zaštitite uslove u kojima se razvija originalnost
Nekim ljudima izabrana samoća omogućava da se pojavi originalna misao, jer više nisu ometeni grupom. Kasnije drugi ljudi postaju neophodni za kritiku, saradnju, sprovođenje, komunikaciju, podršku, širenje i proslavu. Zdrav sistem štiti obje slobode: vrijeme nasamo i topao povratak.
Priznavanje razlika nije dozvola da se bilo ko ostavi po strani
Kognitivni profili i doprinosi razlikuju se, ponekad veoma mnogo. Priznati to poštenije je nego pretvarati se da su svi isti. Međutim, osnovna prava, zaštita od nasilja, zdravstvena zaštita, obrazovanje i pravna subjektivnost ne zavise od IQ rezultata, produktivnosti ili sposobnosti da se drugi zadive. Civilizovano društvo može poštovati izuzetan intelekt, a da drugu osobu ne smatra nepotrebnom.
Zato je etičko pitanje šire od „Da li bi trebalo dozvoliti kognitivno poboljšanje?“. Ono glasi i: da li već sada sputavamo ljudski potencijal lošim obrazovanjem, bolestima koje se mogu izbjeći, opojnim okruženjem, strahom, prinudom ili uništavanjem pažnje? Najsigurniji i najšire prihvatljiv kognitivni napredak može početi zaštitom uslova za mozak i učenje, prije dodavanja invazivnih tehnologija.
03 · Tvrdnjama su potrebni nivoi
Dokazi prije oduševljenja
Saopćenje za javnost, mehanistička teorija, mala studija, regulatorna dozvola i dokazani dugoročni učinak različite su vrste dokaza.
Prva zaštita od pomame jeste precizno navođenje statusa tvrdnje. „Istraživači su u strogo kontrolisanim uslovima dekodirali pokušaj govora“ ne znači da slušalice mogu čitati nesputane privatne misli. „Uređaj se ispituje“ ne znači da je dozvoljena njegova prodaja. „FDA ga je autorizovala za jednu kliničku indikaciju“ ne znači da je dokazana korist za inteligenciju zdravih ljudi.
| Nivo | Šta postoji | Šta omogućava dokazati | Šta još ne omogućava dokazati |
|---|---|---|---|
| Koncept | Teorija, simulacija, rezultat na životinjama ili laboratorijski mehanizam. | Razlog za nastavak istraživanja. | Tvrdnju o koristi za čovjeka ili prihvatljivom riziku. |
| Rano istraživanje na ljudima | Izvodljivost ili signal u maloj i odabranoj grupi. | Da li je opravdano provesti veće i bolje kontrolisano istraživanje. | Ukupne djelotvornosti, dugotrajnosti, rijetkih šteta ili širokog pristupa. |
| Kontrolisani dokazi | Ponovljeno poređenje s placebom, lažnom intervencijom ili uobičajenom njegom, uz korištenje relevantnih ishoda. | Pouzdaniju procjenu učinka za ispitivane grupe i uslove. | Automatski prenos na druge sposobnosti, populacije, doze ili okruženja. |
| Regulatorna autorizacija | Regulatorna institucija dozvoljava definisani proizvod za definisanu namjenu. | Trgovinu u toj jurisdikciji i za tu indikaciju, uz pridržavanje utvrđenih uslova. | Dokaza za sve oglašavane koristi, nultog rizika ili dozvole za primjenu izvan odobrene indikacije u svrhu „poboljšanja“. |
| Vrijednost u stvarnom svijetu | Korist, šteta, jednostavnost upotrebe, pristup i održivost prate se izvan okvira istraživanja. | Da li intervencija u velikom obimu stvarno poboljšava život ljudi. | Konačni zaključci za sva vremena; uređaji, softver, korisnici i okolnosti se mijenjaju. |
- Je li ishod bila svakodnevna sposobnost ili samo uzak pokazatelj testa?
- Je li poređenje bilo zaslijepljeno, s lažnom kontrolom i dovoljnom statističkom snagom?
- Jesu li mjerene šteta, odustajanja, san, raspoloženje i kasniji učinak?
- Koliko je bilo poboljšanje - a ne samo da li je bilo „statistički značajno“?
- Da li je učinak nezavisno ponovljen i zadržao se nakon završetka obuke ili stimulacije?
- Da li je proizvod korišten tačno onako kako je odobreno ili je tvrdnja proširena interpretacija?
Marketing često spaja različite glagole
Mjeri, predviđa, korelira, pomaže, obnavlja, liječi, poboljšava, jača i transformira nisu međusobno zamjenjivi pojmovi. Kompanija bi trebala jasno reći koji od njih potkrepljuju njeni dokazi. Korisnici i regulatori trebali bi sumnjati u svaki skok od „mijenja moždanu aktivnost“ do „čini vas pametnijim“.
04 · Pristanak mora ostati stvaran
Pristanak je trajni odnos
Odgovoran pristanak mora biti informiran, konkretan, razumljiv, dobrovoljan, podložan preispitivanju, dostupan i zasnovan na stvarnim mogućnostima odbijanja ili odustajanja.
Međunarodni bioetički principi ljudsko dostojanstvo, autonomiju, pristanak, korist i štetu, pravednost, privatnost i nediskriminaciju smatraju središtem biomedicinskih odluka.2 Izdanje Helsinške deklaracije Svjetskog medicinskog udruženja iz 2024. godine također smatra slobodno dat informirani pristanak i dodatnu zaštitu ljudi u ranjivim situacijama ključnim dijelom etike medicinskih istraživanja.3 Potpis dokazuje da je obrazac potpisan; sam po sebi ne dokazuje da su ti uslovi zaista postojali.
Razumijevanje
Objasnite predviđenu namjenu, alternative, neizvjesnost, očekivanu korist, važne rizike, tokove podataka, zavisnost od uređaja, održavanje i šta će se dogoditi nakon prestanka podrške.
Dobrovoljnost
Odbijanje ne smije prikriveno koštati posla, ocjene, zdravstvene zaštite, osiguranja, slobode, statusa u vojsci ili pristupa nepovezanoj usluzi.
Detaljnost
Pristanak na liječenje nije pristanak na svaku ponovnu upotrebu podataka, obuku modela, marketinšku svrhu, prodaju trećim stranama ili buduću funkcionalnost softvera.
Obnavljanje i odustajanje
Ponovo razgovarajte o pristanku kada se promijene rizici, mogućnosti, vlasništvo, korištenje podataka, algoritmi ili okolnosti osobe. Odustajanje i sigurno uklanjanje implantata moraju biti stvarno mogući.
Sposobnost donošenja odluke zavisi od konkretne odluke - to nije etiketa za cijelu osobu
Čovjeku može biti potrebna pomoć u razumijevanju složenog implantata, a istovremeno može izvrsno rješavati mnoga druga životna pitanja. Dobra praksa koristi jasan jezik, prevođenje, komunikacijska pomagala, dodatno vrijeme, pouzdanu pomoć po izboru same osobe i provjerava razumijevanje. Ne miješa invaliditet, neuobičajenu komunikaciju, uznemirenost, dob ili neslaganje s nesposobnošću.
Djeci i budućim generacijama potrebna je snažnija zaštita
Djeca mogu učestvovati u donošenju odluka u skladu sa svojim razvojnim sposobnostima, ali odrasli i dalje imaju obavezu da štite njihovu otvorenu budućnost. Što je intervencija nepovratnija, neizvjesnija, više mijenja identitet i manje medicinski neophodna, to je slabiji argument da se izvede prije nego što osoba može sama odlučivati. Nasljedno uređivanje genoma stvara dodatni problem: budući ljudi, na koje se učinak prenosi kroz generacije, uopće ne mogu dati pristanak.
Test odbijanja
Pitajte šta se dešava nakon riječi „ne“. Ako radnik izgubi smjene, student pristup, pacijent uobičajenu zdravstvenu zaštitu ili učesnik ne može ukloniti implantat bez nepriuštive operacije, formalni izbor možda zapravo nije dobrovoljan.
05 · Jedna etiketa, različite stvarnosti
Svaku tehnologiju procijenite u njenom stvarnom kontekstu
Lijekovi, suplementi, stimulacija, neurofeedback i sučelja mozak–računar razlikuju se po mehanizmu, nivou zrelosti, reverzibilnosti, nadzoru i riziku. Ne mogu se razmatrati kao jedno međusobno zamjenjivo „ažuriranje mozga“.
| Metoda | Gdje je korist potvrđena | Šta se često preuveličava | Najvažnija zaštita |
|---|---|---|---|
| Stimulansi na recept | Pravilno propisani stimulansi mogu biti važan tretman stanja kao što su ADHD ili narkolepsija. | Korist u liječenju dijagnosticiranog stanja ne dokazuje sigurno i dugoročno opće povećanje inteligencije kod zdrave osobe. FDA zahtijeva istaknuta upozorenja o zloupotrebi, ovisnosti, predoziranju i dijeljenju lijekova.4 | Individualna dijagnoza, nadzor nad propisivanjem lijekova, procjena interakcija, praćenje, sigurno čuvanje i nikakav pritisak da se lijekovi uzimaju radi pogodnosti ustanove. |
| Suplementi i „nootropici“ | Korekcija stvarnog nutritivnog nedostatka može zaštititi kognitivne funkcije; dokazi zavise od sastojka, doze, osobe i ishoda. | Riječ „prirodno“, mehanističko objašnjenje, recenzija kupca ili etiketa suplementa ne dokazuju djelotvornost ni odsustvo interakcija. U SAD-u suplementi prije prodaje ne podliježu odobrenju FDA-e na isti način kao lijekovi.5 | Nezavisno testiranje, istinite tvrdnje, transparentnost sastojaka i doza, evidentiranje neželjenih efekata te provjera interakcija lijekova i suplemenata. |
| TMS | U SAD-u su konkretni uređaji i protokoli dobili odobrenje za stavljanje u promet za određene kliničke indikacije, uključujući veliku depresiju i opsesivno-kompulzivni poremećaj.6 | To ne odobrava svaku zavojnicu, protokol, kliničku tvrdnju ili upotrebu kao općeg pojačivača inteligencije. TMS je neinvazivna, ali su i dalje važni kriteriji odabira, zaštita sluha, disciplina doziranja i nadzor obučenog osoblja. | Navedite konkretan uređaj, indikaciju, protokol, operatera, dokaze, kontraindikacije, očekivanu korist i priznate neželjene efekte. |
| tDCS i drugi oblici tES-a niskog intenziteta | Ove metode su vrijedna istraživačka sredstva, a neke kliničke primjene se i dalje istražuju. | To nije trenutni „prekidač za koncentraciju“. Sigurnost kontrolisanih ispitivanja zavisi od protokola, mjesta postavljanja elektroda, opreme, odabira učesnika i nadzora; neizvjesnost u vezi s čestom samostalnom upotrebom i dugoročnim učincima veća je.7 | Nemojte improvizovati dozu niti mjesto postavljanja elektroda. Razlikujte nadzirani kućni protokol sa zaključanim parametrima od nekontrolisanog, samostalno napravljenog uređaja. |
| Neurofeedback | On u stvarnom vremenu pruža povratne informacije na osnovu izmjerenih signala kako bi osoba mogla vježbati mijenjanje svog odgovora. Neki protokoli djeluju obećavajuće za odabrane simptome. | To je porodica metoda, a ne jedan standardni tretman. Pregled AHRQ-a iz 2024. utvrdio je slabe dokaze da se rezultati simptoma ADHD-a poboljšavaju u poređenju s pasivnim kontrolnim grupama; podaci o drugim ishodima bili su manje povoljni ili nejasni, a poređenja sa simuliranom kontrolom ostala su neizvjesna. Registracija uređaja ne dokazuje da svaki program liječi ADHD ili anksioznost niti povećava IQ.8 | Navedite signal, protokol, populaciju, kontrolni uslov, funkcionalni ishod, trajnost, kvalifikacije stručnjaka i ukupni trošak. |
| Interfejsi mozak-računar | U malim i strogo strukturiranim ispitivanjima BCI je nekim osobama s paralizom ili teškim komunikacijskim poremećajem omogućio ograničenu komunikaciju ili upravljanje uređajima. | Oni ne čitaju nesputane misli niti omogućavaju telepatiju. Konačne smjernice FDA-e iz 2021. sadrže preporuke za pretklinička ispitivanja i izvedivost istraživanja te ključna ispitivanja implantabilnih BCI sistema kod pacijenata s paralizom ili amputacijom; to nije odobrenje potrošačkog proizvoda niti odobrenje za stavljanje u promet.9 | Dugoročna podrška, popravke, sigurna ažuriranja, kontrola podataka, realističan plan uklanjanja implantata, plan za slučaj propasti kompanije i rezultati odabrani zajedno s osobama s invaliditetom. |
Napredak BCI-ja je stvaran - i uži nego što se navodi u naslovima
U procjeni tehnologije koju je 2024. proveo Ured za vladinu odgovornost SAD-a navodi se da su implantirani BCI sistemi u kliničkim ispitivanjima omogućili komunikacijske funkcije i funkcije upravljanja, uz isticanje problema povezanih s operacijom, trajnošću uređaja, sajber sigurnošću, dugoročnom podrškom, pristupom i upravljanjem.10 U martu 2026. kineski regulator medicinskih proizvoda objavio je odobrenje za stavljanje u promet implantabilnog BCI sistema s usko definisanom indikacijom za kompenzaciju pokreta ruke.11 Ova faza ne znači da su dekodiranje govora u istraživačkoj fazi, potrošačke slušalice ili kognitivno poboljšanje postali ista klasa proizvoda.
IDE ili odobrenje za provođenje ispitivanja
Kliničko ispitivanje može se provoditi uz poštivanje utvrđenih zaštitnih mjera. To nije dozvola za opću prodaju i ne dokazuje da je korist već utvrđena.
Status probojnog uređaja
FDA može omogućiti intenzivniju komunikaciju s razvijačem kako bi ubrzala razvoj i reviziju. Takav status nije dozvola za stavljanje u promet niti odobrenje.
Odobrena namjena
Odobrenje 510(k), De Novo autorizacija ili odobrenje odnosi se na konkretan uređaj i konkretnu predviđenu namjenu. To nije potvrda za svaku tvrdnju koja se iznosi izvan odobrene indikacije.
Kibernetička sigurnost dio je sigurnosti tijela
Ranjivost softvera povezanog implantata ili sistema za stimulaciju može postati klinički rizik. Sigurna arhitektura, autentifikovani pristup, kontrolisana ažuriranja, mehanizam za otkrivanje ranjivosti, odgovor na incidente, siguran rad van mreže i plan prestanka podrške moraju biti osmišljeni unaprijed. Aktuelne FDA smjernice za kibernetičku sigurnost prije stavljanja uređaja na tržište takve obaveze tretiraju kao dio cjelokupnog životnog ciklusa medicinskog uređaja.12
06 · Nasljednost nije meni s postavkama
CRISPR, embrioni i granice „uređivanja IQ-a“
Somatsko uređivanje gena već stvara stvarne metode liječenja. Nasljedno uređivanje složenih kognitivnih osobina sasvim je drugačiji naučni, klinički i moralni problem.
CRISPR treba opisivati prema onome što je stvarno postignuto. U decembru 2023. FDA je odobrila Casgevy - prvu terapiju koju je odobrila FDA, a koja koristi uređivanje genoma CRISPR/Cas9. Ona uređuje matične ćelije pacijentove vlastite krvi za liječenje srpastih ćelija; ne uređuje embrione, ne prenosi promjenu na potomke i ne povećava inteligenciju.13
Uređuju se ćelije jednog pacijenta
Promjene su namijenjene liječenju te osobe i ne stvaraju se tako da budu nasljedne. Rizici i dalje mogu biti ozbiljni, ali intervencija namjerno ne mijenja buduću porodičnu liniju.
Istražuju se jajne ćelije, spermatozoidi ili embrioni
Laboratorijska istraživanja mogu proučavati rani razvoj ili metode uređivanja prema strogim pravnim i etičkim pravilima. Odobrenje istraživanja nije odobrenje za započinjanje trudnoće.
Stvara se promjena koju potomci mogu naslijediti
Prenos uređenog embriona stvara nepovratne posljedice za buduće dijete, naredne generacije, porodice i ljudski genski fond.
Zašto inteligencija trenutno nije cilj uređivanja
Inteligencija je složena, poligenska porodica osobina koju oblikuju brojni genetički varijanti, razvoj i okruženje. „Poligenski“ znači da na razlike u karakteristikama utiču mnogi geni. Jedna velika studija na nivou genoma utvrdila je 205 povezanih lokusa, ali su poligenski skorovi u nezavisnim uzorcima objasnili najviše 5,2 % varijanse inteligencije.14 Ova granica predviđanja ne znači da biologija nije važna; ona znači da statističke povezanosti ne pružaju siguran skup uzročnih „prekidača“ za stvaranje željenog kognitivnog ishoda. Jedna varijanta može uticati na više osobina; efekat može zavisiti od drugih varijanti i okruženja; populacijska predviđanja mogu se loše prenositi između grupa različitog porijekla; a uređivanje embriona može izazvati nepredviđene promjene na predviđenom mjestu, izvan cilja, mozaične ili hromosomske promjene.15
Poligensko procjenjivanje embriona i uređivanje genoma embriona takođe nisu isto. Rezultat procjenjuje relativne vjerovatnoće na osnovu naslijeđenih varijanti među dostupnim embrionima; ne dodaje osobinu, ne garantuje ishod i ne dokazuje da bi uređivanje bilo sigurno. Do datuma dokaza korištenih u ovom članku nije postojala klinički validirana metoda CRISPR-a na embrionima za povećanje IQ-a, a priznate međunarodne smjernice nisu podržavale reproduktivnu upotrebu za kognitivno poboljšanje.15
| Pitanje | Šta je neophodno znati | Trenutna poteškoća | Etička posljedica |
|---|---|---|---|
| Valjanost cilja | Uređena sekvenca pouzdano izaziva željeni ishod. | Kognitivne osobine obuhvataju mnoge male, međusobno povezane veze zavisne od konteksta. | Pogrešno odabrana meta bila bi nasljedna, a da ne bi pružila obećanu korist. |
| Tehnička preciznost | Svaka predviđena ćelija uređena je bez štetnih promjena na predviđenom mjestu ili izvan cilja. | U istraživanju embriona i dalje su relevantni mozaicizam, velike delecije, hromosomske promjene i nenamjerni učinci. | Buduće dijete preuzima rizik stvoren zbog spekulativne koristi. |
| Pleiotropija | Promjena ne oštećuje druge osobine ili razvojne puteve. | Jedan gen ili varijanta mogu uticati na više bioloških ishoda. | „Poboljšanje“ u jednoj dimenziji može stvoriti nevidljive gubitke drugdje. |
| Predviđanje | Uticaj opstaje kroz različite genetske pozadine, živote i okruženja. | Populacijsko predviđanje ne određuje ishod pojedinca. | Roditeljima se može prodavati sigurnost koju nauka nema. |
| Upravljanje | Zakon, nadzor, naknadno praćenje, odgovornost i međunarodna koordinacija djeluju. | Pravila se razlikuju prema jurisdikciji, a prekogranične aktivnosti otežavaju provedbu. | Djeca i potomci ne mogu odustati od prvobitne odluke. |
Međunarodna komisija koju su 2020. godine osnovale Nacionalne akademije SAD-a i Kraljevsko društvo zaključila je da nasljedno uređivanje ljudskog genoma još nije spremno za kliničku upotrebu; čak je i hipotetički prvi put bio ograničen na strogo definisane teške monogenske bolesti, a ne na poligensko poboljšanje.15 Okvir upravljanja SZO-a iz 2021. godine obuhvata somatsko, uređivanje zametne linije i nasljedno uređivanje kroz registre, koordinaciju, uključivanje javnosti te mjere protiv nesigurnog ili neetičnog rada.16 Ovo su smjernice - ne globalna licenca niti krivični zakonik koji važi širom svijeta.
Ne postoji globalna dozvola - niti jedna jednostavna globalna zabrana
Mnoge jurisdikcije zabranjuju ili ograničavaju kliničko nasljedno uređivanje genoma, ali se definicije, istraživački izuzeci, sankcije i provedba razlikuju. SZO je pozvala regulatore i etičke institucije da ne dopuštaju kliničko uređivanje genoma zametne linije, trenutno ga nazivajući neodgovornim.17 Ovaj stav ne treba preoblikovati u obavezni zakon u svakoj zemlji niti u zabranu svih laboratorijskih istraživanja.
07 · Moć mijenja značenje „izbora“
Kada optimizacija postane naredba
Formalno dobrovoljna intervencija može praktično postati obavezna kada poslodavac, škola, vojska, osiguravatelj, klinika, roditelji ili država kontrolišu posljedice odbijanja.
Najdublji rizik nije u tome što će neki ljudi slobodno težiti većim sposobnostima. Rizik je u tome što će institucije definirati jedan poželjan kognitivni stil, neprestano ga mjeriti i učiniti sigurnost, prihode, obrazovanje ili pripadnost zavisnima od biološke poslušnosti.
Zaposlenost
Bonus za produktivnost, pravilo napredovanja ili program „dobrobiti“ mogu odbijanje pretvoriti u kaznu za karijeru. Uz individualni pristanak važni su kolektivno pregovaranje i učešće zaposlenih.
Obrazovanje
Djeca i studenti ne bi trebali biti kažnjavani zbog odbijanja neurotehnologija, profilirani na osnovu spekulativnih procjena mentalnog stanja ili gurani prema jednoj „ispravnoj“ normi pažnje.
Vojska i sigurnost
Moć komandnog lanca, tajnost, dvostruka namjena, dugotrajno praćenje i nadzor nakon službe čine dobrovoljnost i odgovornost posebno složenima.
Zatvori i institucije
Ponuda biološke intervencije u zamjenu za puštanje na slobodu, privilegije ili uobičajenu njegu stvara izuzetno visok rizik od prisile, posebno tamo gdje je nezavisno zastupanje slabo.
U preporuci UNESCO-a iz 2025. navodi se da neurotehnologije koje se koriste na radnom mjestu moraju biti zaista dobrovoljne, a odbijanje ne bi smjelo imati negativne posljedice. Također se poziva na strogo ograničavanje upotrebe u obrazovanju, uključujući zabranu akademskog kažnjavanja zbog odbijanja ili korištenja sistema za procjenu rezultata. Zdravim osobama mlađim od 18 godina preporučuje se izbjegavanje neterapijske optimizacije.1
Autonomija obuhvata i slobodu da se postane sposobniji
Argument u korist unapređenja zasnovan na autonomiji zaslužuje poštovanje: odrasli mogu imati ozbiljne razloge da poboljšaju pažnju, komunikaciju, pamćenje ili druge sposobnosti. Međutim, to je uslovna sloboda, a ne opće pravo na bilo koji proizvod. Sigurnost, dokazi, zakon, uticaj na druge i pravedan pristup i dalje su važni. Najvažnije je da sloboda unapređenja mora imati jednako snažno zaštićen ekvivalent: slobodu da se ne unapređuje.
Ne prisiljavajte ni na jedan put prilagođavanja
Netečno je prisiljavati ljude da promijene mišljenje radi pogodnosti institucije. Jednako je neispravno sputavati koristan kognitivni razvoj samo zato što majstorstvo čini razlike vidljivijima. Zaštitite više pravaca: liječenje, učenje, unapređenje, odabrano nekorištenje, šutnju, saradnju, identitet invaliditeta i izuzetnu ambiciju.
Dvostruka namjena prati podatke i moć – ne samo hardver
Sistem osmišljen za komunikaciju ili rehabilitaciju kasnije se može koristiti za nadzor na radnom mjestu, procjenjivanje bez pristanka, diskriminaciju u osiguranju, vojnu optimizaciju, ispitivanje, oglašavanje ili uticaj na ponašanje. OECD-ova preporuka o odgovornim inovacijama u neurotehnologiji poziva vlade i programere da od samog početka uključe sigurnost, inkluziju, javno razmatranje, zaštitu moždanih podataka, odgovorno upravljanje i praćenje zloupotrebe.18
08 · Intimnije od lozinke
Neuronski podaci, zaključci i mentalna privatnost
Neuronski signal automatski nije misao. Međutim, signali zajedno sa zadacima, kontekstom, podacima o ponašanju i mašinskim učenjem mogu omogućiti izvođenje osjetljivih zaključaka – a mogućnosti se mogu poboljšati već nakon što su podaci prikupljeni.
Etički problem nije samo ono što sistem danas može izvesti. Važno je šta pohranjeni podaci mogu otkriti sutra, ko ih može povezati s drugim zapisima i može li osoba osporiti zaključak koji utiče na posao, osiguranje, obrazovanje, zdravstvenu zaštitu, kredit ili slobodu.
Sirovi i obrađeni podaci
EEG krivulje, zapisi implantata, dnevnici stimulacije, dijagnostika uređaja, signali očišćeni od artefakata i obilježja izdvojena softverom.
Šta model odlučuje
Pažnju, namjeru, umor, emociju, zdravstveno stanje, identitet, sklonost ili predviđeno ponašanje – često vjerovatnosno i zavisno od konteksta.
Šta se dešava dalje
Sugestija, prilagođavanje, medicinska odluka, oglašavanje, ocjena, uskraćivanje usluge, postupanje na radnom mjestu ili automatizovani odgovor uređaja.
Prema Općoj uredbi EU-a o zaštiti podataka, neuronski podaci nisu zasebna kategorija navedena u zakonu. Ako se odnose na identifikovanu ili odredivu osobu, oni su lični podaci. Zaštita posebnih kategorija iz člana 9. GDPR-a primjenjuje se na njih samo kada je ispunjena odgovarajuća pravna definicija – naprimjer, kada se radi o podacima o zdravlju, genetskim podacima ili biometrijskim podacima koji se obrađuju u svrhu jedinstvene identifikacije.19 UNESCO-ov okvir za neurotehnologiju, kao smjernice za javne politike, ide dalje i preporučuje snažnu zaštitu neuronskih podataka i zaključaka o mentalnom stanju, uključujući ograničenje svrhe, smanjenje količine podataka, sigurnost i smislena prava na kontrolu.
| Faza | Minimalno pitanje | Odgovorna zaštita | Znak upozorenja |
|---|---|---|---|
| Prikupljanje | Koji su signali i kontekstualni podaci zaista neophodni? | Smanjenje količine podataka, lokalna obrada kad god je to moguće, jasna svrha, pristupačan aktivni pristanak i neneuronske alternative. | „Prikupimo sve sada, a kasnije ćemo odlučiti šta to znači.“ |
| Izvođenje | Šta model izvodi, s kolikom greškom i za koju populaciju? | Validacija, prikazivanje neizvjesnosti, testiranje pristrasnosti, ljudska provjera, mogućnost osporavanja i ograničenja za korištenje od velike važnosti. | Vjerovatnosni rezultat predstavlja se kao direktan pristup umu. |
| Dijeljenje | Ko dobija podatke, karakteristike ili izvedene profile? | Ugovori ograničeni svrhom, bez skrivene prodaje, bez nepovezanog oglašavanja, dnevnici pristupa i zasebna saglasnost za sekundarna istraživanja. | „Anonimizirani“ podaci široko se dijele bez procjene rizika ponovne identifikacije. |
| Čuvanje | Koliko dugo se čuvaju sirovi podaci i izvedeni modeli? | Kratko zadano razdoblje čuvanja, rasporedi brisanja, pristup i ispravke, pravila upravljanja modelima i plan nakon smrti osobe. | Kompanija obećava brisanje, ali neograničeno čuva vektorske reprezentacije, sigurnosne kopije ili obučene profile. |
| Sigurnost | Može li povreda sistema uticati na privatnost, rad uređaja ili fizičku sigurnost? | Šifriranje, autentifikacija, segmentirani sistemi, sigurna ažuriranja, odgovor na incidente, kanali za obavještavanje i siguran režim rada u slučaju kvara. | Podrška ili sigurnosna ažuriranja prestaju iako implantat ostaje u tijelu osobe. |
U Sjedinjenim Američkim Državama sistem privatnosti podijeljen je po sektorima
U Sjedinjenim Američkim Državama HIPAA pravilo o privatnosti štiti zaštićene zdravstvene informacije koje posjeduju ili prenose obuhvaćeni zdravstveni subjekti i njihovi poslovni partneri; ono automatski ne obuhvata sve informacije povezane sa zdravljem niti svaku kompaniju za potrošački wellness ili neurotehnologiju. HHS pruža alat programerima za utvrđivanje toga mogu li se primjenjivati HIPAA, FTC Act, FTC pravilo o obavještavanju o povredama zdravstvenih podataka, propisi o medicinskim uređajima ili druga savezna pravila.20 Izmijenjeno FTC pravilo o obavještavanju o povredama zdravstvenih podataka primjenjuje se na kvalificirane pružaoce ličnih zdravstvenih zapisa i povezane subjekte izvan okvira HIPAA-e te zahtijeva obavještavanje nakon odgovarajuće povrede, uključujući neovlašteno pribavljanje nezaštićenih, identifikabilnih zdravstvenih informacija iz PHR-a.21
Državno pravo se također razvija. Godine 2024. Kolorado je izmijenio svoj zakon o privatnosti kako bi obuhvatio biološke podatke, uključujući neuronske podatke, dok je Kalifornija izmijenila zakon o privatnosti potrošača i uvrstila neuronske podatke u kategoriju osjetljivih ličnih podataka.2223 Ovo su važne promjene, ali ne znače da Sjedinjene Američke Države sada imaju jedan sveobuhvatan nacionalni kodeks neuroprivatnosti.
Pet prava koja vrijedi učiniti praktičnim
Ljudi bi trebali moći znati šta se prikuplja i izvodi; birati između načina korištenja koji zaista nisu obavezni; pregledati i ispravljati podatke i značajne zaključke; prenijeti ili izbrisati informacije kada je to moguće; te dobiti ljudsku provjeru, otklanjanje štete i nastavak sigurne brige ako sistem otkaže.
09 · Pravedan pristup bez obavezne istovjetnosti
Izgradite temelj sposobnosti - i ostavite prostor za izvrsnost
Jednakost se ne postiže zabranom tehnologije koja svima može koristiti. Ona se postiže sprečavanjem da bogatstvo, geografija, invaliditet, jezik, rasa, spol ili institucionalna moć određuju ko dobija korist, a ko snosi rizik.
Prva obaveza jednakosti jeste prestati rasipati ljudski potencijal koji već postoji. Mnogi ljudi još uvijek nemaju kvalitetno obrazovanje, dijagnostiku, pomoć za sluh i vid, rehabilitaciju, pomoćne tehnologije, digitalni pristup, čistu okolinu, dovoljno sna, ishranu, sigurnost ili slobodu od supstanci i stanja koja oštećuju kognitivne funkcije.
U globalnom izvještaju SZO-a i UNICEF-a o pomoćnim tehnologijama utvrđeni su veliki nedostaci u pristupu, a odgovarajuća pomoćna sredstva, usluge, obučeni stručnjaci i politike definirani su kao neophodni za učešće i uključivanje.24 Društvo koje raspravlja o vrhunskom neuronskom unapređenju dok ljudi ne mogu dobiti slušni aparat, komunikacijsko pomagalo ili liječenje zasnovano na dokazima još nije riješilo osnovni problem raspodjele resursa.
Garantujte temelj
- Liječenje i rehabilitaciju zasnovane na dokazima
- Dostupno obrazovanje i cjeloživotno učenje
- Senzornu i komunikacijsku podršku
- Čist zrak, ishranu, san, kretanje i prevenciju povreda mozga
- Pristupačne validirane pomoćne tehnologije
- Zaštitu od prisile, diskriminacije, zavisnosti i toksičnog izlaganja
Omogućite ambiciozan rast
- Napredno obrazovanje i istraživačke mogućnosti
- Podršku talentima, stručnosti i neuobičajenim kognitivnim profilima
- Vrijeme i zaštićen prostor za originalni rad
- Alate za učenje koje korisnik može kontrolirati
- Puteve ka mentorstvu, saradnji, objavljivanju i javnom doprinosu
- Priznavanje i proslavljanje izvanrednih postignuća
Pitajte ko je zastupljen i u dokazima i u procesu dizajna
Sistem obučen ili testiran na uskoj populaciji može različito funkcionirati u različitim tijelima, mozgovima, jezicima, svojstvima kože ili kose te u kontekstu invaliditeta, dobi, kulturnih praksi i kliničkih stanja. Isključivanje iz istraživanja stvara neizvjesnost; uključivanje bez davanja stvarne moći može samo preraspodijeliti rizik. Odgovorni programi nagrađuju partnere iz zajednice, čine materijale dostupnim, objavljuju rezultate po podgrupama i omogućavaju ljudima na koje tehnologija utiče da utiču na ishode i pravila zaustavljanja.
Naknade i nabavka
Javno finansiranje može dati prednost validiranom liječenju i pomoćnim koristima, pregovarati o cijenama, zahtijevati dostupnost i spriječiti da uređaj postane neupotrebljiv nakon prekida pretplate ili podrške.
Pravedan povrat od javnih istraživanja
Uslovi finansiranja mogu obuhvatati licenciranje, pristupačnost, upravljanje podacima, lokalne kapacitete i pristup populacijama čiji su podaci ili učešće pomogli u razvoju tehnologije.
Raspodjela, ne samo prosjek
Objavite ko dobija intervenciju, ko čeka, ko odustaje, ko trpi štetu i ko ostvaruje smislenu funkciju – a ne samo prosječan rezultat.
Pravednost bi trebala podići osnovni nivo kognitivnog zdravlja i mogućnosti. Ne bi trebala snižavati gornju granicu čovjekovog učenja, originalnosti ili majstorstva.
10 · Ne postoji jedan zakon o neurotehnologijama
Pratite svrhu, proizvod, podatke i okruženje
Na jednu intervenciju istovremeno se mogu primjenjivati propisi o medicinskim uređajima, lijekovima, istraživanju, privatnosti, umjetnoj inteligenciji, radu, invaliditetu, obrazovanju, zaštiti potrošača, kibernetičkoj sigurnosti i odgovornosti za proizvod.
Regulatorna tijela rijetko tretiraju „kognitivno poboljšanje“ kao jednu kategoriju. Pravna odgovornost zavisi od toga šta proizvođač tvrdi, kako proizvod djeluje, ko ga koristi, da li je medicinski, koje podatke obrađuje, gdje se prodaje i kakva šteta ili odluke mogu proizaći.
Čemu je to namijenjeno?
Dijagnostika, liječenje, rehabilitacija, komunikacija, dobrobit, zabava, obrazovanje, produktivnost ili istraživanje mogu aktivirati različita pravila.
Šta se isporučuje?
Lijek, implantat, stimulator, softverska funkcija, laboratorijska usluga, genetski test, nosivi uređaj ili istraživački postupak podliježu različitim procedurama.
Šta se prikuplja ili izvodi?
Zdravstveni, genetski, biometrijski, neuronski, bihevioralni, radni, obrazovni i podaci o lokaciji mogu se preklapati.
Ko kontroliše odbijanje?
Izbor korisnika razlikuje se od zahtjeva poslodavca, škole, ljekara, osiguravatelja, roditelja, zatvora ili vojne komande.
| Nivo | Šta to pruža | Šta to ne znači | Praktično pitanje |
|---|---|---|---|
| Globalne preporuke | UNESCO-va Preporuka o etici neurotehnologija iz 2025. godine i Preporuka OECD-a iz 2019. godine pružaju standarde zasnovane na pravima i odgovornosti za pristanak, sigurnost, podatke, inkluziju, upravljanje i sprečavanje zloupotrebe.118 | To su utjecajni standardi javnih politika, a ne globalni regulator, odobrenje proizvoda ili ugovor koji se direktno provodi u svakoj zemlji. | Da li je vlada ili organizacija pretvorila principe u obavezna pravila, uslove nabavke, nadzor i mehanizme naknade štete? |
| Bioetika Vijeća Evrope | Slobodan i informirani pristanak, privatnost zdravstvenih informacija i ograničenja genomskih intervencija namijenjenih mijenjanju genoma potomstva ugovorne su obaveze država članica Oviedske konvencije.25 | Konvencija nije obavezujuća za svaku državu, a aktuelne rasprave o jasnije definisanim „neuropravima“ ne bi trebalo predstavljati kao da je već uspostavljeno novo univerzalno pravo. | Da li je država stranka konvencije i kako su njeni principi provedeni u nacionalnom pravu? |
| Medicinski proizvodi Evropske unije | Uredba o medicinskim proizvodima reguliše kvalifikovane medicinske proizvode prema predviđenoj namjeni i klasi rizika.26 Pravila EU-a takođe obuhvataju određenu nemedicinsku opremu koja kroz lobanju primjenjuje električna ili magnetna polja radi mijenjanja aktivnosti neurona.27 | MDR sam po sebi adaptivni AI ne naziva „visokorizičnim AI-jem“, a CE oznaka ne potvrđuje upotrebu izvan procijenjene namjene. | Da li je proizvod medicinski proizvod, nemedicinski proizvod iz Priloga XVI ili ne pripada tim kategorijama - i koji se put usklađenosti primjenjuje? |
| Umjetna inteligencija Evropske unije | Akt o AI-ju smatra određeni AI visokorizičnim kada je sigurnosna komponenta proizvoda obuhvaćenog propisima o sigurnosti proizvoda iz Priloga I ili sam takav proizvod i kada je za njega potrebna procjena usklađenosti treće strane. Zabranjuje određene manipulativne postupke i kategorizaciju osjetljivih svojstava na osnovu biometrijskih podataka te, u pravilu, zabranjuje prepoznavanje emocija na radnim mjestima i u obrazovnim ustanovama, osim u medicinskom ili sigurnosnom izuzeću.28 | Nije svaki algoritam u aplikaciji za dobrobit visokorizičan. Nakon 2026. godine, pravila za visokorizične upotrebe iz Priloga III AI Omnibusa primjenjuju se od 2. decembra 2027. godine, a na visokorizične sisteme ugrađene u proizvode regulisane Prilogom I od 2. augusta 2028. godine; za druge obaveze važe drugi datumi.29 | Koja funkcija AI-ja, kategorija rizika, izuzeće, obaveza dobavljača ili implementatora i datum primjene su relevantni? |
| Sjedinjene Američke Države | Nadzor FDA-e zavisi od predviđene namjene i klasifikacije proizvoda; na istraživanja s ljudima primjenjuju se posebna pravila; HIPAA obuhvata definisane odnose u zdravstvenoj zaštiti; FTC i pravo saveznih država mogu obuhvatati podatke potrošača i obmanjujuće tvrdnje. | Riječi „wellness“, „registered“, „listed“, „breakthrough“ ili „sold online“ nisu isto što i kognitivna korist koju je odobrila FDA. To što nešto nije obuhvaćeno HIPAA-om takođe ne znači da se ne primjenjuje nijedan zakon. | Koja institucija, savezna država, tvrdnja o proizvodu, odnos u zdravstvenoj zaštiti i praksa postupanja s podacima su relevantni? |
| Etika istraživanja | Etički pregled, informisani pristanak, registracija istraživanja, praćenje podataka i sigurnosti, naučna valjanost, pravedan odabir učesnika i obaveze nakon istraživanja štite učesnike. | Odobrenje etičkog odbora ne dokazuje da eksperimentalna intervencija djeluje ili da će kasnije biti odobrena za prodaju na tržištu. | Da li je istraživanje registrovano, nezavisno pregledano, naučno sposobno odgovoriti na svoje pitanje i pripremljeno za dugoročnu podršku? |
Nedostatke u regulativi opišite precizno
Proizvod možda ne potpada pod jedan sistem, ali može potpasti pod drugi. Funkcija za dobrobit niskog rizika možda nije medicinski uređaj, ali obmanjujuće tvrdnje, nesiguran hardver, neotkriveno dijeljenje podataka, diskriminacija ili povreda podataka i dalje mogu dovesti do odgovornosti. Obrnuto - medicinski odobren implantat i dalje može otvoriti neriješena pitanja u vezi s korištenjem na poslu, vlasništvom nad podacima, ažuriranjima softvera, propadanjem kompanije, pristupom i podrškom nakon završetka istraživanja.
Pravni status nije univerzalno svojstvo tehnologije
Uvijek navedite jurisdikciju, datum, uređaj, verziju, predviđenu namjenu, grupu korisnika i tvrdnju. „TMS odobren“, „moždani podaci zaštićeni“ ili „uređivanje zametnih ćelija zabranjeno“ preširoke su tvrdnje za stvarnu odluku.
11 · Društvo odlučuje šta znači „bolje“
Kultura, identitet, invaliditet i povjerenje u društvo
Rasprave o unapređenju nikada nisu samo o tehničkom ishodu. One izražavaju uvjerenja o normalnosti, zaslugama, zavisnosti, izvrsnosti, invaliditetu, roditeljstvu, starenju, konkurenciji i društvu u kojem ljudi žele živjeti.
Tehnologija jednoj osobi može djelovati oslobađajuće, a drugoj kao pritisak da se prilagodi normi. Obnavljanje izgubljene sposobnosti, sticanje nove sposobnosti i poruka da bi sadašnji način postojanja neke osobe trebalo da nestane moralno su različita iskustva - čak i kada je hardver isti.
Identitet i kontinuitet
Može li intervencija promijeniti raspoloženje, autonomiju, doživljaj sebe, odnose ili osjećaj da su čovjekovi postupci zaista njegovi? Ove ishode treba istražiti, a ne pretpostaviti.
Trud i postignuća
Alat automatski ne briše disciplinu ili autorstvo; sva postignuća već sada zavise od biologije, kulture, nastavnika, alata i prilika. Međutim, skrivena ili obavezna prednost i dalje može učiniti konkurenciju nepravednom.
Različiti vrijedni umovi
Podrška kognitivnom razvoju ne zahtijeva nametanje jedne ličnosti, oblika učenja, modela pažnje ili načina komunikacije kao jedinog prihvatljivog ishoda za čovjeka.
Perspektive osoba s invaliditetom moraju biti u središtu
Mnoge neurotehnologije razvijaju se za osobe s invaliditetom, ali prioritete mogu određivati inženjeri, investitori, ljekari ili porodice, ne dajući budućim korisnicima jednaku moć. Konvencija UN-a o pravima osoba s invaliditetom zahtijeva od država koje su je ratificirale da poštuju autonomiju, nediskriminaciju, pristupačnost, učešće i inkluziju.30 Zajedničko oblikovanje trebalo bi započeti prije određivanja ishoda: neki ljudi mogu više cijeniti preciznost komunikacije, mali umor, prenosivost, mogućnost popravke, privatnost ili očuvanje postojećeg načina izražavanja nego laboratorijski standard.
Poštovanje podrazumijeva i dopuštanje različitih zaključaka. Jedna osoba može željeti rekonstruktivni implantat; druga, s istom dijagnozom, može ga odbiti ili svoj invaliditet smatrati dijelom identiteta i zajednice. Nijedna odluka ne čini osobu protivnikom nauke. Dužnost je osigurati da oba izbora budu informisana, praktično moguća i da ne podrazumijevaju napuštanje.
Javno mnijenje zavisi od konkretnog scenarija
Opći procenti, poput „ljudi podržavaju liječenje, ali ne odobravaju unapređivanje“, skrivaju formulaciju, rizik, populaciju i zemlju. U anketi koju je 2022. godine objavio Pew Research Center u SAD-u, 77 % ispitanika podržalo je korištenje moždanih implantata za poboljšanje kretanja kod osoba s paralizom, a 64 % njihovu upotrebu za liječenje slabljenja mentalnih sposobnosti povezanog sa starenjem. Međutim, samo 13 % smatralo je da bi rasprostranjenost hipotetičkog implantata koji ubrzava i unapređuje obradu informacija bila dobra za društvo; 60 % očekivalo je da će ljudi osjećati pritisak da ga kupe, a 57 % da će se povećati razlika između Amerikanaca s višim i nižim prihodima.31 Ovo su zaključci o konkretno formuliranim scenarijima u SAD-u, a ne univerzalni moralni zakoni.
Javna rasprava mora imati posljedice
Građanski forumi, dizajn koji vode osobe s invaliditetom, zastupljenost radnika, grupe pacijenata, učešće mladih i javne konsultacije mogu otkriti vrijednosti i štetu koje stručnjaci ne primjećuju. Međutim, povjerenje nastaje tek kada organizatori objave ko je učestvovao, koji su dokazi predstavljeni, kako su se nosili s neslaganjima i koje su se odluke stvarno promijenile.
Transhumanizam je porodica argumenata, a ne konačna presuda
Neki zagovornici svjesno unapređivanje vide kao nastavak medicine, obrazovanja i korištenja alata - moralnu mogućnost smanjenja patnje i proširenja ljudskih sposobnosti. Kritičari brinu zbog nepovratnih eksperimenata, komercijalne kontrole, prisilne konkurencije, gubitka raznolikosti i društva podijeljenog prema pristupu. „Igramo se Boga“ i „napredak je neizbježan“ podjednako su kratki odgovori. Bolja rasprava poredi konkretne intervencije, dokaze, strukture moći, alternative i reverzibilne korake.
Povjerenje javnosti nećemo dobiti tražeći od ljudi da više vjeruju. Zaslužit ćemo ga stvaranjem institucija vrijednih povjerenja - i time što ćemo odustajanje učiniti sigurnim.
12 · Upravljajte cijelim životnim ciklusom
Model koji štiti napredak, a ne zamrzava ga
Dobro upravljanje nije ceremonijalni pregled na kraju. Ono oblikuje cilj, dokaze, dizajn, implementaciju, praćenje, poslovni model i, na kraju, prestanak korištenja tehnologije.
-
Definišite vrijedan ljudski cilj. Definišite problem, pogođene ljude, željeni svakodnevni ishod i netehnološke alternative. Nemojte početi od uređaja koji traži tržište.
-
Napravite mapu koristi, tereta i moći. Utvrdite ko bira, plaća, ostvaruje profit, pruža podatke, obavlja neplaćenu pomoć, može odbiti, preuzima fizički rizik i ko bi stradao u slučaju kvara sistema.
-
Kreirajte dokaze proporcionalne tvrdnji. Koristite relevantna poređenja, smislene ishode, reprezentativne učesnike, dovoljno dugo praćenje, neovisno ponavljanje i javnu registraciju.
-
Ugradite prava u proizvod. Smanjite količinu podataka, kreirajte pristupačne kontrole, sigurne zadane postavke, jasno prikazano stanje sistema, ručno preuzimanje kontrole, sigurna ažuriranja, prenosivost i mogućnost povlačenja bez kaznene cijene.
-
Koristite neovisni i raznovrsni nadzor. Uključite tehničku, kliničku, etičku, pravnu, kibernetičko-sigurnosnu ekspertizu, ekspertizu iz oblasti invaliditeta, radnika, prava djece i zajednice, kao i objavljivanje sukoba interesa.
-
Uvodite fazno. Prije prelaska s istraživanja na širu upotrebu utvrdite kriterije uključivanja, granice, pravila zaustavljanja, praćenje, podršku korisnicima, postupak za pritužbe i datum isteka ili obnove.
-
Mjerite život nakon početnog mjerenja. Pratite funkcionisanje, učenje, samostalnost, raspoloženje, identitet, san, odnose, nejednakost, rijetku štetu, ovisnost o uređaju, njegu i ishode nakon prestanka korištenja.
-
Garantujte naknadu štete i kontinuitet. Omogućite ispravku, naknadu kada je opravdana, klinički nadzor, sigurno uklanjanje implantata, brisanje podataka kada je moguće, održavanje sigurnosti i plan za slučaj zatvaranja kompanije.
Zone odgovorne inovacije
Privremeni pilot-projekti ili regulatorne „pješčane kutije“ mogu pomoći u učenju ako su učesnici jasno određeni, postoji neovisni nadzor, javni protokoli, stvarni pristanak, pragovi dokaza, kontinuirano praćenje, transparentni rezultati, pravila zaustavljanja i put ka redovnom pravu. „Pješčana kutija“ je kontrolisani eksperiment - nije mjesto gdje prava nestaju.
Otvorena sigurnosna infrastruktura
Registri istraživanja, identifikatori uređaja, sistemi za prijavljivanje neželjenih događaja, otkrivanje ranjivosti, objavljivanje protokola, negativni rezultati, evidencije modela i verzija te praćenje nakon stavljanja na tržište mogu otkriti obrasce koje nijedna organizacija ne vidi. Otvorenost ipak mora štititi privatnost i sigurnost učesnika.
Crvene linije institucija
- Nema skrivenog ili obaveznog mjerenja neuronskih signala na uobičajenom poslu ili u obrazovanju.
- Nema kažnjavanja zbog odbijanja nepotrebne neurotehnologije ili prikupljanja podataka.
- Nema krivične odluke zasnovane samo na neodređenom zaključku o psihičkom stanju.
- Nema tvrdnje da uski neuronski signal omogućava neograničen pristup mislima.
- Nema neterapijskog optimiziranja zdrave djece invazivnom ili nepovratnom tehnologijom.
- Nema prodaje neuronskih podataka ili psihičkih profila pod nejasnim općim pristankom.
- Nema instaliranja bez sigurnog ažuriranja, održavanja, povlačenja i plana za propast kompanije.
- Nema korištenja „etike“ kao marketinške riječi kada nema nezavisne revizije i otklanjanja štete.
Zaštita i ambicija su saveznice
Jasni standardi dokaza štite ozbiljne istraživače od pretjeranih tvrdnji konkurenata. Privatnost i sigurnost smanjuju rizik od katastrofalnog neuspjeha. Pravedan pristup povećava broj ljudi koji mogu imati koristi i doprinijeti. Stvarni pristanak jača povjerenje i kvalitet podataka. Upravljanje bi trebalo učiniti vrijednu inovaciju održivijom - a ne kognitivni napredak prikazati kao nešto sramotno.
13 · Pretvorite principe u pitanja
Alati za donošenje odluka za ljude i institucije
Najbolje pitanje rijetko glasi: „Da li je unapređenje dobro?“ Bolje je: „Da li je ova intervencija, za ovaj cilj i ovu osobu, pod ovim uslovima odgovoran način ostvarivanja vrijedne sposobnosti?“
Prije korištenja ili uključivanja u istraživanje
- Koja bi se tačno sposobnost ili svakodnevni rezultat trebali poboljšati?
- Da li je to odobreno liječenje, klinička praksa izvan odobrene indikacije, istraživanje, proizvod za dobrobit ili spekulacija?
- Koje je najbolje poređenje - i kolika je korist po veličini i trajanju?
- Koja je kratkoročna i dugoročna šteta mjerena i šta još nije poznato?
- Bi li problem mogli riješiti san, zdravstvena zaštita, obrazovanje, senzorna njega, rehabilitacija ili neki drugi sigurniji put?
- Mogu li stati, vratiti prethodne postavke, ukloniti uređaj, zadržati uobičajenu njegu i dobiti ili izbrisati svoje podatke?
- Ko vidi sirove podatke i zaključke, te mogu li se oni prodavati, ponovo koristiti, zahtijevati od strane organa za provođenje zakona ili povezivati s drugim izvorima?
- Ko plaća nadzor, ažuriranja, komplikacije, zamjenu i uklanjanje?
- Šta se dešava kada proizvođač promijeni uslove, kada ga kupi druga kompanija, prekine podršku ili prestane poslovati?
- Biram li ovo zbog svojih ciljeva - ili reagujem na strah, pritisak, oglašavanje, ocjene ili zahtjeve posla?
Tabela za procjenu upravljanja za organizacije
| Oblast | Dokaz odgovornosti | Model neuspjeha | Minimalno otklanjanje štete |
|---|---|---|---|
| Cilj | Definisana ljudska potreba i rezultat, uz dizajn kreiran zajedno s pogođenim ljudima. | Tehnologija se uvodi samo zato što postoji ili je koriste konkurenti. | Ponovo procijeniti alternative i obustaviti upotrebu koja nema legitiman cilj. |
| Dokazi | Za konkretnu tvrdnju potrebni su ponovljeni dokazi sa smislenim rezultatima i praćenjem. | Promjena moždane aktivnosti, povratna informacija ili regulatorna registracija predstavljaju se kao povećanje inteligencije. | Ispraviti tvrdnje kada je prikladno vratiti novac i zahtijevati temeljitiju istragu. |
| Pristanak | Dostupan aktivni pristanak, detaljan izbor, kontinuirani pregled, bez odmazde i stvarna mogućnost odustajanja. | Pristanak je ugrađen u uslove rada, obrazovanja, njege ili nepovezane usluge. | Obezbijediti neneuronski put i ukloniti negativne posljedice odbijanja. |
| Podaci | Smanjenje obima, ograničenja namjene, sigurnost, pristup, ispravka, brisanje i upravljanje zaključcima. | Sirovi podaci se neograničeno čuvaju zbog neodređene „inovacije“. | Zaustaviti sekundarnu upotrebu, izbrisati podatke kada je moguće, obavijestiti, ispraviti i nadoknaditi štetu. |
| Ravnopravnost | Reprezentativni dokazi, pristupačan dizajn, pravedna naknada, rezultati po podgrupama i dijeljenje koristi. | Marginalizovane grupe preuzimaju rizik istraživanja, dok korist dobijaju samo bogati korisnici. | Preoblikovati pristup, kupovinu, odabir učesnika i praćenje. |
| Sigurnost | Upravljanje kliničkim i kibernetičkim rizicima, pravila zaustavljanja, evidentiranje neželjenih događaja i kontrola verzija. | Softverske izmjene tiho mijenjaju funkciju nakon prvobitne revizije. | Vratiti prethodnu verziju, objaviti, istražiti, pomoći pogođenim korisnicima i ponovo odobriti značajnu izmjenu. |
| Kontinuitet | Nadzor, interoperabilnost, popravak, uklanjanje implantata i finansiranje u slučaju propasti kompanije. | Pretplata, preuzimanje kompanije ili stečaj ostavljaju osobu s hardverom koji se više ne podržava. | Rezervna sredstva, prenos podrške, očuvanje ključnih funkcija i finansiranje sigurnog povlačenja. |
| Odgovornost | Jasno navedena odgovornost, nezavisna revizija, javni izvještaji, mogućnost podnošenja pritužbi i stvarno provodivo ispravljanje štete. | Svaki akter upućuje na drugog izvođača, algoritam, ljekara ili korisnika. | Prije uvođenja dodijeliti odgovorne institucije i tokom cijele upotrebe zadržati put za naknadu štete. |
Test tvrdnje od jedne minute
Zamolite prodavača da dovrši jednu rečenicu: „Za ljude poput vas upravo je ovaj proizvod pokazao da poboljšava ovaj rezultat iz stvarnog života za ovoliko, tokom ovoliko vremena, u poređenju s ovom alternativom, uz ove poznate rizike i ove preostale neizvjesnosti.“ Ako svako prazno mjesto popune jezik prestiža, slike neurovizualizacije ili požurivanje, dokazi još nisu dovoljno jasni.
14 · Jasni odgovori
Često postavljana pitanja
Oblast se brzo mijenja, ali nekoliko jasnih razlika sprečava većinu nesporazuma.
Da li je kognitivno poboljšanje samo po sebi neetično?
Ne. Obrazovanje, rehabilitacija, pomoćne tehnologije i mnogi medicinski tretmani već proširuju kognitivne sposobnosti. Intervencija postaje etički problematična zbog slabih dokaza, nesrazmjernog rizika, prisile, obmane, nepravedne raspodjele, uticaja koji mijenja identitet bez dovoljnog pristanka, nametljive upotrebe podataka ili izostanka ispravljanja štete. Treba procjenjivati konkretan slučaj, a ne cijelu kategoriju.
Da li bi društvo trebalo aktivno podržavati veću inteligenciju i rast IQ-a?
Da. Društvo treba štititi zdravlje mozga, pružiti izvrsno obrazovanje i cjeloživotno učenje, liječiti bolesti, smanjivati štetu od toksina i opojnih supstanci, omogućiti koncentraciju, pažljivo mjeriti sposobnosti i pružiti ljudima prilike da napreduju i doprinose. Dobro validiran viši kognitivni rezultat predstavlja značajan dokaz boljeg učinka u mjerenim sposobnostima. Kada su te sposobnosti neophodne za razumijevanje ili rješavanje složenog problema, doprinos osobe može postati izuzetno važan. Takva dostignuća zaslužuju poštovanje i slavljenje. Mudrost, kreativnost, karakter, znanje i kvalitet odluka i dalje su povezani, ali zasebni oblici postignuća; njihovo vrednovanje ne zahtijeva pretvaranje da izmjerena inteligencija nije važna.
Da li vrednovanje izuzetne inteligencije znači da neki ljudi nisu važni?
Ne. Ljudske sposobnosti i društveni doprinos smisleno se razlikuju, a rijetka inteligencija ili stručnost mogu biti izuzetno važne. Društvo treba štititi, savjetovati se, izdvajati resurse za ljude koji mogu stvoriti izuzetan doprinos i slaviti ih. Istovremeno, osnovna prava i zaštitu od nasilja ne treba zaslužiti rezultatom. Ovi principi se međusobno jačaju: univerzalna zaštita omogućava većem broju ljudi da napreduju, a poštovanje izvrsnosti čuva dostignuća korisna svima.
Može li interfejs mozak-kompjuter čitati misli?
Današnji sistemi mogu klasifikovati ili dekodirati ograničene signale pod određenim uslovima - na primjer, pokušaj pokreta, odabrane odgovore ili pokušaj govora nakon obuke sistema. Tačnost zavisi od uređaja, osobe, zadatka, podataka i modela. To nije neograničen pristup privatnim mislima. Međutim, čak i djelomični zaključci mogu biti osjetljivi, a pohranjeni podaci u budućnosti mogu omogućiti izvođenje snažnijih zaključaka, pa je zaštita potrebna i prije nego što „čitanje misli“ postane doslovna stvarnost.
Da li su potrošački tDCS uređaji sigurni samo zato što koriste slabu struju?
Nizak intenzitet ne znači da su svi uređaji, rasporedi elektroda, obrasci ili korisnici jednaki. Sigurnosni podaci o kontrolisanoj upotrebi uobičajenih istraživačkih protokola prilično su ohrabrujući, ali se ne mogu automatski primijeniti na lošu opremu, pogrešan raspored elektroda, česte sesije bez nadzora, zdravstvena stanja koja međusobno djeluju ili dugotrajno samostalno eksperimentisanje. Mogućnost kupovine putem interneta ne dokazuje autorizaciju niti kognitivnu korist.7
Može li CRISPR povećati IQ budućeg djeteta?
Ne postoji klinički validirana, predvidiva i sigurna metoda uređivanja embriona radi povećanja IQ-a. Inteligencija je izrazito poligenska i snažno oblikovana okruženjem; povezanosti nisu jednostavni uzročni prekidači; uređivanje može stvoriti nepredviđene genomske promjene; a buduće dijete i njegovi potomci ne mogu dati pristanak. Prave somatske CRISPR terapije ne bi trebalo koristiti za stvaranje utiska da je nasljedno kognitivno poboljšanje već spremno.
Da li regulatorna dozvola dokazuje da proizvod djeluje onako kako se reklamira?
Samo u mjeri u kojoj to dopuštaju značenje konkretnog regulatornog puta i odobrena namijenjena svrha. Dozvola za provođenje istraživanja, registracija uređaja, breakthrough status, 510(k) dozvola, De Novo autorizacija i premarket approval različite su stvari. Uvijek provjerite tačan proizvod, indikaciju, grupu korisnika, verziju i tvrdnju; širi marketinški jezik kompanije može preći granice svrhe koju je regulator procijenio.
Da li su neuronski podaci uvijek zaštićeni kao medicinske informacije?
Ne. Zaštita zavisi od jurisdikcije, sadržaja, svrhe, organizacije i odnosa. U EU se na identificirane neuronske podatke primjenjuje GDPR, a zaštita posebnih kategorija može se primjenjivati kada ispunjavaju relevantne definicije. Američki HIPAA ne obuhvata automatski svaku potrošačku kompaniju, iako se mogu primjenjivati pravila FTC-a i saveznih država. Odgovorni pružalac usluga trebao bi primjenjivati visok standard zaštite neuronskih podataka čak i kada pravni minimum nije jasan.
Hoće li strožija etička pravila zaustaviti inovacije?
Loše osmišljena pravila mogu usporiti vrijedan rad, ali odsustvo pravila može izazvati povrede, skandale, iskorištavanje podataka, odbacivanje javnosti i nepodržane implantate - sve to također usporava napredak. Proporcionalno upravljanje stvara jasnije puteve: intervencije većeg rizika ili nepovratne intervencije zahtijevaju snažnije dokaze i nadzor, alati niskog rizika lakše obaveze, a prisila i obmana jasne crvene linije.
Zaključak
Zaštitite slobodu rasta - i um koji raste
Kognitivno unapređenje ne zaslužuje ni obožavanje ni refleksivno odbacivanje. Zaslužuje samo preciznost, ambiciju, dokaze, poštovanje i demokratsku kontrolu.
Ljudska inteligencija može biti izuzetno vrijedna: biološki utemeljena, razvijana tokom cijelog života, jačana učenjem i sposobna stvarati doprinose koje nijedan kupljeni predmet ili administrativni sistem ne može jednostavno zamijeniti. Trebali bismo je zaštititi od štete koju je moguće izbjeći, ulagati u njen razvoj i slaviti ljude koji njome proširuju znanje i život.
Međutim, upravo zato što je inteligencija vrijedna, niko ne bi trebao biti prisiljen mijenjati svoj mozak, svođen na neuronski rezultat, profiliran na osnovu nepouzdanog zaključka, ostavljen s nepodržanim hardverom ili prisiljen mijenjati mentalnu privatnost za obrazovanje, posao ili njegu. Unapređenje treba služiti čovjeku - ne čovjek unapređenju.
Doživotni put povezuje dvije obaveze. Podignuti univerzalnu osnovu: zdravlje, obrazovanje, rehabilitaciju, pristupačnost, sigurnost i slobodu od iskorištavanja. I držati plafon otvorenim: za napredno učenje, originalan rad, terapijske proboje, asistivne tehnologije i pažljivo upravljane načine proširivanja ljudskih sposobnosti. Omogućite ljudima prostor da razmišljaju sami, ljude kojima se mogu vratiti i institucije sposobne podržati ideju kada se pojavi.
Napredak nije samo u bržem mozgu ili snažnijem uređaju. Riječ je o većoj sposobnosti zajedno s većom samostalnošću - većoj moći razumijevanja i stvaranja, većoj slobodi izbora i većoj mudrosti u odlučivanju o tome koje moći uopšte ne bi trebalo koristiti.
Osnova dokaza
Izvori i ključni dokumenti javnih politika
- UNESCO. Preporuka o etici neurotehnologije, usvojena 2025.
- UNESCO. Univerzalna deklaracija o bioetici i ljudskim pravima, 2005.
- Svjetsko ljekarsko udruženje. Helsinška deklaracija: etička načela za medicinska istraživanja koja uključuju ljudske učesnike, izdanje iz 2024.
- Američka Uprava za hranu i lijekove. FDA ažurira upozorenja radi poboljšanja sigurne upotrebe stimulansa na recept, 2023.
- Nacionalni centar NIH-a za komplementarno i integrativno zdravlje. Mudra upotreba dodataka prehrani.
- Američka Uprava za hranu i lijekove. FDA dopušta stavljanje na tržište sistema za transkranijalnu magnetnu stimulaciju za opsesivno-kompulzivni poremećaj, 2018.
- Antal A, Bjekić J, Ganho-Ávila A, et al. Transkranijalna električna stimulacija niskog intenziteta: sigurnosne, etičke, pravne, regulatorne smjernice i smjernice za primjenu (2017-2025: ažuriranje). Clinical Neurophysiology. Objavljeno na internetu 23. novembra 2025.; tom 184 (april 2026). Odobrili ESBS i IFCN.
- Agencija za istraživanje i kvalitet zdravstvene zaštite. Dijagnostikovanje i liječenje ADHD-a kod djece i adolescenata: dokazi o liječenju, 2024.
- Američka Uprava za hranu i lijekove. Implantirani interfejsi mozak-računar za pacijente s paralizom ili amputacijom, konačne smjernice, 2021.
- Američki Ured za odgovornost vlade. Interfejsi mozak-računar: primjene, izazovi i opcije javnih politika, 2024.
- Kineska Nacionalna uprava za medicinske proizvode. Najava odobrenja za stavljanje na tržište implantabilnog BCI sistema za kompenzaciju pokreta šake, 2026.
- Američka Uprava za hranu i lijekove. Kibernetička sigurnost medicinskih uređaja: razmatranja sistema kvaliteta i sadržaj podnesaka prije stavljanja na tržište, konačne smjernice, 27. juni 2025.
- Američka Uprava za hranu i lijekove. FDA odobrila prve genske terapije za liječenje pacijenata s anemijom srpastih ćelija, 2023.
- Poligenske osobine i istraživanje inteligencije. Nacionalni institut za istraživanje ljudskog genoma, Poligenska osobina; Savage i dr., Metaanaliza asocijacija širom genoma kod 269.867 osoba identificira nove genetičke i funkcionalne veze s inteligencijom, Nature Genetics, 2018.
- Međunarodna komisija za kliničku upotrebu uređivanja ljudskog zametne linije. Nasljedno uređivanje ljudskog genoma, Nacionalne akademije / Kraljevsko društvo, 2020.
- Svjetska zdravstvena organizacija. Uređivanje ljudskog genoma: okvir za upravljanje, 2021.
- Svjetska zdravstvena organizacija. Izjava o upravljanju i nadzoru uređivanja ljudskog genoma, 2019.
- OECD. Preporuka Vijeća o odgovornim inovacijama u neurotehnologiji, 2019.
- Evropska unija. Opća uredba o zaštiti podataka (EU) 2016/679.
- Ministarstvo zdravstva i socijalnih usluga SAD-a. Resursi za programere mobilnih zdravstvenih aplikacija.
- Savezna trgovinska komisija SAD-a. FTC dovršava izmjene Pravila o obavještavanju o narušavanju zdravstvenih podataka, 2024.
- Generalna skupština Colorada. HB24-1058: Zaštita privatnosti bioloških podataka, 2024.
- Zakonodavno tijelo Kalifornije. SB 1223: Privatnost potrošača - neuronski podaci, 2024.
- Svjetska zdravstvena organizacija i UNICEF. Globalni izvještaj o pomoćnoj tehnologiji, 2022.
- Vijeće Evrope. Konvencija o ljudskim pravima i biomedicini (Konvencija iz Ovieda).
- Evropska unija. Uredba (EU) 2017/745 o medicinskim proizvodima.
- Evropska unija. Zajedničke specifikacije za nemedicinske proizvode iz Aneksa XVI, uključujući određenu opremu za stimulaciju mozga.
- Evropska unija. Uredba (EU) 2024/1689: Akt o vještačkoj inteligenciji.
- Evropska komisija. Regulatorni okvir za akt o vještačkoj inteligenciji i vremenski okvir njegove provedbe.
- Ujedinjene nacije. Konvencija o pravima osoba s invaliditetom.
- Pew Research Center. Javnost oprezna u pogledu poboljšanja kognitivnih funkcija pomoću implantata računarskih čipova u mozgu, anketa u SAD-u, objavljena 2022. godine.
Dokazi pregledani do 3. septembra 2026. Politike, autorizacije i status proizvoda mogu se promijeniti; provjerite trenutno stanje u relevantnoj jurisdikciji.