Etička, pravna i društvena razmatranja
Linas JuozėnasPodeli
Oslobođena inteligencija · Etika, pravo i društvo
Razvijajte ljudske sposobnosti.
Upravljanje prepustite čoveku.
Kognitivno unapređivanje može pomoći ljudima da uče, rasuđuju, komuniciraju, oporavljaju se, stvaraju i doprinose. Njegov cilj trebalo bi da bude veća ljudska autonomija - a ne obavezna optimizacija, privatno vlasništvo nad neuronskim podacima, naduvana obećanja ili moć upravljanja umom druge osobe.
- Inteligencija je važna Bolje učenje, rasuđivanje, pamćenje i kvalitet donošenja odluka mogu poboljšati živote i proširiti ono što čovečanstvo može da razume i stvori.
- „Moguće“ ne znači „dokazano“ Kliničko lečenje, potrošački proizvodi, istraživački prototipi i spekulativne budućnosti ne smeju se predstavljati kao da imaju isti nivo dokaza ili isti pravni status.
- Psihička sloboda - na prvom mestu Globalni UNESCO okvir etike neurotehnologije iz 2025. godine u središte stavlja dostojanstvo, autonomiju, mentalnu privatnost i ljudska prava.1
Suštinska ideja
Unapređivanje je vredno kada proširuje život
Razvoj inteligencije nije sitnica. Sposobnost da se više razume, brže uči, rešavaju složeniji problemi, odupre manipulaciji, mudrije bira i stvara originalan rad može promeniti jedan život - a ponekad i mnoge druge.
Upravo zato kognitivni razvoj zaslužuje ozbiljna istraživanja, obrazovanje, ulaganja, zaštitu i proslavljanje. Iz istog razloga standardi moraju biti strogi. Proizvod koji nakratko menja rezultat testa, ali narušava zdravlje, sužava ličnost, stvara zavisnost, prikuplja intimne podatke ili rad čini zavisnim od poslušnosti ne može se nazvati nedvosmislenim napretkom.
01 · Definišite projekat
Šta se smatra kognitivnim unapređenjem?
„Unapređenje“ nije jedna tehnologija niti jedna moralna kategorija. Ono obuhvata raspon od uobičajenih uslova za učenje do intervencija koje mogu trajno promeniti telo ili buduće generacije.
Pre nego što raspravljate o tome da li je unapređenje ispravno ili pogrešno, najpre definišite cilj: koju sposobnost, kojim mehanizmom, za koju osobu, u kakvom okruženju, koliko dugo i u poređenju sa kojom alternativom nastojite da promenite?
Uobičajena razlika između lečenja i unapređenja korisna je, ali nedovoljna. Vraćanje govora pomoću interfejsa mozak–računar istovremeno može biti lečenje, pomoć u komunikaciji i nova sposobnost čoveka i mašine. Ispravljanje teškog nedostatka sna može poboljšati kognitivne funkcije više nego eksperimentalni uređaj. Isti alat za jednu osobu može biti terapijski, za drugu opciono unapređenje, a u trećem okruženju sredstvo prinudnog nadzora.
Koja se sposobnost menja?
Pažnja nije pamćenje; brzina obrade informacija nije mudrost; laboratorijski zadatak nije celokupna inteligencija. Precizno navedite sposobnost.
Kome i gde?
Prosečan efekat može sakriti različit odgovor u zavisnosti od uzrasta, zdravlja, početnog nivoa sposobnosti, invaliditeta, lekova, sna ili zahteva zadatka.
Šta se još menja?
Pitajte o raspoloženju, snu, kreativnosti, kvalitetu odluka, zavisnosti, privatnosti, fizičkoj bezbednosti, oportunitetnim troškovima i ishodu nakon prestanka dejstva.
Cilj nije populacija koja po komandi brže obavlja jedan zadatak. Cilj su ljudi koji imaju veću sposobnost da razumeju, biraju, izmišljaju, grade odnose i sami usmeravaju svoj život.
02 · Sposobnosti, trud, doprinos
Zašto intelekt zaslužuje zaštitu i poštovanje
Kognitivne sposobnosti nisu igračka niti statusni dodatak. One mogu odražavati biologiju, razvoj, obrazovanje, doživotnu praksu, disciplinovanu pažnju, zdravlje, prilike i stalni rad na učenju.
Osoba sa izuzetnim zaključivanjem, pamćenjem, maštom, uvidom ili akumuliranom stručnošću može uočiti mogućnosti, rešavati probleme ili usmeravati druge na način koji se ne može jednostavno ponoviti kupovinom alata, čitanjem sažetka ili okupljanjem većeg broja ljudi.
Alati mogu umnožiti ljudsku misao, ali ne brišu značaj mislioca koji ume da shvati koje je pitanje važno, otkrije pogrešnu pretpostavku, poveže udaljene ideje, predvidi posledice ili tokom decenija razvija kvalitet odlučivanja. Kada je takav um ugrožen zbog bolesti koja se može sprečiti, hroničnog stresa, nasilja, psihoaktivnih supstanci, zagađenja, nedostatka sna, izolacije ili prisilnog prilagođavanja, gubitak je i lični i društveni. Zato su zaštita kognitivnog zdravlja, tišine, samostalnosti, obrazovanja i smislenog rada opravdan javni prioritet.
Viši validan rezultat na IQ testu može imati veliki značaj. U oblastima sposobnosti koje kvalitetan test zaista meri, viši rezultat je dokaz boljeg učinka - a ne dekorativna etiketa. U oblastima u kojima su presudni brzo učenje, apstrakcija, složeno zaključivanje ili integrisanje mnogih promenljivih, takva sposobnost može učiniti prisustvo i doprinos neke osobe izuzetno važnim. Takve sposobnosti mogu odražavati nasleđeni potencijal, mnoge godine obrazovanja, doživotno disciplinovano učenje ili kombinaciju svih tih faktora. One zaslužuju priznanje, zaštitu, zahtevne prilike i poštovanje. Jedan rezultat ne garantuje mudrost niti moralne odluke, ali ni strah od hijerarhije ne bi trebalo koristiti za poricanje stvarnih kognitivnih razlika ili brisanje vrednosti izuzetnog uma.
Slavite razvijene i izuzetne umove
Priznajte zahtevna intelektualna dostignuća. Darovitim ljudima obezbedite vreme, resurse, sigurnost, nezavisnost i ozbiljne prilike. Konsultujte se sa stručnjacima. Čuvajte znanje. Neobičnim idejama dajte dovoljno vremena da bi mogle da se provere. Omogućite ljudima da uče i doprinose tokom celog života.
Čuvajte uslove u kojima se oblikuje originalnost
Nekim ljudima izabrana samoća omogućava da se rodi originalna misao, jer grupa više ne odvlači njihovu pažnju. Kasnije drugi ljudi postaju neophodni za kritiku, saradnju, sprovođenje, komunikaciju, podršku, širenje i proslavu. Zdrav sistem štiti obe slobode: vreme nasamo i srdačan povratak.
Priznavanje razlika ne znači dozvolu da se bilo ko izostavi
Когнитивни профили и доприноси се разликују, понекад веома значајно. Признати то поштеније је него претварати се да су сви исти. Међутим, основна права, заштита од насиља, здравствена заштита, образовање и правни субјективитет не зависе од IQ резултата, продуктивности или способности да се други задиве. Цивилизовано друштво може поштовати изузетну интелигенцију, а да другог човека не сматра непотребним.
Зато је етичко питање шире од „Да ли би требало дозволити когнитивно побољшање?“. Оно гласи и овако: да ли већ сада потискујемо људски потенцијал лошим образовањем, болестима које се могу избећи, опијајућим окружењем, страхом, принудом или уништавањем пажње? Најбезбеднији и најшире прихваћен когнитивни напредак може почети заштитом мозга и услова за учење, још пре додавања инвазивних технологија.
03 · Тврдњама су потребни нивои
Докази пре одушевљења
Саопштење за јавност, механистичка теорија, мала студија, регулаторно одобрење и доказан дугорочни ефекат различите су врсте доказа.
Прва заштита од хипа је прецизно именовање статуса тврдње. „Истраживачи су у строго контролисаним условима декодирали покушај говора“ не значи да слушалице могу да читају необуздане приватне мисли. „Уређај се испитује“ не значи да је дозвољено да се продаје. „FDA је одобрила једну клиничку индикацију“ не значи да је доказана корист за интелигенцију здравих људи.
| Ниво | Шта постоји | Шта ово може да поткрепи | Шта још не може да се поткрепи |
|---|---|---|---|
| Концепт | Теорија, симулација, резултат на животињама или лабораторијски механизам. | Разлог за наставак истраживања. | Тврдњу о користи за људе или прихватљивом ризику. |
| Рано истраживање на људима | Изводљивост или сигнал у малој и одабраној групи. | Да ли је оправдано спровести веће и боље контролисано истраживање. | Укупне делотворности, дугорочне одрживости, ретких штета или широког приступа. |
| Контролисани докази | Поновљено поређење са плацебом, симулираном интервенцијом или уобичајеном негом, уз коришћење релевантних исхода. | Поузданију процену ефекта за испитиване групе и услове. | Аутоматско преношење на друге способности, популације, дозе или окружења. |
| Регулаторно одобрење | Регулаторно тело дозвољава дефинисани производ за дефинисану намену. | Трговину у тој јурисдикцији и за ту индикацију, уз поштовање утврђених услова. | Доказивање свих оглашаваних користи, нултог ризика или дозволе за употребу ван одобрене индикације ради „побољшања“. |
| Вредност у стварном свету | Корист, штета, једноставност употребе, приступ и трајност прате се ван оквира истраживања. | Да ли интервенција у великом обиму заиста побољшава живот људи. | Коначни закључци за сва времена; уређаји, софтвер, корисници и околности се мењају. |
- Да ли је исход била свакодневна способност или само уски показатељ на тесту?
- Да ли је поређење било заслепљено, са симулираном контролом и довољном статистичком снагом?
- Da ли су мерени штета, одустајања, сан, расположење и каснији учинак?
- Koliko je poboljšanje bilo veliko – a ne samo da li je bilo „statistički značajno“?
- Da li je dejstvo nezavisno ponovljeno i da li je potrajalo nakon završetka treninga ili stimulacije?
- Da li je proizvod korišćen tačno onako kako je odobreno ili je tvrdnja prošireno tumačenje?
Marketing često spaja različite glagole
Meri, predviđa, korelira, pomaže, obnavlja, leči, poboljšava, pojačava i transformiše nisu međusobno zamenljivi pojmovi. Kompanija treba jasno da kaže koji od njih potkrepljuju njeni dokazi. Korisnici i regulatori treba da preispitaju svaki skok od „menja moždanu aktivnost“ do „čini vas pametnijim“.
04 · Dozvola mora ostati stvarna
Pristanak je trajan odnos
Odgovoran pristanak mora biti informisan, konkretan, razumljiv, dobrovoljan, podložan preispitivanju, pristupačan i zasnovan na stvarnim mogućnostima odbijanja ili povlačenja.
Međunarodni bioetički principi stavljaju ljudsko dostojanstvo, autonomiju, pristanak, koristi i štetu, pravdu, privatnost i nediskriminaciju u središte biomedicinskih odluka.2 Izdanje Helsinške deklaracije Svetskog lekarskog udruženja iz 2024. godine takođe smatra slobodno dat informisani pristanak i dodatnu zaštitu ljudi u ranjivim situacijama suštinskim delom etike medicinskih istraživanja.3 Potpis dokazuje da je obrazac potpisan; sam po sebi ne dokazuje da su ovi uslovi zaista postojali.
Razumevanje
Objasnite predviđenu namenu, alternative, neizvesnost, očekivane koristi, važne rizike, tokove podataka, zavisnost od uređaja, održavanje i šta će se dogoditi kada podrška prestane.
Dobrovoljnost
Odbijanje ne sme potajno da košta posao, ocenu, zdravstvenu zaštitu, osiguranje, slobodu, status u vojsci ili pristup nepovezanoj usluzi.
Detaljnost
Pristanak na lečenje nije pristanak na svaku ponovnu upotrebu podataka, obuku modela, marketinške svrhe, prodaju trećim stranama ili buduću funkcionalnost softvera.
Ažuriranje i povlačenje
Ponovo razgovarajte o pristanku kada se promene rizici, mogućnosti, vlasništvo, korišćenje podataka, algoritmi ili okolnosti osobe. Povlačenje pristanka i bezbedno uklanjanje implanta moraju biti stvarno mogući.
Sposobnost donošenja odluke zavisi od konkretne odluke – to nije etiketa za čitavu osobu
Čoveku može biti potrebna pomoć da razume složen implant, a da istovremeno odlično rešava mnoga druga životna pitanja. Dobra praksa koristi jasan jezik, prevod, sredstva komunikacije, dodatno vreme, pouzdanu pomoć koju je sam čovek izabrao i proverava razumevanje. Ona ne poistovećuje invaliditet, neuobičajenu komunikaciju, uznemirenost, uzrast ili neslaganje sa nesposobnošću za odlučivanje.
Deci i budućim ljudima potrebna je snažnija zaštita
Deca mogu učestvovati u donošenju odluka u skladu sa svojim razvojnim sposobnostima, ali odrasli i dalje imaju obavezu da zaštite njihovu otvorenu budućnost. Što je intervencija nepovratnija, neizvesnija, više menja identitet i manje medicinski neophodna, to je slabiji argument da se sprovede pre nego što osoba može sama da odlučuje. Nasledno uređivanje genoma stvara dodatni problem: budući ljudi, na koje se dejstvo prenosi kroz generacije, uopšte ne mogu dati pristanak.
Test odbijanja
Pitajte šta se dešava nakon reči „ne“. Ako zaposleni izgubi smene, student pristup, pacijent uobičajenu negu ili učesnik ne može da ukloni implant bez preskupe operacije, formalni izbor možda zapravo nije dobrovoljan.
05 · Jedna etiketa, različite stvarnosti
Svaku tehnologiju procenite u njenom stvarnom kontekstu
Lekovi, suplementi, stimulacija, neurofidbek i interfejsi mozak–računar razlikuju se po mehanizmu, nivou zrelosti, reverzibilnosti, nadzoru i riziku. Ne mogu se razmatrati kao jedno međusobno zamenljivo „unapređenje mozga“.
| Metod | Gde je korist potkrepljena dokazima | Šta se često preuveličava | Najvažnija zaštita |
|---|---|---|---|
| Stimulansi na recept | Pravilno propisani stimulansi mogu biti važan tretman stanja kao što su ADHD ili narkolepsija. | Korist u lečenju dijagnostikovanog stanja ne dokazuje bezbedno i dugotrajno opšte povećanje inteligencije kod zdravog korisnika. FDA zahteva istaknuta upozorenja o zloupotrebi, zavisnosti, predoziranju i deljenju lekova.4 | Individualna dijagnoza, nadzor nad propisivanjem lekova, procena interakcija, praćenje, bezbedno čuvanje i odsustvo pritiska da se lekovi uzimaju radi komoditeta institucije. |
| Suplementi i „nootropici“ | Ispravljanje stvarnog nutritivnog nedostatka može zaštititi kognitivne funkcije; dokazi zavise od sastojka, doze, osobe i ishoda. | Reč „prirodno“, mehanističko objašnjenje, utisak kupca ili etiketa suplementa ne dokazuju delotvornost niti odsustvo interakcija. U SAD se suplementi pre prodaje ne odobravaju od strane FDA na isti način kao lekovi.5 | Nezavisno testiranje, istinite tvrdnje, transparentnost sastojaka i doza, evidentiranje neželjenih efekata i provera interakcija lekova i suplemenata. |
| TMS | U SAD su konkretni uređaji i protokoli dobili odobrenje za stavljanje u promet za definisane kliničke indikacije, uključujući veliku depresiju i opsesivno-kompulzivni poremećaj.6 | To ne odobrava svaku zavojnicu, protokol, tvrdnju klinike ili upotrebu kao opšteg pojačivača inteligencije. TMS je neinvazivna, ali su i dalje važni kriterijumi za odabir, zaštita sluha, disciplina doziranja i obučeni nadzor. | Navedite konkretan uređaj, indikaciju, protokol, operatera, dokaze, kontraindikacije, očekivanu korist i priznate neželjene efekte. |
| tDCS i drugi oblici tES niskog intenziteta | Ove metode su dragoceni istraživački alati, a neke kliničke primene se i dalje proučavaju. | To nije trenutni „prekidač za koncentraciju“. Bezbednost u kontrolisanim ispitivanjima zavisi od protokola, mesta postavljanja elektroda, opreme, odabira učesnika i nadzora; neizvesnost u vezi sa čestom samostalnom upotrebom i dugoročnim dejstvima je veća.7 | Ne improvizujte dozu ili mesto postavljanja elektroda. Razlikujte nadzirani kućni protokol sa zaključanim parametrima od nekontrolisanog, samostalno napravljenog uređaja. |
| Neurofidbek | On u realnom vremenu pruža povratnu informaciju na osnovu izmerenih signala, kako bi osoba mogla da vežba menjanje svog odgovora. Neki protokoli deluju obećavajuće za odabrane simptome. | To je porodica metoda, a ne jedan standardni tretman. Pregled AHRQ-a iz 2024. godine utvrdio je slabe dokaze da se rezultati na skalama simptoma ADHD-a poboljšavaju u poređenju sa pasivnim kontrolnim grupama; podaci o drugim ishodima bili su manje povoljni ili nejasni, dok su poređenja sa kontrolom sa lažnom stimulacijom ostala neodređena. Registracija uređaja ne dokazuje da svaki program leči ADHD ili anksioznost, niti da povećava IQ.8 | Navedite signal, protokol, populaciju, kontrolni uslov, funkcionalni ishod, trajnost efekta, kvalifikacije stručnjaka i ukupnu cenu. |
| Interfejsi mozak-kompjuter | U malim i strogo strukturisanim ispitivanjima, BCI sistemi su nekim osobama sa paralizom ili teškim komunikacionim poremećajem pružili ograničenu mogućnost komunikacije ili upravljanja uređajima. | One ne čitaju nesputane misli i ne omogućavaju telepatiju. Konačne smernice FDA iz 2021. godine daju preporuke za pretklinička ispitivanja i izvodljivost istraživanja, kao i za osnovna ispitivanja implantabilnih BCI sistema kod pacijenata sa paralizom ili amputacijom; to nije odobrenje potrošačkog proizvoda niti odobrenje za stavljanje na tržište.9 | Dugoročna podrška, popravke, bezbedna ažuriranja, kontrola podataka, realistična mogućnost uklanjanja implanta, plan u slučaju propasti kompanije i ishodi odabrani zajedno sa osobama sa invaliditetom. |
Napredak BCI tehnologije je stvaran - i uži nego što naslovi sugerišu
U proceni tehnologije koju je 2024. godine objavila Kancelarija američke vlade za odgovornost navedeno je da su implantirani BCI sistemi u kliničkim ispitivanjima omogućili komunikacione funkcije i upravljanje, uz isticanje problema povezanih sa operacijom, dugotrajnošću uređaja, sajber-bezbednošću, dugoročnom podrškom, pristupom i upravljanjem.10 U martu 2026. kineski regulator medicinskih proizvoda objavio je odobrenje za stavljanje na tržište implantabilnog BCI sistema sa usko definisanom indikacijom za nadoknadu pokreta ruke.11 Ova faza ne znači da su dekodiranje govora u istraživanju, potrošačke slušalice ili kognitivno poboljšanje postali ista kategorija proizvoda.
IDE ili odobrenje za sprovođenje ispitivanja
Kliničko ispitivanje može se sprovoditi uz pridržavanje utvrđenih zaštitnih mera. To nije dozvola za opštu prodaju i ne dokazuje da je korist već utvrđena.
Status probojnog uređaja
FDA može omogućiti intenzivniju komunikaciju sa proizvođačem kako bi ubrzala razvoj i reviziju. Takav status nije dozvola za prodaju niti odobrenje.
Odobrena namena
510(k) odobrenje, De Novo autorizacija ili odobrenje odnosi se na konkretan uređaj i konkretnu predviđenu namenu. To nije potvrda za svaku tvrdnju koja se iznosi mimo odobrene indikacije.
Kibernetička bezbednost je deo telesne bezbednosti
Prijungto implanto ar stimuliacijos sistemos programinės įrangos pažeidžiamumas gali tapti klinikine rizika. Saugi architektūra, autentifikuota prieiga, kontroliuojami atnaujinimai, pažeidžiamumų atskleidimo mechanizmas, reagavimas į incidentus, saugus veikimas neprisijungus ir palaikymo pabaigos planas turi būti suprojektuoti iš anksto. Dabartinės FDA ikirinkiminės kibernetinio saugumo gairės tokias pareigas traktuoja kaip viso medicinos įrenginio gyvavimo ciklo dalį.12
06 · Paveldimumas nėra nustatymų meniu
CRISPR, embrionai ir „IQ redagavimo“ ribos
Somatinis genų redagavimas jau kuria tikrus gydymo būdus. Paveldimas sudėtingų kognityvinių savybių redagavimas yra visai kita mokslinė, klinikinė ir moralinė problema.
CRISPR reikėtų aprašyti pagal tai, kas realiai pasiekta. 2023 m. gruodį FDA patvirtino Casgevy – pirmąją FDA autorizuotą terapiją, naudojančią CRISPR/Cas9 genomo redagavimą. Ji redaguoja paties paciento kraujodaros kamienines ląsteles gydant pjautuvinių ląstelių ligą; ji neredaguoja embrionų, neperduoda pokyčio palikuonims ir nedidina intelekto.13
Redaguojamos vieno paciento ląstelės
Pokyčiai skirti gydyti tą žmogų ir nėra kuriami taip, kad būtų paveldimi. Rizikos vis tiek gali būti rimtos, tačiau intervencija sąmoningai nekeičia būsimos giminės linijos.
Tiriamos kiaušialąstės, spermatozoidai ar embrionai
Laboratoriniai tyrimai gali nagrinėti ankstyvąją raidą ar redagavimo metodus pagal griežtas teisines ir etikos taisykles. Leidimas tyrimui nėra leidimas pradėti nėštumą.
Sukuriamas pokytis, kurį gali paveldėti palikuonys
Redaguoto embriono perkėlimas sukuria negrįžtamų pasekmių būsimam vaikui, vėlesnėms kartoms, šeimoms ir žmonių genofondui.
Kodėl intelektas šiuo metu nėra redagavimo taikinys
Intelektas yra sudėtinga, poligeninė savybių šeima, kurią formuoja daugybė genetinių variantų, raida ir aplinka. „Poligeninis“ reiškia, kad charakteristikos skirtumus veikia daug genų. Viename dideliame genomo masto tyrime nustatyti 205 susiję lokusai, tačiau poligeniniai balai nepriklausomose imtyse paaiškino daugiausia 5,2 % intelekto dispersijos.14 Ši prognozavimo riba nereiškia, kad biologija nesvarbi; ji reiškia, kad statistinės sąsajos nesuteikia patikimo priežastinių „jungiklių“ rinkinio norimam kognityviniam rezultatui sukurti. Vienas variantas gali veikti kelias savybes; poveikis gali priklausyti nuo kitų variantų ir aplinkos; populiacinės prognozės gali blogai persikelti tarp skirtingos kilmės grupių; o embrionų redagavimas gali sukelti nenumatytus pokyčius numatytoje vietoje, už taikinio ribų, mozaikinius ar chromosominius pokyčius.15
Poligensko procenjivanje embriona i uređivanje genoma embriona takođe nisu isto. Skor procenjuje relativne verovatnoće na osnovu nasleđenih varijanti među dostupnim embrionima; on ne dodaje osobinu, ne garantuje ishod i ne dokazuje da bi uređivanje bilo bezbedno. Do datuma dokaza korišćenih u ovom članku nije postojala klinički validirana metoda CRISPR-a na embrionima za povećanje IQ-a, a priznate međunarodne smernice nisu podržavale reproduktivnu upotrebu za kognitivno poboljšanje.15
| Pitanje | Šta je neophodno znati | Trenutna poteškoća | Etička posledica |
|---|---|---|---|
| Validnost cilja | Uređena sekvenca pouzdano izaziva željeni rezultat. | Kognitivne osobine obuhvataju mnoge male, međusobno povezane veze zavisne od konteksta. | Pogrešno odabrana meta bila bi nasleđena bez pružanja obećane koristi. |
| Tehnička preciznost | Svaka predviđena ćelija se uređuje bez štetnih promena na predviđenom mestu ili van cilja. | U istraživanjima embriona i dalje su relevantni mozaicizam, velike delecije, promene hromozoma i nenamerni uticaji. | Buduće dete preuzima rizik stvoren zbog spekulativne koristi. |
| Pleiotropija | Promena ne narušava druge osobine ili razvojne puteve. | Jedan gen ili varijanta može uticati na više bioloških ishoda. | „Poboljšanje“ u jednoj dimenziji može stvoriti nevidljive gubitke drugde. |
| Prognoza | Uticaj opstaje kroz različite genetičke pozadine, živote i okruženja. | Populaciona prognoza ne određuje ishod jedne osobe. | Roditeljima se može prodavati sigurnost koju nauka nema. |
| Upravljanje | Pravo, nadzor, naknadno praćenje, odgovornost i međunarodna koordinacija funkcionišu. | Pravila se razlikuju među jurisdikcijama, a prekogranične aktivnosti otežavaju sprovođenje. | Deca i potomci ne mogu da se povuku iz prvobitne odluke. |
Međunarodna komisija koju su 2020. osnovale Nacionalne akademije SAD i Kraljevsko društvo zaključila je da nasledno uređivanje ljudskog genoma još nije spremno za kliničku primenu; čak je i hipotetički prvi put primene bio ograničen na strogo definisane teške monogenske bolesti, a ne na poligensko poboljšanje.15 Okvir upravljanja SZO iz 2021. obuhvata somatsko, uređivanje zametne linije i nasledno uređivanje kroz registre, koordinaciju, uključivanje javnosti i mere protiv nebezbednog ili neetičkog rada.16 Ovo su smernice - ne globalna licenca niti krivični zakonik koji važi širom sveta.
Ne postoji globalna dozvola - niti jedna jednostavna globalna zabrana
Mnoge jurisdikcije zabranjuju ili ograničavaju kliničko nasledno uređivanje genoma, ali se definicije, istraživački izuzeci, sankcije i sprovođenje razlikuju. SZO je pozvala regulatorna i etička tela da ne dozvole kliničko uređivanje genoma zametne linije, trenutno ga nazivajući neodgovornim.17 Ovaj stav ne bi trebalo preoblikovati u obavezni zakon u svakoj zemlji niti u zabranu svih laboratorijskih istraživanja.
07 · Moć menja značenje „izbora“
Kada optimizacija postane naredba
Formalno dobrovoljna intervencija može praktično postati obavezna kada poslodavac, škola, vojska, osiguravač, klinika, roditelji ili država kontrolišu posledice odbijanja.
Najdublji rizik nije u tome što će neki ljudi slobodno težiti većim sposobnostima. Rizik je u tome što će institucije definisati jedan poželjan kognitivni stil, stalno ga meriti i bezbednost, prihode, obrazovanje ili pripadnost učiniti zavisnim od biološke poslušnosti.
Zaposlenost
Bonus za produktivnost, pravilo za unapređenje ili program „dobrobiti“ mogu pretvoriti odbijanje u kaznu za karijeru. Pored individualnog pristanka, važni su kolektivno pregovaranje i učešće zaposlenih.
Obrazovanje
Decu i studente ne treba kažnjavati zbog odbijanja neurotehnologija, profilisati na osnovu spekulativnih procena mentalnog stanja niti gurati ka jednoj „ispravnoj“ normi pažnje.
Vojska i bezbednost
Moć hijerarhije, tajnost, dvostruka namena, dugotrajno praćenje i nadzor nakon službe čine dobrovoljnost i odgovornost naročito složenima.
Zatvori i institucije
Ponuda biološke intervencije u zamenu za puštanje na slobodu, privilegije ili uobičajenu negu stvara izuzetno visok rizik od prinude, naročito tamo gde je nezavisno zastupanje slabo.
U preporuci UNESCO-a iz 2025. godine navodi se da neurotehnologije koje se koriste na radnom mestu moraju biti zaista dobrovoljne i da odbijanje ne bi smelo da izazove negativne posledice. U njoj se takođe poziva na strogo ograničavanje upotrebe u obrazovanju, uključujući zabranu akademskog kažnjavanja zbog odbijanja ili korišćenja sistema za procenu rezultata. Za zdrave osobe mlađe od 18 godina preporučuje se izbegavanje neterapijske optimizacije.1
Autonomija obuhvata i slobodu da se postane sposobniji
Argument u korist unapređivanja zasnovan na autonomiji zaslužuje poštovanje: odrasli mogu imati ozbiljne razloge da poboljšaju pažnju, komunikaciju, pamćenje ili druge sposobnosti. Međutim, to je uslovna sloboda, a ne opšte pravo na bilo koji proizvod. Bezbednost, dokazi, zakon, uticaj na druge i pravičan pristup i dalje su važni. Najvažnije je da sloboda unapređivanja ima jednako snažno zaštićen ekvivalent: slobodu da se ne unapređuje.
Ne prisiljavajte ni na jedan put prilagođavanja
Nije ispravno primoravati ljude da promene mišljenje radi pogodnosti institucije. Jednako tako nije ispravno gušiti koristan kognitivni rast samo zato što majstorstvo čini razlike vidljivijima. Čuvajte više pravaca: lečenje, učenje, unapređivanje, svesno nekorišćenje, tišinu, saradnju, identitet osobe sa invaliditetom i izuzetnu ambiciju.
Dvostruka namena prati podatke i moć - ne samo hardver
Sistem osmišljen za komunikaciju ili rehabilitaciju kasnije može biti upotrebljen za nadzor na radnom mestu, procenjivanje bez pristanka, diskriminaciju u osiguranju, vojnu optimizaciju, ispitivanje, oglašavanje ili oblikovanje ponašanja. OECD-ova preporuka o odgovornim inovacijama u neurotehnologiji poziva vlade i programere da od samog početka uključe bezbednost, inkluziju, javno razmatranje, zaštitu moždanih podataka, odgovorno upravljanje i praćenje zloupotrebe.18
08 · Intimnije od lozinke
Neuronski podaci, zaključci i mentalna privatnost
Neuronski signal automatski nije misao. Međutim, signali u kombinaciji sa zadacima, kontekstom, podacima o ponašanju i mašinskim učenjem mogu omogućiti izvođenje osetljivih zaključaka - a sposobnosti se mogu poboljšati i nakon prikupljanja podataka.
Etički problem nije samo ono što sistem danas može da izvede. Važno je šta sačuvani podaci mogu otkriti sutra, ko može da ih poveže sa drugim zapisima i da li osoba može osporiti zaključak koji utiče na posao, osiguranje, obrazovanje, zdravstvenu zaštitu, kredit ili slobodu.
Sirovi i obrađeni podaci
EEG krive, zapisi implantata, dnevnici stimulacije, dijagnostika uređaja, signali očišćeni od artefakata i karakteristike izdvojene softverom.
Šta model odlučuje
Pažnju, nameru, umor, emociju, zdravstveno stanje, identitet, sklonost ili predviđeno ponašanje - često probabilistički i u zavisnosti od konteksta.
Šta se dešava dalje
Sugestija, prilagođavanje, medicinska odluka, oglašavanje, ocena, uskraćivanje usluge, postupak na radnom mestu ili automatizovani odgovor uređaja.
Prema Opštoj uredbi EU o zaštiti podataka, neuronski podaci nisu zasebna kategorija izričito navedena u zakonu. Ako se odnose na identifikovanu ili identifikabilnu osobu, oni predstavljaju podatke o ličnosti. Zaštita posebnih kategorija iz člana 9 GDPR-a primenjuje se na njih samo kada ispunjavaju odgovarajuću pravnu definiciju - na primer, kada su u pitanju podaci o zdravlju, genetski podaci ili biometrijski podaci koji se obrađuju u svrhu jedinstvene identifikacije.19 UNESCO-ov okvir za neurotehnologije, kao smernica za javne politike, ide dalje i preporučuje snažnu zaštitu neuronskih podataka i zaključaka o mentalnom stanju, uključujući ograničenje namene, smanjenje količine podataka, bezbednost i smislena prava na kontrolu.
| Faza | Minimalno pitanje | Odgovorna zaštita | Upozorenje |
|---|---|---|---|
| Prikupljanje | Koji su signali i kontekstualni podaci zaista neophodni? | Smanjenje količine podataka, lokalna obrada kad god je moguće, jasna namena, pristupačan aktivni pristanak i neneuronske alternative. | „Prikupimo sve sada, a kasnije ćemo odlučiti šta to znači.“ |
| Izvođenje | Šta model izvodi, sa kolikom greškom i za koju populaciju? | Validacija, prikazivanje neizvesnosti, testiranje pristrasnosti, ljudska provera, mogućnost osporavanja i ograničenja za upotrebu od velike važnosti. | Verovatnosni rezultat predstavlja se kao direktan pristup umu. |
| Deljenje | Ko dobija podatke, obeležja ili izvedene profile? | Ugovori ograničeni namenom, bez skrivene prodaje, bez nepovezanog oglašavanja, dnevnici pristupa i posebna saglasnost za sekundarna istraživanja. | „Anonimizovani“ podaci se široko dele bez procene rizika od ponovne identifikacije. |
| Čuvanje | Koliko dugo se čuvaju sirovi podaci i izvedeni modeli? | Kratko podrazumevano čuvanje, rasporedi brisanja, pristup i ispravke, pravila upravljanja modelima i plan nakon smrti osobe. | Kompanija obećava brisanje, ali neograničeno čuva vektorske reprezentacije, rezervne kopije ili obučene profile. |
| Bezbednost | Može li povreda sistema uticati na privatnost, funkcionisanje uređaja ili fizičku bezbednost? | Šifrovanje, autentifikacija, segmentirani sistemi, bezbedna ažuriranja, reagovanje na incidente, kanali za obaveštavanje i bezbedan režim rada u slučaju kvara. | Podrška ili bezbednosna ažuriranja prestaju, iako implantat ostaje u telu osobe. |
Sistem privatnosti u Sjedinjenim Državama podeljen je po sektorima
U Sjedinjenim Državama, pravilo HIPAA o privatnosti štiti zaštićene zdravstvene podatke koje poseduju ili prenose definisani zdravstveni subjekti i njihovi poslovni partneri; ono automatski ne obuhvata sve zdravstveno povezane podatke niti svaku kompaniju za potrošačko zdravlje ili neurotehnologiju. HHS pruža alat koji programerima pomaže da utvrde da li se mogu primenjivati HIPAA, FTC Act, pravilo FTC-a o obaveštavanju o povredi zdravstvenih podataka, propisi o medicinskim uređajima ili druga savezna pravila.20 Izmenjeno pravilo FTC-a o obaveštavanju o povredi zdravstvenih podataka primenjuje se na kvalifikovane pružaoce ličnih zdravstvenih kartona i povezane subjekte izvan okvira HIPAA i zahteva obaveštavanje nakon odgovarajuće povrede, uključujući neovlašćeno pribavljanje nezaštićenih identifikacionih zdravstvenih podataka iz PHR-a.21
Državno zakonodavstvo se takođe razvija. Kolorado je 2024. izmenio svoj zakon o privatnosti kako bi obuhvatio biološke podatke, uključujući neuronske podatke, dok je Kalifornija izmenila zakon o privatnosti potrošača i uključila neuronske podatke u kategoriju osetljivih ličnih podataka.2223 Ovo su važne promene, ali ne znače da Sjedinjene Države sada imaju jedan sveobuhvatan nacionalni kodeks neuroprivatnosti.
Pet prava koja vredi učiniti praktičnim
Ljudi bi trebalo da mogu da znaju šta se prikuplja i izvodi; da biraju između načina upotrebe koji zaista nisu obavezni; da pregledaju i ispravljaju podatke i značajne zaključke; da prenesu ili izbrišu informacije kada je to moguće; i da dobiju ljudsku proveru, ispravku štete i kontinuitet bezbednog nadzora u slučaju kvara sistema.
09 · Pravedan pristup bez obavezne uniformnosti
Izgradite osnovu sposobnosti - i ostavite prostor za izvrsnost
Jednakost se ne postiže zabranom tehnologije korisne svima. Ona se postiže tako što se ne dozvoljava da bogatstvo, geografija, invaliditet, jezik, rasa, rod ili institucionalna moć određuju ko dobija korist, a ko snosi rizik.
Prva obaveza jednakosti jeste da prestanemo da rasipamo ljudski potencijal koji već postoji. Mnogi ljudi još uvek nemaju kvalitetno obrazovanje, dijagnostiku, podršku za sluh i vid, rehabilitaciju, pomoćne tehnologije, digitalni pristup, čistu životnu sredinu, dovoljno sna, ishranu, bezbednost ili slobodu od supstanci i uslova koji oštećuju kognitivne funkcije.
U globalnom izveštaju SZO i UNICEF-a o pomoćnim tehnologijama utvrđeni su veliki nedostaci u pristupu, a odgovarajuća pomagala, usluge, obučeni stručnjaci i politike definisani su kao neophodni za učešće i uključivanje.24 Društvo koje raspravlja o vrhunskom neuronskom unapređenju dok ljudi ne mogu da dobiju slušni aparat, komunikaciono pomagalo ili lečenje zasnovano na dokazima još nije rešilo osnovni problem raspodele resursa.
Garantujte osnovu
- Lečenje i rehabilitaciju zasnovane na dokazima
- Pristupačno obrazovanje i celoživotno učenje
- Senzornu i komunikacionu podršku
- Čist vazduh, ishranu, san, kretanje i prevenciju povreda mozga
- Pristupačan pristup validiranim pomoćnim tehnologijama
- Zaštitu od prinude, diskriminacije, zavisnosti i toksičnog izlaganja
Omogućite ambiciozan rast
- Napredno obrazovanje i istraživačke mogućnosti
- Podršku talentima, stručnosti i neuobičajenim kognitivnim profilima
- Vreme i zaštićen prostor za originalni rad
- Alate za unapređivanje učenja pod kontrolom korisnika
- Puteve ka mentorstvu, saradnji, objavljivanju i javnom doprinosu
- Priznanje i proslavljanje izuzetnih dostignuća
Pitajte ko je zastupljen i u dokazima i u procesu dizajna
Sistem obučen ili testiran na uskoj populaciji može različito funkcionisati u različitim telima, mozgovima, jezicima, karakteristikama kože ili kose, kao i u kontekstu invaliditeta, uzrasta, kulturnih praksi i kliničkih stanja. Isključivanje iz istraživanja stvara neizvesnost; uključivanje bez stvarne moći može samo preraspodeliti rizik. Odgovorni programi nagrađuju partnere iz zajednice, čine materijale pristupačnim, objavljuju rezultate po podgrupama i omogućavaju ljudima na koje tehnologija utiče da utiču na ishode i pravila zaustavljanja.
Naknada i nabavka
Javno finansiranje može dati prednost validiranom lečenju i pomoćnim koristima, pregovarati o cenama, zahtevati pristupačnost i sprečiti da uređaj postane neupotrebljiv nakon prekida pretplate ili podrške.
Pravedan povraćaj koristi od javnih istraživanja
Uslovi finansiranja mogu obuhvatati licenciranje, pristupačnost, upravljanje podacima, lokalne kapacitete i pristup populacijama čiji su podaci ili učešće pomogli u razvoju tehnologije.
Raspodela, ne samo prosek
Objavite ko dobija intervenciju, ko čeka, ko odustaje, ko trpi štetu i ko stiče smislenu funkciju - ne samo prosečni rezultat.
Pravda bi trebalo da podigne osnovni nivo kognitivnog zdravlja i mogućnosti. Ne bi trebalo da spušta gornju granicu čovekovog učenja, originalnosti ili umeća.
10 · Ne postoji jedan zakon o neurotehnologiji
Pratite namenu, proizvod, podatke i okruženje
Na jednu intervenciju istovremeno se mogu primenjivati propisi o medicinskim uređajima, lekovima, istraživanju, privatnosti, veštačkoj inteligenciji, radu, invaliditetu, obrazovanju, zaštiti potrošača, sajber-bezbednosti i odgovornosti za proizvod.
Regulatorna tela retko tretiraju „kognitivno poboljšanje“ kao jednu kategoriju. Pravna odgovornost zavisi od toga šta proizvođač tvrdi, kako proizvod funkcioniše, ko ga koristi, da li je medicinski, koje podatke obrađuje, gde se prodaje i kakva šteta ili kakve odluke mogu proisteći.
Kome je to namenjeno?
Dijagnostika, lečenje, rehabilitacija, komunikacija, dobrobit, zabava, obrazovanje, produktivnost ili istraživanje mogu aktivirati različita pravila.
Šta se isporučuje?
Lek, implant, stimulator, softverska funkcija, laboratorijska usluga, genetski test, nosivi uređaj ili istraživački postupak podležu različitim postupcima.
Šta se prikuplja ili izvodi?
Zdravstveni, genetski, biometrijski, neuralni, bihejvioralni, radni, obrazovni i podaci o lokaciji mogu se preklapati.
Ko kontroliše odbijanje?
Izbor korisnika razlikuje se od zahteva poslodavca, škole, lekara, osiguravača, roditelja, zatvora ili vojnog rukovodstva.
| Nivo | Šta ono pruža | Šta to ne znači | Praktično pitanje |
|---|---|---|---|
| Globalne preporuke | UNESKO-va preporuka o etici neurotehnologije iz 2025. godine i preporuka OECD-a iz 2019. godine utvrđuju standarde zasnovane na pravima i odgovornosti za pristanak, bezbednost, podatke, uključivanje, upravljanje i sprečavanje zloupotrebe.118 | To su uticajni standardi javnih politika, a ne globalni regulator, odobrenje proizvoda ili ugovor koji se direktno sprovodi u svakoj zemlji. | Da li je vlada ili organizacija pretvorila principe u obavezna pravila, uslove nabavke, nadzor i mehanizme naknade štete? |
| Bioetika Saveta Evrope | Slobodan i informisan pristanak, privatnost zdravstvenih informacija i ograničenja genomskih intervencija namenjenih menjanju genoma potomaka predstavljaju ugovorne obaveze za strane Ovijedo konvencije.25 | Konvencija nije obavezujuća za svaku državu, a aktuelne rasprave o jasnijim „neur pravima“ ne bi trebalo predstavljati kao da je već usvojeno novo univerzalno pravo. | Da li je država članica konvencije i kako su njeni principi sprovedeni u nacionalnom pravu? |
| Medicinski uređaji Evropske unije | Uredba o medicinskim uređajima reguliše kvalifikovane medicinske uređaje na osnovu predviđene namene i klase rizika.26 Pravila EU takođe obuhvataju određenu nemedicinsku opremu koja kroz lobanju primenjuje električna ili magnetna polja radi promene neuronske aktivnosti.27 | MDR sam po sebi adaptivnu veštačku inteligenciju ne naziva „visokorizičnom veštačkom inteligencijom“, a CE oznaka ne potvrđuje upotrebu izvan procenjene namene. | Da li je proizvod medicinski, nemedicinski proizvod iz Priloga XVI ili ne pripada nijednoj od tih kategorija - i koji se postupak usaglašavanja primenjuje? |
| Veštačka inteligencija Evropske unije | Akt o veštačkoj inteligenciji određenu veštačku inteligenciju smatra visokorizičnom kada je bezbednosna komponenta proizvoda obuhvaćenog zakonodavstvom o bezbednosti proizvoda iz Priloga I, ili kada je sama takav proizvod, a za nju je potrebna ocena usaglašenosti treće strane. Zabranjuje određene manipulativne radnje i kategorizaciju osetljivih osobina na osnovu biometrije, a po pravilu zabranjuje prepoznavanje emocija na radnim mestima i u obrazovnim ustanovama, osim u medicinskim ili bezbednosnim slučajevima.28 | Nije svaki algoritam u aplikaciji za dobrobit visokorizičan. Prema Prilogu III Akta o veštačkoj inteligenciji, nakon 2026. godine pravila za visokorizične upotrebe primenjuju se od 2. decembra 2027, dok se na visokorizične sisteme ugrađene u regulisane proizvode iz Priloga I primenjuju od 2. avgusta 2028; za druge obaveze važe drugi datumi.29 | Koja funkcija veštačke inteligencije, kategorija rizika, izuzeće, obaveza dobavljača ili implementatora i datum primene su relevantni? |
| Sjedinjene Američke Države | Nadzor FDA zavisi od predviđene namene i klasifikacije proizvoda; na istraživanja s ljudima primenjuju se posebna pravila; HIPAA obuhvata definisane odnose u zdravstvenoj zaštiti; FTC i pravo saveznih država mogu obuhvatiti podatke potrošača i obmanjujuće tvrdnje. | Reči „wellness“, „registered“, „listed“, „breakthrough“ ili „sold online“ nisu isto što i kognitivna korist koju je odobrila FDA. To što nešto nije obuhvaćeno HIPAA propisima takođe ne znači da se ne primenjuje nijedan zakon. | Koja institucija, država, tvrdnja o proizvodu, odnos u zdravstvenoj zaštiti i praksa u vezi s podacima su relevantni? |
| Etika istraživanja | Etički pregled, informisani pristanak, registracija istraživanja, praćenje podataka i bezbednosti, naučna validnost, pravičan odabir učesnika i obaveze nakon istraživanja štite učesnike. | Odobrenje etičkog odbora ne dokazuje da eksperimentalna intervencija deluje ili da će kasnije biti odobrena za stavljanje na tržište. | Da li je istraživanje registrovano, nezavisno pregledano, naučno sposobno da odgovori na svoje pitanje i pripremljeno za dugoročnu podršku? |
Precizno opišite regulatorne praznine
Proizvod možda ne potpada pod jedan sistem, ali može potpasti pod drugi. Funkcija za dobrobit niskog rizika možda nije medicinsko sredstvo, ali obmanjujuće tvrdnje, nebezbedan hardver, neotkriveno deljenje podataka, diskriminacija ili povreda podataka i dalje mogu dovesti do odgovornosti. I obrnuto - medicinski odobren implantat i dalje može pokretati nerešena pitanja u vezi sa upotrebom na radu, vlasništvom nad podacima, ažuriranjima softvera, propadanjem kompanije, pristupom i podrškom nakon završetka istraživanja.
Pravni status nije univerzalno svojstvo tehnologije
Uvek navedite jurisdikciju, datum, uređaj, verziju, predviđenu namenu, grupu korisnika i tvrdnju. „TMS odobren“, „podaci o mozgu su zaštićeni“ ili „uređivanje polnih ćelija je zabranjeno“ preširoke su tvrdnje za stvarnu odluku.
11 · Društvo odlučuje šta znači „bolje“
Kultura, identitet, invaliditet i poverenje javnosti
Rasprave o unapređenju nikada nisu samo o tehničkom ishodu. One izražavaju uverenja o normalnosti, zaslugama, zavisnosti, majstorstvu, invaliditetu, roditeljstvu, starenju, konkurenciji i društvu u kojem ljudi žele da žive.
Tehnologija jednoj osobi može delovati oslobađajuće, a drugoj kao pritisak da se prilagodi normi. Obnavljanje izgubljene sposobnosti, sticanje nove sposobnosti i poruka da bi sadašnji način postojanja neke osobe trebalo da nestane moralno su različita iskustva - čak i kada je hardver isti.
Identitet i kontinuitet
Može li intervencija promeniti raspoloženje, autonomiju, doživljaj sebe, odnose ili osećaj da su čovekovi postupci zaista njegovi? Ove ishode treba istražiti, a ne pretpostavljati.
Trud i postignuća
Alat automatski ne briše disciplinu ili autorstvo; sva dostignuća već sada zavise od biologije, kulture, nastavnika, alata i mogućnosti. Ipak, skrivena ili obavezna prednost i dalje može učiniti takmičenje nepoštenim.
Različiti vredni umovi
Podrška kognitivnom razvoju ne zahteva nametanje jedne ličnosti, oblika učenja, modela pažnje ili načina komunikacije kao jedinog prihvatljivog ishoda za čoveka.
Perspektive osoba sa invaliditetom moraju biti u središtu
Mnoge neurotehnologije razvijaju se za osobe sa invaliditetom, ali prioritete mogu određivati inženjeri, investitori, lekari ili porodice, bez davanja ravnopravne moći budućim korisnicima. Konvencija UN o pravima osoba sa invaliditetom zahteva od država koje su je ratifikovale da poštuju autonomiju, nediskriminaciju, pristupačnost, učešće i inkluziju.30 Zajedničko oblikovanje trebalo bi započeti pre utvrđivanja ishoda: neki ljudi mogu više ceniti preciznost komunikacije, manji zamor, prenosivost, popravljivost, privatnost ili očuvanje postojećeg načina izražavanja nego laboratorijski standard.
Poštovanje podrazumeva i dopuštanje različitih zaključaka. Jedna osoba može želeti restorativni implantat; druga, sa istom dijagnozom, može ga odbiti ili svoj invaliditet smatrati delom identiteta i zajednice. Nijedna odluka ne čini osobu protivnikom nauke. Obaveza je da se obezbedi da oba izbora budu zasnovana na informacijama, praktično izvodljiva i da ne podrazumevaju napuštanje.
Javno mnjenje zavisi od konkretnog scenarija
Opšti procenti, poput „ljudi podržavaju lečenje, ali ne odobravaju unapređivanje“, prikrivaju formulaciju, rizik, populaciju i zemlju. U anketi koju je 2022. godine objavio Pew Research Center u SAD, 77 % ispitanika podržalo je upotrebu moždanih implantata za poboljšanje kretanja kod osoba sa paralizom, a 64 % upotrebu implantata za lečenje opadanja mentalnih sposobnosti povezanog sa starenjem. Međutim, samo 13 % smatralo je da bi široko rasprostranjena upotreba hipotetičkog implantata koji ubrzava i unapređuje obradu informacija bila dobra za društvo; 60 % je očekivalo da će ljudi osećati pritisak da ga kupe, a 57 % da će se povećati jaz između Amerikanaca sa višim i nižim prihodima.31 Ovo su zaključci o konkretno formulisanim scenarijima u SAD, a ne univerzalni moralni zakoni.
Javna rasprava mora imati posledice
Građanski forumi, dizajn koji vode osobe sa invaliditetom, zastupanje zaposlenih, grupe pacijenata, učešće mladih i javne konsultacije mogu otkriti vrednosti i štetu koje stručnjaci ne uočavaju. Međutim, poverenje nastaje tek kada organizatori objave ko je učestvovao, koji su dokazi izneti, kako se postupalo sa neslaganjima i koje su se odluke zaista promenile.
Transhumanizam je porodica argumenata, a ne konačna presuda
Neki zagovornici svesno unapređivanje vide kao nastavak medicine, obrazovanja i upotrebe alata - moralnu mogućnost za smanjenje patnje i proširenje ljudskih sposobnosti. Kritičari brinu zbog nepovratnih eksperimenata, komercijalne kontrole, prinudne konkurencije, gubitka raznolikosti i društva podeljenog prema pristupu. „Igramo se Boga“ i „napredak je neizbežan“ podjednako su kratki odgovori. Bolja rasprava poredi konkretne intervencije, dokaze, strukture moći, alternative i reverzibilne korake.
Poverenje javnosti nećemo steći tražeći od ljudi da više veruju. Zaslužićemo ga stvaranjem institucija vrednih poverenja - i time što ćemo odustajanje učiniti bezbednim.
12 · Upravljajte celim životnim ciklusom
Model koji štiti napredak, umesto da ga zamrzne
Dobro upravljanje nije ceremonijalna provera na kraju. Ono oblikuje cilj, dokaze, dizajn, uvođenje, praćenje, poslovni model i, na kraju, okončanje upotrebe tehnologije.
-
Definišite vredan ljudski cilj. Identifikujte problem, pogođene ljude, željeni svakodnevni ishod i netehnološke alternative. Ne počinjite od uređaja koji traži tržište.
-
Napravite mapu koristi, tereta i moći. Utvrdite ko bira, plaća, ostvaruje profit, daje podatke, pruža neplaćenu pomoć, može da odbije, preuzima fizički rizik i ko bi pretrpeo štetu ako sistem otkaže.
-
Izgradite dokaze srazmerne tvrdnji. Koristite relevantna poređenja, smislene ishode, reprezentativne učesnike, dovoljno dugo praćenje, nezavisno ponavljanje i javnu registraciju.
-
Ugradite prava u proizvod. Smanjite količinu podataka, kreirajte pristupačne kontrole, bezbedne podrazumevane opcije, jasno prikazano stanje sistema, ručno preuzimanje kontrole, bezbedna ažuriranja, prenosivost i mogućnost povlačenja bez kaznenih posledica.
-
Koristite nezavisan i raznolik nadzor. Uključite stručnost iz tehničkih, kliničkih, etičkih, pravnih oblasti, oblasti sajber-bezbednosti, invaliditeta, radnika, prava deteta i zajednice, kao i otkrivanje sukoba interesa.
-
Uvodite postepeno. Pre prelaska sa istraživanja na širu upotrebu utvrdite kriterijume uključivanja, ograničenja, pravila za obustavu, praćenje, podršku korisnicima, put za podnošenje žalbi i datum isteka ili obnove.
-
Merite život nakon početnog merenja. Pratite funkcionisanje, učenje, autonomiju, raspoloženje, identitet, san, odnose, nejednakost, retku štetu, zavisnost od uređaja, održavanje i ishod nakon prestanka korišćenja.
-
Garantujte otklanjanje štete i kontinuitet. Obezbedite ispravku, naknadu kada je opravdana, klinički nadzor, bezbedno uklanjanje implanta, brisanje podataka kada je moguće, održavanje bezbednosti i plan za slučaj zatvaranja kompanije.
Zone odgovorne inovacije
Privremeni pilot-projekti ili regulatorne „peskovnice“ mogu pomoći u učenju ako su učesnici jasno definisani, postoji nezavisan nadzor, javni protokoli, stvarni pristanak, pragovi dokaza, stalno praćenje, transparentni rezultati, pravila za obustavu i put ka redovnom pravu. „Peskovnica“ je kontrolisani eksperiment - nije mesto na kojem prava nestaju.
Otvorena bezbednosna infrastruktura
Registri istraživanja, identifikatori uređaja, sistemi za prijavljivanje neželjenih događaja, otkrivanje ranjivosti, objavljivanje protokola, negativni rezultati, evidencija modela i verzija, kao i praćenje nakon stavljanja na tržište mogu otkriti obrasce koje nijedna organizacija ne vidi. Otvorenost ipak mora štititi privatnost i bezbednost učesnika.
Crvene linije institucija
- Bez skrivenog ili obaveznog merenja neuronskih signala na uobičajenom poslu ili u obrazovanju.
- Bez kažnjavanja zbog odbijanja nepotrebne neurotehnologije ili prikupljanja podataka.
- Bez krivične odluke zasnovane isključivo na neodređenom zaključku o mentalnom stanju.
- Bez tvrdnje da uzak neuronski signal pruža neograničen pristup mislima.
- Bez neterapijske optimizacije zdrave dece invazivnom ili nepovratnom tehnologijom.
- Bez prodaje neuronskih podataka ili mentalnih profila pod nejasnim opštim pristankom.
- Bez instalacije bez plana za sigurno ažuriranje, održavanje, povlačenje i propast kompanije.
- Nema korišćenja „etike“ kao marketinške reči kada nema nezavisne revizije i naknade štete.
Zaštita i ambicija su saveznice
Jasni standardi dokaza štite ozbiljne istraživače od preterivanja konkurenata. Privatnost i bezbednost smanjuju rizik od katastrofalnog neuspeha. Pravedan pristup povećava broj ljudi koji mogu imati koristi i doprineti. Pravi pristanak jača poverenje i kvalitet podataka. Upravljanje bi trebalo da učini vrednu inovaciju održivijom - a ne da kognitivni napredak pretvori u nešto sramotno.
13 · Pretvorite principe u pitanja
Alati za donošenje odluka za ljude i institucije
Najbolje pitanje retko glasi: „Da li je unapređivanje dobro?“ Bolje pitanje glasi: „Da li je ova intervencija, za ovu svrhu i ovu osobu, pod ovim uslovima, odgovoran način za postizanje vredne sposobnosti?“
Pre upotrebe ili uključivanja u istraživanje
- Koja tačno sposobnost ili svakodnevni ishod treba da se poboljša?
- Da li je to odobreno lečenje, klinička primena van odobrene indikacije, istraživanje, proizvod za dobrobit ili spekulacija?
- Koje je najbolje poređenje - i kolike su korist i njeno trajanje?
- Koja kratkoročna i dugoročna šteta je merena i šta još nije poznato?
- Da li bi problem mogli da reše san, zdravlje, obrazovanje, senzorna nega, rehabilitacija ili neki drugi bezbedniji put?
- Mogu li da prekinem, vratim prethodna podešavanja, uklonim uređaj, zadržim uobičajenu negu i dobijem ili obrišem svoje podatke?
- Ko vidi sirove podatke i zaključke, i da li oni mogu biti prodati, ponovo korišćeni, zatraženi od organa za sprovođenje zakona ili spojeni sa drugim izvorima?
- Ko plaća nadzor, ažuriranja, komplikacije, zamenu i uklanjanje?
- Šta se dešava kada proizvođač promeni uslove, kupi ga druga kompanija, obustavi podršku ili se ugasi?
- Da li ovo biram zbog svojih ciljeva - ili reagujem na strah, pritisak, reklamu, ocene ili zahteve posla?
Tabela za procenu upravljanja za organizacije
| Oblast | Dokaz odgovornosti | Model neuspeha | Minimalna naknada štete |
|---|---|---|---|
| Cilj | Definisana ljudska potreba i ishod, uz dizajn kreiran zajedno sa pogođenim ljudima. | Tehnologija se uvodi samo zato što postoji ili zato što je koriste konkurenti. | Ponovo proceniti alternative i obustaviti upotrebu koja nema legitiman cilj. |
| Dokazi | Ponovljeni dokazi namenjeni konkretnoj tvrdnji, sa smislenim rezultatima i praćenjem. | Promena moždane aktivnosti, povratna informacija ili regulatorna registracija prodaju se kao povećanje inteligencije. | Ispraviti tvrdnje, po potrebi vratiti novac i zahtevati snažnije istraživanje. |
| Pristanak | Pristupačan aktivni pristanak, detaljni izbori, kontinuirani nadzor, bez odmazde i stvarna mogućnost povlačenja. | Pristanak je ugrađen u uslove rada, obrazovanja, nege ili nepovezane usluge. | Obezbediti neneuronski način i ukinuti negativne posledice odbijanja. |
| Podaci | Smanjenje količine podataka, ograničenja svrhe, bezbednost, pristup, ispravka, brisanje i upravljanje zaključcima. | Sirovi podaci se neograničeno čuvaju zbog neodređene „inovacije“. | Zaustaviti sekundarnu upotrebu, izbrisati podatke kad je moguće, obavestiti, ispraviti i nadoknaditi štetu. |
| Ravnopravnost | Reprezentativni dokazi, pristupačan dizajn, pravična naknada, rezultati po podgrupama i deljenje koristi. | Marginalizovane grupe snose rizik istraživanja, dok korist dobijaju samo bogati korisnici. | Preoblikovati pristup, nabavku, izbor učesnika i praćenje. |
| Bezbednost | Upravljanje kliničkim i sajber-rizicima, pravila zaustavljanja, evidentiranje neželjenih događaja i kontrola verzija. | Izmene softvera tiho menjaju funkciju nakon početne provere. | Vratiti prethodnu verziju, obelodaniti, istražiti, pomoći pogođenim korisnicima i ponovo odobriti značajnu izmenu. |
| Kontinuitet | Održavanje, interoperabilnost, popravka, uklanjanje implantata i finansiranje u slučaju propasti kompanije. | Pretplata, akvizicija kompanije ili stečaj ostavljaju osobu sa hardverom koji se više ne podržava. | Rezervna sredstva, prenos podrške, očuvanje ključnih funkcija i finansiranje bezbednog povlačenja. |
| Odgovornost | Jasno utvrđena odgovornost, nezavisna revizija, javni izveštaji, žalbeni postupak i stvarno sprovodiva naknada štete. | Svaki akter upućuje na drugog izvođača, algoritam, lekara ili korisnika. | Pre uvođenja odrediti odgovorne institucije i tokom čitave upotrebe očuvati mogućnost naknade štete. |
Test tvrdnje od jednog minuta
Zamolite prodavca da dovrši jednu rečenicu: „Kod ljudi poput vas, upravo je ovaj proizvod pokazao da poboljšava ovaj ishod iz stvarnog života za ovoliko, tokom ovoliko vremena, u poređenju sa ovom alternativom, uz ove poznate rizike i ove preostale neizvesnosti.“ Ako svako prazno mesto popunjavaju jezik prestiža, slike neurovizualizacije ili pritisak da se požuri, dokazi još nisu dovoljno jasni.
14 · Jasni odgovori
Često postavljana pitanja
Oblast se brzo menja, ali nekoliko jasnih razlika sprečava većinu nesporazuma.
Da li je kognitivno poboljšanje samo po sebi neetično?
Ne. Obrazovanje, rehabilitacija, pomoćne tehnologije i mnogi medicinski tretmani već proširuju kognitivne sposobnosti. Intervencija postaje etički problematična zbog slabih dokaza, nesrazmernog rizika, prinude, obmane, nepravedne raspodele, uticaja koji menja identitet bez dovoljnog pristanka, nametljive upotrebe podataka ili izostanka naknade štete. Treba procenjivati konkretan slučaj, a ne celu kategoriju.
Da li društvo treba aktivno da podržava povećanje inteligencije i rast IQ-a?
Da. Društvo bi trebalo da štiti zdravlje mozga, obezbedi odlično obrazovanje i celoživotno učenje, leči bolesti, smanji štetu od toksina i opojnih supstanci, omogući koncentraciju, pažljivo meri sposobnosti i pruži ljudima prilike da napreduju i daju doprinos. Dobro validiran viši kognitivni rezultat predstavlja značajan dokaz boljeg učinka u merenim sposobnostima. Kada su te sposobnosti neophodne za razumevanje ili rešavanje složenog problema, doprinos osobe može postati izuzetno važan. Takva dostignuća zaslužuju poštovanje i slavljenje. Mudrost, kreativnost, karakter, znanje i kvalitet odlučivanja ostaju povezani, ali predstavljaju zasebna dostignuća; njihovo vrednovanje ne zahteva pretvaranje da izmerena inteligencija nije važna.
Da li vrednovanje izuzetne inteligencije znači da neki ljudi nisu važni?
Ne. Ljudske sposobnosti i društveni doprinos smisleno se razlikuju, a retka inteligencija ili stručnost mogu biti izuzetno važne. Društvo bi trebalo da štiti, konsultuje, ulaže resurse u ljude koji mogu stvoriti izuzetan doprinos i da ih slavi. Istovremeno, osnovna prava i zaštita od nasilja ne treba da se zaslužuju ocenom. Ovi principi se međusobno osnažuju: univerzalna zaštita omogućava većem broju ljudi da napreduju, a poštovanje izvrsnosti čuva dostignuća korisna svima.
Može li interfejs mozak-kompjuter čitati misli?
Današnji sistemi mogu klasifikovati ili dekodirati ograničene signale pod određenim uslovima - na primer, pokušaj pokreta, odabrane odgovore ili pokušaj govora nakon obuke sistema. Tačnost zavisi od uređaja, osobe, zadatka, podataka i modela. To nije neograničen pristup privatnim mislima. Međutim, čak i delimični zaključci mogu biti osetljivi, a sačuvani podaci u budućnosti mogu omogućiti izvođenje snažnijih zaključaka, pa je zaštita potrebna i pre nego što „čitanje misli“ postane bukvalna stvarnost.
Da li su potrošački tDCS uređaji bezbedni samo zato što koriste slabu struju?
Nizak intenzitet ne znači da su svi uređaji, rasporedi elektroda, protokoli ili korisnici ravnopravni. Podaci o bezbednosti kontrolisane upotrebe uobičajenih istraživačkih protokola prilično su ohrabrujući, ali se ne mogu automatski primeniti na lošu opremu, nepravilan raspored elektroda, česte sesije bez nadzora, zdravstvena stanja koja međusobno deluju ili dugotrajno samostalno eksperimentisanje. Mogućnost kupovine na internetu ne dokazuje autorizaciju ili kognitivnu korist.7
Može li CRISPR povećati IQ budućeg deteta?
Ne postoji klinički validirana, predvidiva i bezbedna metoda za uređivanje embriona radi povećanja IQ-a. Inteligencija je veoma poligenska i snažno oblikovana okruženjem; povezanosti nisu jednostavni uzročni prekidači; uređivanje može stvoriti nepredviđene genomske promene; a buduće dete i njegovi potomci ne mogu dati pristanak. Prave somatske CRISPR terapije ne bi trebalo koristiti za stvaranje utiska da je nasledno kognitivno poboljšanje već spremno.
Da li regulatorno odobrenje dokazuje da proizvod funkcioniše onako kako se reklamira?
Samo u meri u kojoj to dopuštaju značenje konkretnog regulatornog puta i odobrena predviđena namena. Dozvola za sprovođenje istraživanja, registracija uređaja, status „breakthrough“, odobrenje 510(k), autorizacija De Novo i odobrenje pre stavljanja na tržište različite su stvari. Uvek proverite tačan proizvod, indikaciju, grupu korisnika, verziju i tvrdnju; širi marketinški jezik kompanije može prekoračiti namenu koju je regulator procenio.
Da li su neuronski podaci uvek zaštićeni kao medicinske informacije?
Ne. Zaštita zavisi od nadležnosti, sadržaja, svrhe, organizacije i odnosa. U EU se na identifikacione neuronske podatke primenjuje GDPR, a zaštita posebnih kategorija može se primenjivati kada oni ispunjavaju relevantne definicije. Američki HIPAA ne obuhvata automatski svaku potrošačku kompaniju, iako se mogu primenjivati pravila FTC-a i saveznih država. Odgovorni pružalac usluga trebalo bi da poštuje visok standard zaštite neuronskih podataka čak i kada pravni minimum nije jasan.
Da li će stroža etička pravila zaustaviti inovacije?
Loše osmišljena pravila mogu usporiti vredan rad, ali odsustvo pravila može izazvati povrede, skandale, eksploataciju podataka, odbacivanje od strane društva i nepodržane implantate - sve to takođe usporava napredak. Srazmerno upravljanje stvara jasnije puteve: za intervencije većeg rizika ili nepovratne intervencije potrebni su snažniji dokazi i nadzor, za alate niskog rizika lakše obaveze, a za prinudu i obmanu jasne crvene linije.
Zaključak
Čuvajte slobodu da rastete - i um koji raste
Kognitivno unapređenje ne zaslužuje ni obožavanje ni refleksivno odbacivanje. Zaslužuje samo preciznost, ambiciju, dokaze, poštovanje i demokratsku kontrolu.
Ljudska inteligencija može biti izuzetno vredna: biološki utemeljena, razvijana tokom čitavog života, jačana učenjem i sposobna da stvara doprinose koje nijedan kupljeni predmet ili administrativni sistem ne može jednostavno da zameni. Trebalo bi da je štitimo od izbežne štete, ulažemo u njen razvoj i slavimo ljude koji njome proširuju znanje i život.
Međutim, upravo zato što je inteligencija vredna, niko ne bi trebalo da bude prinuđen da menja svoj mozak, sveden na neuronski skor, profilisan na osnovu nepouzdanog zaključka, ostavljen sa nepodržanim hardverom ili prinuđen da menja mentalnu privatnost za obrazovanje, posao ili negu. Unapređenje treba da služi čoveku - a ne čovek unapređenju.
Doživotni put povezuje dve obaveze. Podignuti opštu osnovu: zdravlje, obrazovanje, rehabilitaciju, pristupačnost, bezbednost i slobodu od eksploatacije. I držati plafon otvorenim: za napredno učenje, originalan rad, terapijske proboje, pomoćne tehnologije i pažljivo kontrolisane načine proširivanja ljudskih sposobnosti. Omogućiti ljudima prostor da razmišljaju sami, ljude kojima mogu da se vrate i institucije sposobne da podrže ideju kada se pojavi.
Napredak nije samo u bržem mozgu ili moćnijem uređaju. To je veća sposobnost uz veću autonomiju - više moći da razumemo i stvaramo, više slobode da biramo i više mudrosti da odlučimo koje moći uopšte ne bi trebalo koristiti.
Osnova dokaza
Izvori i ključni dokumenti javnih politika
- UNESKO. Preporuka o etici neurotehnologije, usvojena 2025.
- UNESKO. Univerzalna deklaracija o bioetici i ljudskim pravima, 2005.
- Svetsko lekarsko udruženje. Helsinška deklaracija: etička načela za medicinska istraživanja koja uključuju ljude, izdanje iz 2024.
- Američka Uprava za hranu i lekove. FDA ažurira upozorenja radi bezbednije upotrebe stimulansa koji se izdaju na recept, 2023.
- Nacionalni centar NIH-a za komplementarno i integrativno zdravlje. Promišljena upotreba dodataka ishrani.
- Američka Uprava za hranu i lekove. FDA odobrava stavljanje na tržište sistema za transkranijalnu magnetnu stimulaciju za opsesivno-kompulzivni poremećaj, 2018.
- Antal A, Bjekić J, Ganho-Ávila A, et al. Transkranijalna električna stimulacija niskog intenziteta: smernice za bezbednost, etiku, pravo, regulativu i primenu (2017-2025: ažuriranje). Klinička neurofiziologija. Objavljeno na internetu 23. novembra 2025; tom 184 (april 2026). Odobrili ESBS i IFCN.
- Agencija za istraživanje i kvalitet zdravstvene zaštite. Dijagnostikovanje i lečenje ADHD-a kod dece i adolescenata: dokazi o lečenju, 2024.
- Američka Uprava za hranu i lekove. Implantirani interfejsi mozak-računar za pacijente sa paralizom ili amputacijom, konačne smernice, 2021.
- Američka Kancelarija za odgovornost vlade. Interfejsi mozak-računar: primene, izazovi i opcije javnih politika, 2024.
- Nacionalna uprava za medicinske proizvode Kine. Najava odobrenja za stavljanje na tržište implantabilnog BCI sistema za nadoknadu pokreta šake, 2026.
- Američka Uprava za hranu i lekove. Sajberbezbednost medicinskih uređaja: razmatranja sistema kvaliteta i sadržaj podnesaka pre stavljanja na tržište, konačne smernice, 27. jun 2025.
- Američka Uprava za hranu i lekove. FDA odobrava prve genske terapije za lečenje pacijenata sa srpastom anemijom, 2023.
- Poligenske osobine i istraživanje inteligencije. Nacionalni institut za istraživanje ljudskog genoma, Poligenska osobina; Savage i dr., Metaanaliza asocijacija širom genoma na 269.867 osoba otkriva nove genetičke i funkcionalne veze sa inteligencijom, Nature Genetics, 2018.
- Međunarodna komisija za kliničku upotrebu uređivanja ljudskog germinativnog genoma. Nasledno uređivanje ljudskog genoma, Nacionalne akademije / Kraljevsko društvo, 2020.
- Svetska zdravstvena organizacija. Uređivanje ljudskog genoma: okvir za upravljanje, 2021.
- Svetska zdravstvena organizacija. Izjava o upravljanju i nadzoru uređivanja ljudskog genoma, 2019.
- OECD. Preporuka Saveta o odgovornim inovacijama u neurotehnologiji, 2019.
- Evropska unija. Opšta uredba o zaštiti podataka (EU) 2016/679.
- Ministarstvo zdravlja i socijalnih usluga SAD. Resursi za programere mobilnih zdravstvenih aplikacija.
- Savezna trgovinska komisija SAD. FTC završava izmene Pravila o obaveštavanju o povredi zdravstvenih podataka, 2024.
- Generalna skupština Kolorada. HB24-1058: Zaštita privatnosti bioloških podataka, 2024.
- Zakonodavna skupština Kalifornije. SB 1223: Privatnost potrošača—neuralni podaci, 2024.
- Svetska zdravstvena organizacija i UNICEF. Globalni izveštaj o asistivnoj tehnologiji, 2022.
- Savet Evrope. Konvencija o ljudskim pravima i biomedicini (Ovijedska konvencija).
- Evropska unija. Uredba (EU) 2017/745 o medicinskim uređajima.
- Evropska unija. Zajedničke specifikacije za nemedicinske proizvode iz Aneksa XVI, uključujući određenu opremu za stimulaciju mozga.
- Evropska unija. Uredba (EU) 2024/1689: Akt o veštačkoj inteligenciji.
- Evropska komisija. Regulatorni okvir Akta o veštačkoj inteligenciji i vremenski okvir njegove primene.
- Ujedinjene nacije. Konvencija o pravima osoba sa invaliditetom.
- Pew Research Center. Javnost oprezna u vezi sa unapređenjem kognitivnih funkcija pomoću implantata računarskih čipova u mozgu, istraživanje u SAD, objavljeno 2022.
Dokazi pregledani do 3. septembra 2026. Politike, odobrenja i status proizvoda mogu se menjati; proverite trenutno stanje u relevantnoj jurisdikciji.