ნამდვილი კითხვა მხოლოდ ეს არ არის: „შეგვიძლია ამის შექმნა?“

განვითარებად ტექნოლოგიებს ადამიანური შესაძლებლობების გაფართოება შეუძლია. მათ ასევე შეუძლიათ ძველი გარიყვის ფორმების უფრო დიდი სისწრაფითა და მასშტაბით გამეორება. პასუხისმგებლიანი ინოვაცია სვამს კითხვას, როგორი პროგრესი იქმნება, ვისთვის და ვისი კონტროლის ქვეშ.

ხელოვნურ ინტელექტს შეუძლია გაკვეთილების თარგმნა, დიაგნოსტიკის ხელშეწყობა და რთული ინსტრუმენტების გამოყენების გამარტივება. გენურ და უჯრედულ თერაპიებს შეუძლია იმ დაავადებების ბიოლოგიურ მიზეზებზე ზემოქმედება, რომელთა მკურნალობაც ადრე მხოლოდ სიმპტომების უწყვეტ მართვას გულისხმობდა. ნეიროტექნოლოგიამ შეიძლება აღუდგინოს კომუნიკაციის ან მოძრაობის უნარი მძიმე შეზღუდვების მქონე ზოგიერთ ადამიანს. თითოეული ასეთი განვითარება შეიძლება მართლაც ღირებული იყოს ისე, რომ ყველასთვის ხელმისაწვდომი, თანაბრად ეფექტური ან ეთიკურად სრულყოფილი არ იყოს.

გამოგონებასა და საზოგადოებრივ სარგებელს შორის არსებული უფსკრული სწორედ ის სივრცეა, სადაც მრავალი ეთიკური კითხვა ჩნდება. სერვისი შეიძლება ტექნიკურად არსებობდეს, მაგრამ გამოუყენებელი დარჩეს, რადგან ის მიუწვდომელია ფასის გამო, ფიზიკურად მიუწვდომელია, არ არის ხელმისაწვდომი ადამიანის ენაზე ან დამოკიდებულია ინფრასტრუქტურაზე, რომელიც მის საზოგადოებას არ აქვს. სისტემა შეიძლება საშუალოდ კარგად მუშაობდეს, მაგრამ პატარა ჯგუფს არაერთხელ ვერ მოემსახუროს. მკურნალობა შეიძლება კლინიკურად შთამბეჭდავი იყოს, თუმცა საჭიროებდეს სპეციალიზებულ ცენტრებს, ხანგრძლივ მოვლას, მგზავრობასა და შემდგომ მეთვალყურეობას, რის გამოც მასზე წვდომა გაცილებით რთულდება, ვიდრე მხოლოდ მისი ფასი მიანიშნებს.

2025 წელს საერთაშორისო სატელეკომუნიკაციო კავშირმა შეაფასა, რომ 2.2 მილიარდი ადამიანი კვლავ ოფლაინში იყო, უმეტესად დაბალი და საშუალო შემოსავლის მქონე ქვეყნებში.1 კავშირი უზარმაზრად გაფართოვდა, მაგრამ ინტერნეტის მომხმარებელთა რაოდენობის მხოლოდ სათაურში გამოტანილი მაჩვენებელი არ ავლენს კავშირის ხარისხს, მოწყობილობებზე წვდომას, ხელმისაწვდომ ფასს, ციფრულ უნარებს, ხელმისაწვდომობას ან იმას, არის თუ არა სასარგებლო სერვისები ადგილობრივად ხელმისაწვდომი. მსგავსი ფენები გვხვდება ჯანდაცვაში, განათლებასა და საჯარო სერვისებშიც.

ხელმისაწვდომობა მინიმუმ ექვსი რგოლისგან შემდგარი ჯაჭვია

პროდუქტის „ხელმისაწვდომად“ მოხსენიებამ შეიძლება დამალოს პრაქტიკული მანძილი მის არსებობასა და ადამიანის უნარს შორის, უსაფრთხოდ მიიღოს მისგან სარგებელი.

თუ რომელიმე არსებითი რგოლი ვერ მუშაობს, ნომინალურმა ხელმისაწვდომობამ შეიძლება მცირე სარგებელი მოიტანოს. უფასო სასწავლო პლატფორმა რეალურად ხელმისაწვდომი არ არის ოჯახისთვის, რომელიც ერთ არასაიმედო მოწყობილობას ინაწილებს. დიაგნოსტიკური მოდელი სამართლიანი არ არის, თუ ის ქვეჯგუფისთვის ცუდად მუშაობს და კლინიცისტები ამის შესახებ გაფრთხილებული არ არიან. მაღალტექნოლოგიური მკურნალობა პაციენტამდე ვერ აღწევს მხოლოდ იმიტომ, რომ მზღვეველი წამალს ფარავს, თუ მგზავრობა, ნაყოფიერების შენარჩუნება, სამსახურისგან ხანგრძლივი გათავისუფლება ან ხანგრძლივი მოვლა კვლავ შეუძლებელია.

თანასწორობა და სამართლიანობა ერთმანეთთან დაკავშირებულია, მაგრამ იდენტური არ არის

თანასწორობა ხშირად ნიშნავს ერთი და იმავე რესურსის ან წესის ყველასთვის უზრუნველყოფას. სამართლიანობა კი განიხილავს, ხელს უშლის თუ არა განსხვავებული საწყისი პირობები და საჭიროებები ამ ფორმალურად თანაბარი შეთავაზებით სამართლიანი შესაძლებლობის შექმნას. ზოგჯერ ყველაზე სამართლიანი დიზაინი უნივერსალურია: სუბტიტრები, მკაფიო ენა და უსაფრთხო ნაგულისხმევი პარამეტრები ბევრ ადამიანს ეხმარება. ზოგჯერ დამატებითი მხარდაჭერაა საჭირო: ადაპტირებული ინტერფეისი, მგზავრობის დახმარება, საზოგადოებრივი ჯანდაცვის მუშაკი ან ოფლაინ-გზა.

უთანასწორობა ინოვაციის ნებისმიერ ეტაპზე შეიძლება შემოიჭრას

მიკერძოება მხოლოდ ალგორითმის ნაკლი არ არის. ის შეიძლება დაიწყოს იმით, თუ რომელი პრობლემები იღებს დაფინანსებას, გაგრძელდეს კვლევასა და დიზაინში და კვლავ გამოჩნდეს, როცა ინსტრუმენტი უთანასწორო სამყაროს ეჯახება.

1. პრობლემის შერჩევა

   ინვესტიციები მიჰყვება სტიმულებს, პოლიტიკურ პრიორიტეტებსა და მსყიდველუნარიანობას. ნაკლები საბაზრო გავლენის მქონე ადამიანების საჭიროებები შეიძლება არასაკმარისად იყოს შესწავლილი მაშინაც კი, როცა მათი სოციალური ფასი მაღალია.

2. მტკიცებულებები და მონაცემები

   ვინ მონაწილეობს, გავლენას ახდენს იმაზე, რის შესწავლას შეძლებენ მკვლევრები. გამოტოვებულმა ჯგუფებმა, არასათანადო გაზომვამ, ისტორიულმა დისკრიმინაციამ და წარსულში მიღებულ მცდარ გადაწყვეტილებებზე დაფუძნებულმა იარლიყებმა შეიძლება შედეგებზე გავლენა იქონიოს მანამ, სანამ მოდელი მომზადდება ან პროდუქტი გამოიცდება.

3. დიზაინის არჩევანი

   ენა, ნაგულისხმევი პარამეტრები, მოწყობილობის მოთხოვნები, სენსორული აღქმის შესახებ დაშვებები და „ნორმალურის“ განსაზღვრებები განსაზღვრავს, ვის შეუძლია სისტემის კომფორტულად გამოყენება და ვისი ქცევა მიიჩნევა გამონაკლისად.

4. დანერგვის პირობები

   ერთ დაწესებულებაში დადასტურებული ინსტრუმენტი შეიძლება სხვაგვარად მუშაობდეს იქ, სადაც თანამშრომელთა რაოდენობა, ინფრასტრუქტურა, კულტურა, დაავადებების გავრცელება ან სტიმულები განსხვავებულია. კონტექსტი შედეგიანობის ნაწილია.

5. შედეგები და ტვირთი

   გაზომეთ არა მხოლოდ სიზუსტე ან გამოყენების მაჩვენებელი, არამედ ლოდინის დრო, მცდარი გადაწყვეტილებები, კონფიდენციალურობის დაკარგვა, აუნაზღაურებელი შრომა, გარემოსდაცვითი ხარჯი და უარის თქმის შეუძლებლობის შედეგები.

6. უკუკავშირი, გამოსწორება და გასვლის შესაძლებლობა

   წარუმატებლობასთან ყველაზე ახლოს მყოფი ადამიანები მას ხშირად პირველად ამჩნევენ. მათ სჭირდებათ ანგარიშგების თვალსაჩინო გზა, დროული ადამიანური რეაგირება, ჩანაწერების შესწორება და უსაფრთხო ალტერნატივა პრობლემის გამოკვლევის პერიოდში.

განვითარებადი ტექნოლოგიის ეთიკური კომპასი

ეთიკური პრინციპები ერთ ავტომატურ პასუხს არ წარმოშობს. ისინი მნიშვნელოვან ღირებულებებს ხილულს ხდიან, კონფლიქტებს ავლენენ და ინსტიტუტებს ეხმარებიან, ახსნან, რატომ არის გადაწყვეტილება გამართლებული.

პრინციპებიდან მმართველობამდე

იუნესკოს რეკომენდაცია ხელოვნური ინტელექტის ეთიკის შესახებ ადამიანის უფლებებსა და ღირსებას ცენტრში აყენებს და სამართლიანობის, ინკლუზიისა და ადამიანური ზედამხედველობისკენ მოუწოდებს.2 ჯანმოს საქმიანობა ჯანმრთელობისთვის ხელოვნური ინტელექტისა და ადამიანის გენომის რედაქტირების სფეროში ანალოგიურად აკავშირებს სამეცნიერო შესაძლებლობას უსაფრთხოებასთან, ეფექტიანობასთან, ეთიკასა და ანგარიშვალდებულ ინსტიტუტებთან.4 ეს ჩარჩოები ღირებულია, რადგან ტექნოლოგიის სასიცოცხლო ციკლს მოიცავს და ეთიკას საბოლოო დამტკიცების ფორმალურ ეტაპად არ განიხილავს.

პასუხისმგებლიანი პროგრესი იყენებს რისკის თანაზომიერ დაცვის ზომებს

სასარგებლო არჩევანი იშვიათად არის „ინოვაცია თუ ეთიკა“. ნამდვილი ამოცანაა მტკიცებულებების, ზედამხედველობისა და შექცევადობის შესაძლო შედეგების სერიოზულობასთან შეხამება.

მართლწერის ასისტენტმა, საკლასო შეფასების სისტემამ, ხელოვნურმა სადიაგნოსტიკო მოწყობილობამ და ტვინში იმპლანტირებულმა ინტერფეისმა იდენტური საფეხურები არ უნდა გაიარონ. მმართველობა უფრო მომთხოვნი ხდება, როდესაც სისტემის შექცევა რთულია, ის გავლენას ახდენს ფუნდამენტურ უფლებებზე, ბევრ ადამიანს მოიცავს, მოქმედებს რეალური არჩევანის გარეშე, იყენებს განსაკუთრებით მგრძნობიარე მონაცემებს ან შეიძლება სერიოზული ზიანი გამოიწვიოს.

ეტაპებად გაყოფილი ინოვაცია

1. განსაზღვრეთ სასურველი სარგებელი და მიუღებელი ზიანი

   მშენებლობის დაწყებამდე განსაზღვრეთ მოსახლეობა, გარემო, პრობლემა და საზღვრები. დააფიქსირეთ, ვინ დაეხმარა მათ განსაზღვრაში.

2. მასშტაბირებამდე შეამოწმეთ დაშვებები

   გამოიყენეთ წარმომადგენლობითი მტკიცებულებები, რეალისტური პირობები და არსებულ ალტერნატივებთან შედარება - არა მხოლოდ ხელსაყრელი დემონსტრირება.

3. დანერგეთ ეტაპობრივად, იქ, სადაც გაურკვევლობა რჩება

   მასშტაბი შეზღუდეთ, ყურადღებით აკონტროლეთ და მონაწილეები დაიცავით. მარეგულირებელი ქვიშის ყუთი უნდა იყოს კონტროლირებადი სწავლის გარემო და არა უფლებებისა თუ უსაფრთხოების ვალდებულებებისგან გათავისუფლება.

4. შეინარჩუნეთ უკან დაბრუნების შესაძლებლობა

   განსაზღვრეთ შეჩერების ზღვრული პირობები, ხელით შესრულების ალტერნატივები, მონაცემთა შესწორება, ინციდენტებზე რეაგირება და შეჩერების დროს დაზარალებულ ადამიანებზე პასუხისმგებლობა.

5. მოიპოვეთ ხელახალი ავტორიზაცია მტკიცებულებებით

   გადახედეთ მუშაობის ხარისხს, შედეგების განაწილებასა და ახალ რისკებს. გაგრძელების ნებართვა ავტომატური არ უნდა იყოს მხოლოდ იმიტომ, რომ სისტემა ნაცნობი გახდა.

ევროკავშირის ხელოვნური ინტელექტის აქტი რისკზე დაფუძნებულ მიდგომას ასახავს: იგი ძალაში 2024 წელს შევიდა და ეტაპობრივად ვრცელდება, განსხვავებული ვალდებულებებით აკრძალული პრაქტიკებისთვის, ზოგადი დანიშნულების მოდელებისა და გარკვეული მაღალი რისკის სისტემებისთვის.3 ზუსტი სამართლებრივი ვალდებულებები დამოკიდებულია სისტემაზე, როლზე, გამოყენებასა და განხორციელების მიმდინარე გრაფიკზე, ამიტომ ორგანიზაციებმა უნდა გაეცნონ ოფიციალურ ტექსტს და კვალიფიციურ იურიდიულ მითითებებს და არ დაეყრდნონ გამარტივებულ იარლიყებს.

ინკლუზია თავიდანვე ჩადეთ ინფრასტრუქტურაში, კვლევასა და მიწოდებაში

თანაბარი წვდომის აღდგენა მხოლოდ ბოლოს ფასდაკლებით შეუძლებელია. ამისთვის საჭიროა კოორდინირებული არჩევანი პირველი კვლევითი კითხვიდან დაფინანსების, დანერგვისა და გრძელვადიანი მხარდაჭერის ჩათვლით.

გამოიყენეთ შესყიდვის ძალა პასუხისმგებლიანი დიზაინის დასაჯილდოებლად

საჯარო უწყებებს, საავადმყოფოებს, სკოლებსა და მსხვილ დამსაქმებლებს შეუძლიათ შესყიდვების ნაწილად აქციონ ხელმისაწვდომობა, მონაცემთა დაცვა, თავსებადობა, ქვეჯგუფების მუშაობის ხარისხი, ინციდენტების შესახებ ანგარიშგება და გასვლის მხარდაჭერა. ხელშეკრულებებით შესაძლებელია მომწოდებლებისთვის მატერიალური ცვლილებების გამჟღავნების, მონაცემთა მიგრაციაში დახმარებისა და შეთანხმებული პერიოდის განმავლობაში კრიტიკული მხარდაჭერის გაგრძელების მოთხოვნა.

ძვირადღირებული თერაპიებისთვის დაფინანსების ექსპერიმენტებმა შესაძლოა გადახდა შედეგებს დაუკავშიროს ან გადამხდელებს შორის მოლაპარაკება კოორდინირებულად წარმართოს. შეერთებული შტატების ნებაყოფლობითი CMS-ის უჯრედული და გენური თერაპიის ხელმისაწვდომობის მოდელი, რომელიც თავდაპირველად ნამგლისებრუჯრედოვან დაავადებაზე იყო ფოკუსირებული, ამის ერთ-ერთი მაგალითია: მონაწილე შტატები და მწარმოებლები იყენებენ CMS-ის მიერ მოლაპარაკებულ შედეგებზე დაფუძნებულ შეთანხმებებს, ხოლო მოდელი ასევე აღიარებს მკურნალობასთან დაკავშირებულ პრაქტიკულ მხარდაჭერას.6 ის უნდა შეფასდეს როგორც მიმდინარე მოდელი და არა როგორც მტკიცებულება იმისა, რომ წვდომის ყველა პრობლემა გადაწყვეტილია.

პრაქტიკული საგზაო რუკა ტექნოლოგიის შემქმნელი ადამიანებისთვის

პასუხისმგებლობა გაზიარებულია, მაგრამ ის იმდენად განფანტული არ უნდა გახდეს, რომ პასუხისგებაში ვერავინ მიეცეს. თითოეულ დაწესებულებას აქვს განსხვავებული ბერკეტები და მოვალეობები.

თანასწორობის ზემოქმედების მოკლე მიმოხილვა

გამოიყენეთ ეს კითხვები შეთავაზების ეტაპზე, გაშვებამდე და დაგეგმილ გადახედვის ეტაპებზე. პასუხები მტკიცებულებებით უნდა იყოს გამყარებული და დასახელებულ პასუხისმგებელ პირებს უნდა მიეკუთვნოს.

შესანახად ღირებული მტკიცებულებები

• მიზნის ჩანაწერი: განზრახული გამოყენება, აკრძალული გამოყენება, სამიზნე პოპულაცია, ალტერნატივები და წარმატების კრიტერიუმები.
• მონაწილეობის ჩანაწერი: ვინ მონაწილეობდა, როგორ შეირჩნენ ისინი, როგორ აუნაზღაურდათ მონაწილეობა და რა შეიცვალა.
• მტკიცებულებების ჩანაწერი: მონაცემთა ნაკრებები, კვლევის მონაწილე ჯგუფები, ტესტირების პირობები, გაურკვევლობა და ცნობილი შეზღუდვები.
• ზემოქმედების ჩანაწერი: სარგებელი, შეცდომები, საჩივრები, გასაჩივრებები, ხელმისაწვდომობის ბარიერები და შედეგები შესაბამის ჯგუფებში.
• გადაწყვეტილების ჩანაწერი: დასახელებული პასუხისმგებელი პირები, რისკის მიღება, გამოსასწორებელი ქმედებები, გადახედვის თარიღები და გაგრძელების ან შეწყვეტის მიზეზები.

დოკუმენტაცია მხოლოდ იმის გამო არ არის ღირებული, რომ ის არსებობს. ის პასუხისმგებელ ადამიანს უნდა დაეხმაროს სისტემის გაგებაში, გადაწყვეტილების კვალის მიდევნებაში, წარმოქმნილი ტენდენციის იდენტიფიცირებასა და პრევენცირებადი ზიანის გავრცელებამდე მოქმედებაში.

გავრცელებული მითები და პრაქტიკული კითხვები

მარტივმა სლოგანებმა შეიძლება ეთიკური უთანხმოებები იმაზე იოლად წარმოაჩინოს, ვიდრე ისინი სინამდვილეშია. ეს განსხვავებები უკეთესი გადაწყვეტილებებისთვის სივრცეს ქმნის.

პროგრესი უფრო დიდია, როცა მის ჩამოყალიბებაში მონაწილეობა მეტ ადამიანს შეუძლია

ტექნოლოგიის ტექნიკური შესაძლებლობა მისი მიღწევის მხოლოდ ერთი ნაწილია. დანარჩენი მის გარშემო არსებულ ინსტიტუტებსა და ურთიერთობებში მდგომარეობს: ასახავს თუ არა კვლევა რეალურ საჭიროებებს, მოიცავს თუ არა მტკიცებულებები იმ ადამიანებს, რომლებიც მას დაეყრდნობიან, პრაქტიკულია თუ არა წვდომა, პატივს სცემენ თუ არა არჩევანს და შესაძლებელია თუ არა შეცდომების გასაჩივრება და გამოსწორება.

ეთიკამ არც ინოვაცია უნდა გაალამაზოს და არც გაყინოს. მან საზოგადოებას მიმართულების განსაზღვრაში უნდა დაეხმაროს - ხილული გახადოს რისკი, დააწესოს საზღვრები, დაიცვას ნაკლები ძალაუფლების მქონე ადამიანები და შეინარჩუნოს სწავლის შესაძლებლობა. ინკლუზიურობა ამ პროცესს აუმჯობესებს, რადგან თემებს შეაქვთ ცოდნა, რომელიც შესაძლოა შორეულ დიზაინერებს, ინვესტორებსა და რეგულატორებს არ ჰქონდეთ.

მიზანი არ არის ისეთი სამყარო, სადაც ყველა ერთსა და იმავე ტექნოლოგიას იყენებს. მიზანია ისეთი სამყარო, სადაც ღირებული მიღწევები ნაგულისხმევ პრივილეგიებად არ იქცევა, მოწყვლადობა ნებართვად არ განიხილება და ადამიანები კვლავ მონაწილეობენ იმ გადაწყვეტილებების მიღებაში, რომლებიც მათ განათლებას, ჯანმრთელობას, სამუშაოს, სხეულსა და მომავალს ცვლის.

ეს სტატია განკუთვნილია ზოგადი საგანმანათლებლო მიზნებისთვის და არ წარმოადგენს იურიდიულ, სამედიცინო, მარეგულირებელ, საინვესტიციო ან პოლიტიკის შესახებ რჩევას. მოთხოვნები და მტკიცებულებები იცვლება; მნიშვნელოვანი გადაწყვეტილებების მისაღებად გაეცანით მიმდინარე ოფიციალურ წყაროებს და კვალიფიციურ სპეციალისტებს.

მტკიცებულებების ხედვა და დამატებითი საკითხავი

გადამუშავებული ვერსია თავდაპირველი სტატიის დაუდასტურებელ სტატისტიკას და არარსებულ ან არასწორად აღწერილ პროგრამებს პირველადი ინსტიტუციური წყაროებით ანაცვლებს.

1. საერთაშორისო სატელეკომუნიკაციო კავშირი — ფაქტები და ციფრები 2025
   ინტერნეტის გამოყენების გლობალური შეფასებები და დაკავშირების, ხელმისაწვდომობისა და ხარისხის მხრივ არსებული უწყვეტი სხვაობები.
2. UNESCO — ხელოვნური ინტელექტის ეთიკის შესახებ რეკომენდაცია
   გლობალური ჩარჩო, რომლის ცენტრშიც ადამიანის უფლებები, ღირსება, სამართლიანობა, ინკლუზიურობა, გამჭვირვალობა და ადამიანური ზედამხედველობაა.
3. ევროკომისია — ხელოვნური ინტელექტის მარეგულირებელი ჩარჩო
   ევროკავშირის ხელოვნური ინტელექტის აქტის ოფიციალური მიმოხილვა და ეტაპობრივი განხორციელების მიმდინარე ვადები.
4. ჯანმრთელობის მსოფლიო ორგანიზაცია — ადამიანის გენომის რედაქტირება: მართვის ჩარჩო
   სომატური, ჩანასახოვანი და მემკვიდრეობითი ადამიანის გენომის რედაქტირების ღირებულებები, პრინციპები, ინსტიტუტები და მართვის ინსტრუმენტები.
5. აშშ-ის სურსათისა და მედიკამენტების ადმინისტრაცია — ნამგლისებრუჯრედოვანი დაავადებისთვის დამტკიცებული პირველი გენური თერაპიები
   FDA-ის 2023 წლის დეკემბრის განცხადება, მათ შორის CRISPR/Cas9-ის გამოყენებით შექმნილი პირველი FDA-ის მიერ დამტკიცებული მკურნალობა.
6. Medicare-ისა და Medicaid-ის სერვისების ცენტრები — უჯრედული და გენური თერაპიის ხელმისაწვდომობის მოდელი
   მიმდინარე მოდელის დეტალები შედეგებზე დაფუძნებული შეთანხმებებისა და ნამგლისებრუჯრედოვანი დაავადების გენური თერაპიის ხელმისაწვდომობის მხარდაჭერის შესახებ.
7. ჯანმრთელობის მსოფლიო ორგანიზაცია — ხელოვნური ინტელექტის ეთიკა და მართვა ჯანმრთელობის სფეროში
   სახელმძღვანელო, რომელიც ხელოვნური ინტელექტის ჯანმრთელობის სფეროში არსებულ პოტენციალს ეთიკასთან, ადამიანის უფლებებსა და საზოგადოებრივ ანგარიშვალდებულებას აკავშირებს.
8. აშშ-ის სტანდარტებისა და ტექნოლოგიის ეროვნული ინსტიტუტი — ხელოვნური ინტელექტის რისკების მართვის ჩარჩო
   ნებაყოფლობითი ჩარჩო, რომელიც ხელოვნური ინტელექტის რისკების მართვის, აღწერის, გაზომვისა და მართვის გარშემო არის ორგანიზებული.