Ассистенты искусственного интеллекта
Linas JuozėnasПоделиться
ИИ-ассистенты:
расширьте возможности разума
ИИ-ассистент может сократить занимающие часы поиск, подготовку черновика или обычную переработку информации до нескольких минут. Это реальная сила. Однако высший стандарт - не то, создала ли машина что-то быстро, а важнее, стал ли человек более способным, стало ли решение лучше, сохранилась ли истина нетронутой, а человеческая автономность осталась у руля.
автономность
цель
контекст
генерировать
доказательства
решение
выученное
Что такое ИИ-ассистент - и чем он не является
Слово «ассистент» описывает интерфейс и роль, но не гарантирует знания, лояльность или правильное решение.
Современный ассистент может объединять языковую модель с распознаванием речи, пониманием изображений, поиском или получением информации, персональной памятью, программными инструментами и разрешениями на выполнение действий. Модель, опираясь на закономерности данных, предсказывает полезные продолжения; поисковая система может предоставлять документы; инструменты могут выполнять вычисления, просматривать веб-страницы, создавать файлы или управлять сервисами. Всё это может выглядеть как один плавно мыслящий разум, однако точнее понимать это как набор компонентов, каждый из которых имеет собственные способы отказа.
Интерфейс
Голос, разговор, камера, экран или интегрированные элементы управления превращают запрос человека в понятный машине ввод.
Модель
Модель интерпретирует контекст и генерирует язык, код, изображения или предлагаемый план. Плавная форма не является доказательством.
Обоснование
Поиск, базы данных и предоставленные файлы могут связать ответ с доказательствами, однако поиск всё равно может быть неполным или ошибочным.
Инструменты и разрешения
Календари, электронная почта, выполнение кода и другие инструменты превращают слова в последствия. Большая автономность требует более строгого контроля.
Разговор может создать ложное ощущение уверенности
Естественный язык оказывает сильное социальное воздействие. Тёплый тон, уверенное объяснение или кажущаяся память могут создать впечатление, что система поняла, увидела или проверила больше, чем на самом деле. Рассматривайте личность как дизайн интерфейса. Оценивайте утверждения по доказательствам, а действия - по разрешениям, обратимости и возможности проверки.
Уровни автономности
| Режим | Что делает система | Ответственность человека | Минимальная защита |
|---|---|---|---|
| Отвечает | Объясняет, переводит, обобщает или предлагает варианты. | Интерпретирует и принимает решения. | Проверять важные факты и качество источников. |
| Готовит черновик | Создаёт текст, код, анализ или план, который необходимо проверить. | Редактирует, проверяет и несёт ответственность за авторство. | Сохранять проверяемый черновик и этап валидации. |
| Рекомендует | Ранжирует варианты или предлагает решение. | Рассматривает предположения, затронутых людей и альтернативы. | Для значимых решений используйте независимые доказательства. |
| Работает после получения подтверждения | Готовит электронное письмо, покупку, изменение или рабочий процесс и ждёт. | Проверяет конкретное действие и цель. | Понятная проверка, ограниченные разрешения и подтверждение. |
| Работает автономно | Выполняет множество шагов без отдельной проверки каждого из них. | Устанавливает границы, отслеживает процесс и сохраняет ответственность. | Минимально необходимые права доступа, журналы, лимиты расходов, средства остановки и восстановление. |
Что на самом деле показывают исследования продуктивности
ИИ может принести значительную пользу в некоторых задачах. Масштаб и направление эффекта зависят от задачи, системы, человека, рабочего процесса и того, как определяется качество.
Быстрее и лучше для чётко определённых задач
В эксперименте с предварительной регистрацией 453 специалиста с высшим образованием выполняли письменные задания средней сложности. Доступ к ChatGPT в среднем сократил время выполнения задания 40 %, а качество результатов, оценённое независимыми экспертами, повысилось 18 %.[1] Это подтверждает реальную пользу для конкретных задач, но не доказывает такой же эффект для каждой профессии или долгосрочного обучения.
Большая польза для менее опытных сотрудников
В исследовании с участием 5 172 специалистов по обслуживанию клиентов среднее количество решённых вопросов в час увеличилось 15 %. Наибольшую пользу получили менее опытные и менее результативные сотрудники; в итоговой статье указывается прирост примерно на 30 % для менее квалифицированной группы, тогда как производительность высококвалифицированных сотрудников почти не изменилась, а качество диалогов немного снизилось.[2]
Мощный в пределах своих возможностей
Iš 758 konsultantų GPT-4 naudoję dalyviai testuotos gebėjimų ribos viduje atliko 12,2 % daugiau užduočių, užbaigė jas 25,1 % greičiau ir sukūrė kokybiškesnius rezultatus. Užduotyje, specialiai parinktoje už šios ribos, DI naudotojai buvo 19 % mažiau linkę rasti teisingą atsakymą.[3]
Ekspertiniam darbui paprasti greičio pažadai netinka
2025 m. randomizuotame tyrime 16 patyrusių atvirojo kodo programuotojų atliko 246 užduotis jiems gerai pažįstamose saugyklose. Ankstyvieji 2025 m. DI įrankiai vidutiniškai padarė darbą 19 % lėtesnį, nors patys programuotojai tikėjosi pagreitėjimo.[4] 2026 m. tęstinis tyrimas parodė ženklų, kad naujesni įrankiai gali padėti labiau, tačiau didelės atrankos ir matavimo problemos neleido patikimai įvertinti dabartinio poveikio.[5]
Sąžininga išvada
Teiginys „DI didina produktyvumą“ yra per platus. Pagrįsčiau sakyti: kai kuriose tinkamai parinktose užduotyse, esant kompetentingai peržiūrai, konkrečios sistemos pagerino greitį, našumą arba įvertintą kokybę. Tai naudinga ir svarbu. Tačiau sąlygiška.
Žmogus + DI nėra automatiškai stipriausia komanda
Iš anksto registruota 106 eksperimentų ir 370 poveikio dydžių metaanalizė nustatė, kad žmogaus ir DI deriniai vidutiniškai pranoko be DI dirbančius žmones (g = 0,64), tačiau vidutiniškai nusileido tam, kas konkrečioje užduotyje buvo stipresnis – žmogui arba DI atskirai (g = −0,23). Rezultatai buvo itin nevienalyčiai, o įtraukti tyrimai baigėsi 2023 m. birželį, dar prieš daugelį dabartinių asistentų.[6] Bendradarbiavimą reikia kurti ir tikrinti; vien pridėjus žmogų prie modelio arba modelį prie žmogaus sinergija negarantuojama.
Matuokite vertę, o ne matomą užimtumą
Nelygi riba: gretimos užduotys, priešingi rezultatai
Sistema vienoje užduotyje gali būti stulbinamai gera, o kitoje – užtikrintai nepatikima, net jei žmogui abi atrodo vienodai sudėtingos.
Transformacija
Pateiktos medžiagos performatavimas, alternatyvų generavimas, tono keitimas, laukų išgavimas ir juodraščių rengimas iš patikrinto aprašo.
Sintezė
Ilgų dokumentų apibendrinimas, įrodymų lyginimas ir programavimas nepažįstamoje sistemoje gali veikti gerai, jei kontekstas išsamus ir peržiūrą atlieka kompetentingas žmogus.
Истина и решение
Новые факты, причинно-следственные утверждения, неоднозначные требования, ценностные конфликты и редкие крайние случаи могут выходить за пределы надёжности модели.
Граница меняется вместе с моделями и инструментами, а также различается в зависимости от языка, области и контекста. Знакомая форма может вводить в заблуждение: беглый ответ может напоминать форму работы эксперта, не обладая причинным пониманием эксперта. Самый безопасный пользователь - не тот, кто автоматически доверяет, и не тот, кто автоматически отвергает. Он учится понимать, где конкретная система помогает, создаёт проверки для её слабых мест и сохраняет готовность при необходимости работать без неё.
Быстрая проверка границы перед делегированием
- Определите успехУкажите результат, доказательства и допустимую ошибку.
- Оцените последствияЧто произойдёт, если результат окажется незаметно ошибочным?
- Проверьте границуПроверяйте известные, враждебные случаи и случаи с неполным контекстом.
- Назначьте проверкуПривлекайте человека, способного обнаружить именно актуальную ошибку.
- Зафиксируйте урокОбновляйте рабочий процесс при изменении системы или задачи.
Парадокс проверки
Чем труднее заметить ошибку, тем больше компетентности требуется для её проверки. ИИ может помочь новичкам приблизиться к устоявшимся моделям, однако эксперты становятся особенно важны там, где модель перестаёт работать. Общество, получающее пользу от сосредоточенного экспертного опыта, должно защищать людей, создавших его, сохранять за ними право оспаривать автоматизацию и признавать их вклад.
Обучение, память и интеллект
Самый ценный помощник не всегда тот, кто быстрее всего предоставляет ответ. Им может оказаться тот, кто помогает разуму создавать более сильные модели, восстанавливать знания и самостоятельно решать следующую задачу.
Непосредственный результат и долгосрочная способность - это разные исходы. Готовое эссе, правильное уравнение или работающая программа показывают, что система, состоящая из человека и инструмента, создала результат. Само по себе это не показывает, чему научился человек. Чтобы измерить развитие, позже уберите инструмент и проверьте воспроизведение, объяснение, перенос на новую задачу и обнаружение ошибок.
Это различие важно, потому что интеллект - не украшение. Рассуждение, память, скорость обучения, знания и способность переносить понимание могут влиять на то, как человек ориентируется в образовании, работе и сложных жизненных решениях. Эти способности заслуживают развития и признания. Они возникают под воздействием множества взаимодействующих факторов - биологии, развития, здоровья, возможностей, обучения и многих лет осознанной практики, - а для их сохранения могут требоваться постоянные усилия. ИИ должен помогать большему числу людей развивать интеллектуальную силу, не стирая при этом редкую компетентность и оригинальные идеи, от которых получают пользу другие.
Более высокий результат по валидному когнитивному тесту является реальным свидетельством более сильного выполнения задач в тех областях способностей, которые этот тест действительно измеряет. Это может иметь огромное значение: исключительные способности к рассуждению и накопленные знания могут позволить человеку увидеть опасность, решение или возможность, которые не смог бы воссоздать ни один доступный в тот момент инструмент или комитет без его участия. Балл — не украшение, купленное в магазине, а заимствованная у модели беглость не заменяет мозг, сформированный способностями, развитием и обучением на протяжении всей жизни. Уважайте интеллект, заботясь о когнитивном здоровье, предоставляя талантливым и преданным делу умам пространство для работы, прислушиваясь к ним, когда важна их компетентность, и признавая создаваемую ими ценность. Точное измерение ограничивает то, что доказывает балл; его не следует использовать, чтобы притворяться, будто измеренная способность не имеет значения.
Цель не в том, чтобы доказать, что инструмент может думать за вас. Цель в том, чтобы после его использования вы могли думать дальше, чем раньше.
Стандарт помощи ИИ, ориентированный на развитие человекаПомощь во время практики может скрывать более слабое усвоение
В рандомизированном на уровне классов исследовании с участием 839 учащихся одной турецкой средней школы неограниченный интерфейс GPT-4 улучшил результаты во время практики, однако позже эти учащиеся показали результат на 17 % хуже контрольной группы на экзамене, который проходил без помощи. Защищённый репетитор, использовавший материалы, подготовленные учителями, дававший подсказки и отказывавшийся сообщать окончательный ответ, улучшил результаты практики, не ухудшив результаты экзамена; на экзамене он не превзошёл контрольную группу статистически значимо.[7] Исследование включало четыре занятия и тест сразу после них, а не долгосрочное развитие.
Тщательно разработанная система обучения может улучшить непосредственное усвоение
Среди 194 подходящих студентов Гарварда, изучавших физику в рамках двух курсов, специально разработанный репетитор на базе GPT-4 обеспечил преимущество примерно в 0,63 стандартного отклонения в тесте сразу после обучения по сравнению с лекцией по активному обучению под руководством преподавателя-эксперта; при этом медианное время обучения составило 49, а не 60 минут.[8] Это свидетельство в пользу специально и целенаправленно разработанной системы обучения в конкретной среде, а не доказательство того, что общий чат-бот заменяет учителей. Отсроченное сохранение знаний и результаты в конце семестра не изучались.
Сначала попробовав, можно узнать больше из объяснения
В двух экспериментах с участием 1 818 взрослых американцев правильные объяснения большой языковой модели улучшили непосредственный результат в аналогичных задачах, решаемых самостоятельно, по сравнению с получением только ответов, особенно когда участники сначала сами пытались решить задачу.[9] Перенос был близким и краткосрочным и измерялся всего несколькими заданиями, поэтому результат поддерживает дизайн обучения, а не утверждение о широком или долгосрочном росте интеллекта.
Уверенность меняет то, где происходит мышление
В исследовании 2025 года 319 работников умственного труда рассказали о 936 реальных случаях использования. Большая уверенность в генеративном ИИ была связана с меньшими заявленными самими участниками усилиями по критическому мышлению, а большая уверенность в собственных способностях - с большими усилиями. Участники также описывали смещение в сторону проверки, интеграции и контроля.[10] Исследование показывает взаимосвязи, а не доказывает, что ИИ вызвал когнитивный спад.
Превратите ассистента в учителя, а не в раздатчик ответов
Слабый цикл обучения
- Сразу попросить окончательный ответ.
- Пассивно прочитать и принять гладко сформулированный текст.
- Скопировать результат, не воспроизведя его самостоятельно.
- Снова зависеть от помощи при выполнении следующего похожего задания.
Цикл обучения, ориентированный на рост
- Сначала попробуйте решить задачу и покажите ход своих рассуждений.
- Попросите одну подсказку, контрпример или диагностический вопрос.
- Объясните ответ своими словами.
- Закройте ассистента и решите изменённый пример по памяти.
Может ли ИИ повысить IQ?
Пока нет убедительных доказательств того, что обычное использование универсального ИИ-ассистента надёжно приводит к долгосрочному росту общего интеллекта или IQ. Он может помогать людям приобретать знания, практиковаться в рассуждении, получать обратную связь, переводить сложный материал и учиться - это составляющие, способные улучшать конкретные когнитивные навыки и реальную компетентность. Любое утверждение о росте IQ должно опираться на валидные повторные оценки, учитывать эффект практики и показывать перенос за пределы задач, отработанных вместе с системой. То, что универсальное воздействие ещё не доказано, - причина измерять его осторожно, а не отвергать возможность интеллектуального роста.
Сохраняйте продуктивную сложность
- Восстанавливайте по памяти, прежде чем раскрывать. Перед тем как просить краткое изложение, запишите, что помните.
- Создавайте, прежде чем сравнивать. До того как увидеть версию модели, сформулируйте собственную гипотезу, план или решение.
- Спрашивайте о причинах. Просите объяснить механизмы и предпосылки, рассмотреть крайние случаи и предложить тест, который мог бы показать ошибочность ответа.
- Изменяйте задачу. Поменяйте контекст и снова решите её без помощи, чтобы проверить перенос.
- Сохраняйте минимальный уровень самостоятельной компетентности. Регулярно выполняйте базовые навыки без помощи, чтобы аварийные, новые или враждебные ситуации оставались управляемыми.
Оригинальность, добровольное уединение и сообщество
Иногда протуи нужна свобода от подсказок - и людей, и машин, - чтобы обнаружить, что он действительно видит сам.
Оригинальная мысль часто возникает ещё до появления консенсуса. Когда другие люди — или ИИ, обученный на моделях, отражающих господствующие представления, — сразу предлагают, что заметить, как сформулировать проблему или каким должен быть «хороший ответ», внимание может преждевременно зафиксироваться на одном направлении. Влияние может быть доброжелательным и всё же сузить пространство поиска. Выбранное уединение создаёт защищённое время, в котором любопытство может блуждать, необычные ассоциации — соединяться, а идея — становиться достаточно самобытной, чтобы выдержать сравнение.
Однако это не означает, что изоляция — конечный идеал. Когда оригинальная идея уже существует, другие люди становятся незаменимыми: они ставят под сомнение слабые предположения, добавляют недостающие знания, создают то, чего один человек создать не может, представляют работу более широким сообществам и празднуют подлинное достижение. Поэтому здоровая интеллектуальная жизнь чередует приватное формирование и щедрое сотрудничество — не постоянное отстранение и не постоянное пребывание под влиянием чужих указаний.
Отстранитесь на достаточно долгий срок, чтобы услышать собственную мысль. Возвращайтесь тогда, когда сами этого захотите, — и позвольте возвращению стать праздником: проверкой, поддержкой, развитием, признанием и обменом тем, что начал один разум.
Уединение и сообщество — взаимодополняющие интеллектуальные условияБолее высокие индивидуальные оценки, меньшее коллективное разнообразие
В эксперименте 2024 года 293 автора писали короткие рассказы, которые оценивали 600 слепых рецензентов. Доступ к одной идее ИИ повысил среднюю оценку новизны на 5,4 %, а полезности — на 3,7 %; доступ максимум к пяти идеям повысил их соответственно на 8,1 % и 9,0 %. Больше всего выиграли авторы, хуже показавшие себя в узком исходном задании на креативность. Однако истории, созданные с помощью ИИ, стали более похожими друг на друга и примерно на 5 % более похожими на предложенные идеи.[11] Задание заключалось в написании художественной прозы из восьми предложений, а не в проверке креативности в целом, однако оно показывает, как индивидуальное улучшение может сочетаться с коллективным выравниванием.
Первый самостоятельный этап может сохранить самостоятельность и дистанцию от модели
В небольшом эксперименте 2025 года 60 участников либо использовали GPT-4 с самого начала 20-минутного задания по генерированию идей на тему здоровья, либо обращались к нему только после того, как самостоятельно создавали как минимум три идеи. Участники, подключавшие ИИ позже, создавали идеи, менее похожие на результат модели, и сообщали о большей уверенности в своих творческих способностях, самостоятельности, ощущении авторства и признании себя. [12] В исследовании не было группы, полностью обходившейся без ИИ, а разница в количестве идей не достигла общепринятого порога статистической значимости. Это делает принцип сначала самостоятельно, помощь потом перспективным направлением защитного дизайна, но не универсальным правилом.
Протокол оригинальности из четырёх этапов
- Позвольте мыслям блуждатьВыделите защищённое время для наблюдения и размышлений без поступающих предложений.
- ЗафиксируйтеЗапишите своими словами идею, ход рассуждений, дату и ранние свидетельства.
- ПробуйтеИспользуйте людей и ИИ, чтобы находить прецеденты, противоречия, тесты и недостающие компетенции.
- СоздавайтеСотрудничайте, чётко распределяя роли, и сохраняйте след того, кто что добавил.
- ПразднуйтеПризнавайте авторов идеи и соавторов; помогайте сильным идеям находить людей, которым они могут быть полезны.
Авторство - это больше, чем нажатие кнопки «сгенерировать»
Ответственность и признание должны соответствовать значимому человеческому вкладу: замыслу цели, выбору или отклонению материала, решениям в области выражения, редактированию, проверке и принятию ответственности. Когда происхождение важно, сохраняйте историю версий. Действующие рекомендации Бюро регистрации авторских прав США основывают охрану авторских прав на авторстве человека и требуют от заявителей раскрывать больше, чем минимальный объём материала, сгенерированного ИИ, в регистрируемом произведении.[13]
Уважайте интеллект, не превращая его в рейтинг человеческого достоинства
Когнитивные способности и вклад не взаимозаменяемы. Некоторые люди благодаря редким талантам и труду всей жизни развивают выдающиеся способности к рассуждению, знания или творческую силу; общество выигрывает, когда оно их защищает, прислушивается к ним и справедливо признаёт их заслуги. Равное человеческое достоинство не требует притворяться, будто все результаты одинаковы. Признание должно уважать реальные достижения, не превращая никакую оценку в разрешение плохо обращаться с другим человеком.
Доступность и инклюзия: больше способов думать, говорить и действовать
Для многих людей ассистент не является новшеством. Он может стать мостом через несоответствие между способностями человека и негибкой средой.
Язык и когнитивные способности
Переформулирование простым языком, пошаговые инструкции, помощь со словарём и регулируемый темп могут уменьшить ненужные препятствия, не упрощая саму сущность идеи.
Сенсорная доступность
Субтитры, озвучивание текста, описания изображений и мультимодальный ввод могут переносить информацию между визуальной, звуковой и текстовой формами.
Доступность для людей с двигательными и речевыми нарушениями
Голосовое управление, интерфейсы, совместимые с переключателями, генерация текста и аугментативная коммуникация могут снизить усилия, необходимые для выражения намерения или управления программным обеспечением.
Хорошая доступность расширяет возможности контроля; она не заставляет всех пользоваться одним и тем же «умным» каналом. Человек должен иметь возможность писать, а не говорить; читать, а не слушать; замедлять или останавливать результат; исправлять ошибки распознавания; сохранять свой голос и самому выбирать, стоит ли польза персонализации необходимых для неё данных. Руководства по обеспечению доступности веб-контента создают долгосрочную основу для цифрового опыта, который можно воспринимать, которым можно управлять, который легко понимать и который остаётся устойчивым; функция ИИ не заменяет доступную структуру, поддержку клавиатуры, метки, субтитры или тестирование с участием людей с инвалидностью.[14]
Точность распознавания неодинакова для всех
Языковые системы могут работать по-разному в зависимости от акцента, диалекта, стиля речи, возраста, условий шума и инвалидности. В исследовании 2020 года пяти коммерческих систем распознавания речи на протестированных наборах данных американского английского частота ошибок в словах у чернокожих говорящих была значительно выше, чем у белых говорящих.[15] С тех пор продукты изменились, поэтому эти цифры не являются актуальной таблицей результатов продуктов; исследование по-прежнему служит наглядным примером того, что средняя точность может скрывать неравномерное распределение ошибок.
Человеку, который больше всего зависит от результата, может быть труднее всего его проверить
В опросе 2025 года в США, разработанном при участии 19 организаций людей с инвалидностью, приняли участие 1 735 взрослых, включая 1 070 людей с инвалидностью. Среди 290 слепых и слабовидящих респондентов, использовавших описания изображений, созданные ИИ, 21 % указали, что понесли ущерб из-за ошибки; в обеих сравнительных группах зрячих этот показатель составлял 9 %. Из 54 глухих и слабослышащих пользователей субтитров 24 % указали, что понесли ущерб из-за ошибки.[16] Размеры подгрупп и добровольный отбор ограничивают оценки для всей популяции, однако асимметрия очевидна: вероятное предположение может быть опаснее, когда результат заменяет недоступную сенсорную информацию.
Более быстрая формулировка должна оставаться выражением самого человека
В исследовании CHI с участием 12 человек, использующих дополнительную и альтернативную коммуникацию, предложения языковой модели в реальном времени могли сократить время и усилия на печать, однако участники подчеркнули важность сохранения собственного стиля и предпочтений.[17] Поэтому предложения должны быть выбираемыми, редактируемыми и легко отклоняемыми или отменяемыми - их нельзя автоматически произносить или отправлять.
Для продуктовых команд
- Тестируйте вместе с людьми с инвалидностью и оплачивайте их экспертный вклад.
- Публикуйте результаты с разбивкой по актуальным группам пользователей и условиям.
- Для важных действий предусмотрите альтернативы без голоса и без ИИ.
- Сделайте ошибки легко заметными, исправимыми и обратимыми.
- Не судите о некомпетентности человека по ошибке распознавания.
Для школ и рабочих мест
- Отделяйте обоснованную адаптацию от скрытой замены человеческого труда.
- Оценивайте знания человека доступным способом.
- Не требуйте раскрывать чат-боту конфиденциальные данные о здоровье или инвалидности.
- Сохраняйте возможность помощи человека при сбое автоматизации.
- Позвольте пользователю управлять тоном, темпом, форматом и памятью.
Потребности в доступности различаются. Функция, помогающая одному человеку, может мешать другому; выбор пользователя и непосредственное тестирование надёжнее предположений.
Правда, калибровка и дисциплина проверки
Ассистент тем же спокойным тоном может сообщить правильный факт, вероятный вывод и вымышленную деталь. Поэтому проверять нужно утверждение, а не его тон.
NIST terminą konfabuliacija vartoja užtikrintai pateikiamam klaidingam ar netiksliam generatyvinių sistemų turiniui. Generatyvinio DI profilyje taip pat įvardijamos privatumo, žalingo šališkumo, informacijos vientisumo, kibernetinio saugumo ir žmogaus bei DI sąveikos rizikos, kurias reikia matuoti ir valdyti pagal konkretų kontekstą.[18] Šis profilis yra savanoriškas rizikos valdymo išteklius, o ne įstatymas ar pažymėjimas, kad kuri nors sistema yra saugi.
Modeliai gali išgalvoti citatas, klaidingai perskaityti šaltinį, atlikti neteisingą skaičiavimą, nutylėti prieštaraujančius įrodymus arba pritarti naudotojo prielaidai. Senesni etaloniniai testai parodo reiškinį, tačiau neturėtų būti naudojami kaip dabartiniai produktų reitingai. Pavyzdžiui, TruthfulQA vertino 817 klaidingiems įsitikinimams jautrių klausimų 38 kategorijose ir nustatė didelius tuo metu tirtų modelių teisingumo skirtumus.[19] Tai neparodo kiekvieno 2026 m. asistento tikslumo.
Konfabuliacija
Modelis pateikia nepagrįstus faktus, citatas, nuorodas, teismo bylas, duomenis ar samprotavimą, atitinkančius prašomą formą.
Pataikavimas
Sistema seka naudotojo išsakytą įsitikinimą ar norimą išvadą, užuot išlaikiusi įrodymais pagrįstą poziciją; kontroliuojamuose tyrimuose toks polinkis nustatytas tirtuose asistentuose.[20]
Nevienodas klaidų pasiskirstymas
Rezultatai gali skirtis pagal grupes, kalbas ir kontekstus. Tokie etaloniniai testai kaip BBQ kontroliuojamomis sąlygomis atskleidžia su stereotipais susijusius modelius, tačiau tai nėra universalūs diskriminacijos rodikliai.[21]
Tikrinimo pakopos pagal klaidos pasekmes
| Pasekmės, jei klaidinga | Pavyzdžiai | Tinkamas tikrinimas | Nepasikliaukite |
|---|---|---|---|
| Mažos | Pavadinimų idėjos, tono pakeitimas, savo užrašų performatavimas. | Perskaitykite ir nuspręskite, tinka ar ne. | Asistento skoniu kaip objektyviu faktu. |
| Vidutinės | Viešas straipsnis, analizė, įprastas kodas, mokymosi paaiškinimas. | Atverkite cituojamus šaltinius, testuokite pavyzdžius, leiskite peržiūrėti išmanančiam žmogui. | Nuoroda vien todėl, kad jos pavadinimas ar DOI atrodo tikroviškas. |
| Didelės | Medicininiai, teisiniai, finansiniai, įdarbinimo, saugumo ar apsaugos sprendimai. | Naudokite dabartinius autoritetingus šaltinius ir tinkamai kvalifikuotą žmogų; dokumentuokite prielaidas ir peržiūrą. | DI perspėjimu, kelių pokalbių robotų „balsavimu“ ar užtikrinta formuluote. |
| Negrįžtamos | Paskelbimas, ištrynimas, mokėjimas, paskyros pakeitimas, atskleidimas arba fizinis veiksmas. | Peržiūrėkite tikslų veiksmą ir tikslą; reikalaukite naujo patvirtinimo ir atkūrimo plano. | Plačiu nuolatiniu leidimu arba dviprasme komanda. |
Kalibruota trintis saugo mąstymą
Kontroliuojamame eksperimente, kuriame dalyvavo 199 žmonės, sąsajos, reikalavusios, kad žmogus pirmiausia įsitrauktų į problemą ir tik tada gautų ar priimtų DI patarimą, sumažino pernelyg didelį pasikliovimą klaidingomis rekomendacijomis. Veiksmingiausia trintis dalyviams taip pat patiko mažiausiai.[22] Удобство и правильное решение иногда тянут в противоположные стороны; отличный дизайн делает важное размышление неизбежным, не превращая каждую безобидную задачу в сложную.
Проверка утверждений по одному
- Отделяйте факты от синтеза. Отмечайте даты, количества, цитаты и причинно-следственные утверждения, которые можно проверить.
- Обращайтесь к первоисточнику. Убедитесь, что цитируемая статья или официальный документ существуют и подтверждают именно это предложение.
- Пересчитывайте. Независимо проверяйте числа; проверяйте единицы измерения, знаменатели, пропущенные значения и базовые частоты.
- Ищите опровергающие доказательства. Спросите, какие доказательства изменили бы вывод, а затем ищите их за пределами разговора.
- Честно обозначайте неопределённость. «Неизвестно», «доказательства неоднозначны» и «не исследовано» лучше выдуманной точности.
Конфиденциальность, безопасность и разрешения
Прежде чем спрашивать, что может делать помощник, спросите, что он может видеть, запоминать, отправлять и изменять.
Ввод
Запросы, голос, изображения, файлы, экраны, местоположение и разговоры вокруг.
Производные данные
Расшифровки, векторные представления, предполагаемые интересы, сводки, профили и метки безопасности.
Хранение
История чатов, журналы сервисов, резервные копии, очереди на проверку человеком и записи подключённых приложений.
Действия
Сообщения, покупки, код, календари, записи и устройства, доступные через инструменты или интеграции.
Голосовые помощники: прослушивание - это не одно-единственное состояние
Многие голосовые помощники локально обнаруживают ключевое слово активации в коротком постоянно обновляемом аудиобуфере; это не обязательно означает, что каждый разговор вокруг загружается в облако. Однако обнаружение носит вероятностный характер. Ложное срабатывание может привести к непреднамеренной передаче, расшифровке или хранению речи в зависимости от сервиса и настроек. В европейских рекомендациях по защите данных случайная активация, данные посторонних людей, ограничение целей, хранение и осмысленное удаление названы ключевыми проблемами дизайна.[23]
В контролируемом исследовании 2020 года рядом с протестированными умными колонками воспроизводилось 134 часа телевизионного контента. Частота ложных срабатываний различалась в зависимости от устройства; почти все срабатывания, зафиксированные локально в этой лабораторной среде, передавались в облако.[24] Исследование показывает реальный механизм, а не текущую частоту срабатывания каждого продукта в обычных домах.
Приватность по умолчанию сильнее, чем «будьте осторожны»
Не загружайте в сервис конфиденциальные рабочие и медицинские записи, документы, удостоверяющие личность, личные сообщения, неопубликованные изобретения, данные детей или информацию о других людях, если вы не знаете условия применимого соглашения, цели использования, сроки хранения, использование для обучения, процесс удаления и меры контроля доступа. Обезличивание данных сложнее, чем удаление имени: людей могут идентифицировать сочетания деталей.
Когда ассистент может использовать инструменты, ненадёжное содержимое может стать инструкцией
Ассистент может прочитать веб-страницу, электронное письмо или документ, содержащие вредоносный текст с указанием игнорировать пользователя, раскрыть данные или вызвать инструмент. Исследования косвенных инъекций запросов показали манипулирование, извлечение данных и ненадлежащее использование подключённых функций в уязвимых приложениях, интегрированных с большими языковыми моделями.[25] Атака не создаёт магическим образом новый доступ: последствия ограничивают - или усиливают - данные, права входа, инструменты и разрешения, которые уже есть у ассистента.
Персональные средства управления конфиденциальностью
- Проверьте настройки истории, хранения, обучения и подключённых приложений.
- Удаляйте записи и отменяйте интеграции, которые больше не нужны.
- Когда это уместно, отдавайте предпочтение обработке на устройстве, но всё равно проверяйте телеметрию и синхронизацию.
- Когда это возможно, используйте временные чаты или отдельные учётные записи для ограниченных контекстов.
- Получите согласие других людей, прежде чем записывать или обобщать их разговоры.
Средства управления безопасностью инструментов
- Предоставляйте минимально необходимое разрешение на максимально короткий практически возможный срок.
- Отделяйте права на чтение от прав на запись.
- Храните секреты за пределами контекста, видимого модели.
- Перед действием проверьте получателей, места назначения, данные и стоимость.
- Храните журналы с осторожностью, поскольку они тоже могут стать чувствительными данными.
Запрос - это инструкция по поведению, а не граница контроля доступа. Обеспечивайте безопасность с помощью архитектуры, разрешений, изоляции, подтверждения и восстановления.
Внимание, зависимость и безопасность
Внешнее когнитивное перераспределение само по себе не вредно. Проблема возникает тогда, когда сэкономленные усилия никогда не вкладываются в качество решений, обучение, отдых или более важную работу.
Люди всегда использовали заметки, карты, калькуляторы и других людей, чтобы расширять возможности памяти и действий. Внешнее когнитивное перераспределение может высвободить ограниченный объём рабочей памяти и снизить ненужные усилия. Цена возникает тогда, когда человек больше не знает, что он делегировал, не замечает плохого результата, теряет всё ещё необходимый базовый навык или начинает обращаться к системе, ещё не сформировав собственное намерение.
Здоровое расширение возможностей
Вы можете объяснить результат, отклонить предложение ассистента, при необходимости работать без него и использовать сэкономленное время для более ценного мышления.
Растущая зависимость
Вы спрашиваете, ещё не попробовав, принимаете результаты, которые не можете проверить, чувствуете, что не можете начать самостоятельно, или теряете связь с тем, во что сами действительно верите.
Сбой рабочего процесса
Ни один компетентный человек не отвечает за ответ; ошибки автоматизации остаются незамеченными; важнейшая работа останавливается при сбое сервиса, учётной записи или соединения.
Свободные руки не означают свободного внимания
Голосовое взаимодействие может снизить зрительную и ручную нагрузку, однако сложный диалог по-прежнему требует внимания. В исследовании AAA Foundation 2015 года 257 участников использовали системы десяти автомобилей 2015 модельного года; голосовые задачи вызывали среднюю или высокую когнитивную нагрузку, а после некоторых задач остаточный эффект можно было измерить в течение 27 секунд.[26] Речь шла не о продолжительности воздействия каждой отдельной интеракции, а о том, что с тех пор системы изменились. Практическое правило остаётся прежним: настраивайте навигацию и мультимедиа до начала движения, используйте голос для необходимых задач недолго, избегайте его в сложном дорожном движении, а для длительных задач останавливайтесь.
Восстанавливайте равновесие ещё до того, как удобство превратится в принудительную привычку
- Начинайте без помощника. Начинайте важные размышления, написание текстов и планирование самостоятельно.
- Осознанно выбирайте, что передаёте наружу. Делегируйте повторяющиеся преобразования; сохраняйте за собой активную постановку целей, ценностные решения и критически важные для обучения этапы.
- Практикуйте восстановление. Храните локальные копии, ручные процедуры и базовые знания для сбоев и новых ошибок.
- Замечайте эмоциональную подмену. Диалоговая система может помочь отрепетировать трудный разговор или привести мысли в порядок, но не может дать согласие, проявлять заботу, свидетельствовать или нести ответственность так, как это делает человек.
- Возвращайтесь к людям. Наставники, коллеги и близкие дают взаимный вызов, прожитый контекст и общую ответственность, которые сгенерированный диалог не заменяет.
Личный метод: попробуйте, используйте, проверьте, сохраните
Хорошее использование ИИ - это не набор хитрых запросов. Это рабочий процесс, в котором человеческая цель остаётся видимой от начала до конца.
- ПопробуйтеДумайте, вспоминайте, набрасывайте или решайте ровно настолько, чтобы проявилась ваша собственная модель.
- ИспользуйтеПоручайте ограниченную роль: учителя, критика, редактора, симулятора или преобразователя.
- ПроверьтеПроверяйте утверждения, расчёты, источники, ограничения и затронутых людей.
- РешитеПрименяйте человеческое суждение и берите на себя ответственность за окончательное действие или публикацию.
- ЗакрепитеОбъясняйте, практикуйтесь, документируйте и проверяйте, что сохраняется после закрытия инструмента.
Выберите роль ещё до начала разговора
Учитель
«Пока не решай. Задай один диагностический вопрос, затем дай минимальную подсказку, которая позволит мне продолжить».
Лучше всего подходит, когда важны обучение и самостоятельное применение знаний.Критик
«Укажи самое сильное возражение, скрытое предположение и пограничный случай. Не переформулируй мою позицию».
Лучше всего подходит для защиты авторства и проверки рассуждений.Помощник исследователя
«Отделяй проверенные факты, вероятную интерпретацию и неизвестные сведения. Для каждого важного утверждения приводи первичные источники».
Лучше всего подходит для карты доказательств; каждый источник всё равно нужно проверять.Редактор
«Сохрани мои аргументы и голос. Отмечай двусмысленности и предлагай локальные правки, объясняя причину».
Лучше всего, когда человек уже сформировал содержание.Симулятор
«Ответь как скептически настроенный читатель, исходя из следующих чётко указанных предположений. Покажи, где этот подход рушится».
Полезно для репетиции; не заменяет реальных заинтересованных людей.Трансформатор
«Преобразуй только предоставленный материал в эту структуру. Отметь всё, для чего требуется новая информация».
Лучше всего подходит для ограниченных и легко проверяемых изменений.У сильного запроса есть условие остановки
Укажите, что ассистент может использовать, что он не должен выдумывать, какую неопределённость должен показывать и когда должен спросить, а не действовать. Однако помните: инструкции улучшают поведение, но не гарантируют безопасность. Значимые действия по-прежнему должны ограничиваться техническими разрешениями.
Согласуйте рабочий процесс с целью
| Цель | Первый шаг человека | Полезная роль ИИ | Итоговый тест |
|---|---|---|---|
| Учиться | Попробуйте и точно назовите место, где понимание прерывается. | Сократические вопросы, примеры, обратная связь и адаптивная практика. | Решите и объясните новый случай без ИИ. |
| Создавать | Зафиксируйте свои наблюдения, вкус и ранние альтернативы. | Исследовать прецеденты, тестировать слабые места и расширять варианты реализации. | Можете ли вы назвать человеческую идею и защитить каждый сохранённый выбор? |
| Принимать решения | Определите ценности, заинтересованных людей, доказательства и приемлемый риск. | Сравнивать сценарии и раскрывать предположения. | Независимые доказательства и подтверждение ответственного человека. |
| Коммуницировать | Знайте смысл, аудиторию и желаемое воздействие. | Структурировать, переводить, объяснять и проверять интерпретации. | Прочитайте как аудитория; проверьте каждое фактическое утверждение и цитату. |
| Автоматизировать | Составьте карту процесса, исключений и цены сбоя. | Выполнять узкие повторяющиеся действия в пределах чётко определённых разрешений. | Журналы, выборочный контроль, пороги остановки, возврат и назначенный ответственный человек. |
До
- Чего я добиваюсь?
- Какую часть я обязан понять сам?
- Какими данными я имею право делиться?
- Как выглядела бы опасная ошибка?
После
- Какие утверждения я проверил независимо?
- Что я изменил, отклонил или добавил сам?
- Могу ли я объяснить результат без диалога?
- Что стоит запомнить - а что следует стереть?
Команды, образование и управление
«Человек находится в контуре» не является защитой, если этому человеку не хватает времени, полномочий, доказательств или способности заметить ошибку.
Организации должны управлять всей социотехнической системой: моделью, данными, интерфейсом, разрешениями, сотрудниками, стимулами, затронутыми людьми и процедурой обжалования. Система управления рисками ИИ NIST организует эту работу вокруг управления рисками, картирования контекста, измерения и устранения рисков на протяжении всего жизненного цикла.[27] Это добровольные рекомендации; законы, договоры и профессиональные обязанности могут устанавливать дополнительные требования.
Проведите инвентаризацию
Знайте, какие системы, модели, интеграции, наборы данных и неофициальные способы использования «теневого» ИИ существуют.
Классифицируйте
Отделяйте подготовку черновиков с низким уровнем риска от решений, влияющих на права, доступ, средства к существованию, здоровье или безопасность.
Проверяйте
Тестируйте на реальных задачах, языках и группах пользователей; измеряйте качество, распределение ошибок и исправления, внесенные людьми.
Распределите ответственность
Назначьте ответственного человека, обеспечьте возможность обжалования, отслеживайте изменения и извлекайте уроки из инцидентов.
Основа управления
- Цель до покупки. Еще до выбора продукта определите проблему и сопоставимый исходный вариант.
- Утвержденные границы данных. Укажите, какие категории данных могут поступать в какие системы, и технически обеспечьте соблюдение этого правила.
- Для значимых решений - компетентная проверка. Проверяющим необходимы отраслевые знания, время, полномочия и доступ к ключевым доказательствам.
- Обучение является измеримым результатом. Школы проверяют самостоятельный перенос знаний; работодатели сохраняют путь от новичка до эксперта, вместо того чтобы устранять все возможности для практики.
- Компетентность сохраняется и признается. Вознаграждайте людей, чьи неявные знания улучшают рабочий процесс; не используйте автоматизацию для стирания их авторства или подавления несогласия.
- Доступность проверяется. Сохраните альтернативные способы доступа и тестируйте весь рабочий процесс, а не только список функций.
- Для инцидентов должен существовать порядок реагирования. При необходимости остановите процесс, ограничьте ущерб, уведомите заинтересованных лиц, исправьте затронутые записи и обновите меры контроля.
- Использование можно прекратить. Сохраните возможности экспорта, удаления и миграции, чтобы поставщик или смена модели не присвоили институциональную память.
Не автоматизируйте путь к экспертности
Если ИИ выполняет все исследования начального уровня, подготовку черновиков и диагностику, новички могут лишиться повторений, в процессе которых формируется экспертное суждение. Перестройте роли так, чтобы учащиеся по-прежнему делали прогнозы, практиковались, получали обратную связь и анализировали ошибки. Старшие эксперты должны тратить меньше времени на механические повторения, но больше - на обучение принятию решений, установление стандартов, рассмотрение пограничных случаев и разработку новых методов.
Права, защита данных и прозрачность
В Европейском союзе запросы, записи и транскрипции могут считаться персональными данными в соответствии с GDPR. Голосовая запись становится биометрическими данными специальной категории, когда обрабатывается с помощью специальных технических средств для целей уникальной идентификации; не каждая запись автоматически является биометрической. Правовое основание, прозрачность, ограничение цели, минимизация данных, безопасность, срок хранения и права субъектов данных в любом случае должны оцениваться с учетом конкретного контекста.[28]
Закон ЕС об ИИ возлагает обязанности в зависимости от субъекта, предусмотренного назначения и категории риска. Универсальный чат-бот не является автоматически системой высокого риска. В сентябре 2026 года большинство положений уже применяется, включая соответствующие требования к прозрачности; требования к конкретным системам высокого риска применяются по изменённому графику. Соблюдение закона об ИИ не заменяет законодательство о защите данных, защите потребителей, труде, безопасности или законодательство конкретного сектора.[29] Организации должны оценивать реальное внедрение в соответствии с действующим законодательством конкретной юрисдикции.
Доказательства важнее показного внедрения
Количество приобретённых лицензий, отправленных запросов и сгенерированных документов - это показатели активности. Серьёзное внедрение оценивает качество задачи, общее затраченное время, включая исправления, обучение, неравномерность ошибок, инциденты, опыт сотрудников и пользователей, цену конфиденциальности и результат при смене инструмента. Оно также позволяет прийти к выводу, что для некоторых задач ИИ использовать не следует.
Что будет дальше
Происходит важный переход от систем, отвечающих на один запрос, к системам, которые понимают контекст, запоминают предпочтения, координируют инструменты и стремятся к достижению многоэтапных целей.
Мультимодальная помощь
Текст, голос, изображения, видео, экраны и данные с датчиков всё чаще будут объединяться в одном разговорном интерфейсе.
Агенты, использующие инструменты
Ассистенты будут планировать и выполнять более длительные рабочие процессы, поэтому разрешения, наблюдаемость, подтверждение и восстановление станут центральными проблемами проектирования.
Локальный и гибридный ИИ
Больше работы можно будет выполнять непосредственно на устройстве благодаря меньшей задержке, устойчивости и конфиденциальности, а для сложных задач по-прежнему могут использоваться удалённые модели и сервисы.
Глубокая персонализация
Постоянные учителя и помощники могут адаптироваться к человеку на протяжении многих лет, однако память также может усиливать профилирование, устаревшие предположения и зависимость.
Стандарты и оценка ИИ-агентов всё ещё разрабатываются. В феврале 2026 года NIST запустил инициативу по стандартам ИИ-агентов, ориентированную на совместимость, безопасность, идентичность и внедрение; это продолжающаяся инициатива, а не готовый стандарт безопасности.[30] Эталонные оценки также должны выйти за пределы отдельных ответов и измерять надёжность длинных последовательностей действий, восстановление после сбоев, управление разрешениями, конфиденциальность и качество человеческого надзора.
Вопросы, которые стоит взять с собой в будущее
Расширяет ли эта система то, что люди могут понимать и делать, или лишь создаёт впечатление компетентности?
Укрепляет ли повторное использование память, рассуждение и перенос навыков обучения или устраняет практику, которая их формирует?
Расширяет ли помощь пространство поиска, сохраняя первую самостоятельную мысль, или сводит всех к одним и тем же моделям?
Кто управляет моделью, памятью, данными и разрешениями - и кто может проверять, отказываться, исправлять или уходить?
Признаются ли авторы идей, эксперты, работники и сообщества справедливо за знания, которые система превращает в полезные результаты?
Возвращается ли сэкономленное время к обучению, творчеству, отношениям и отдыху - или лишь увеличивает норму производительности, которую требуют от каждого человека?
Лучшее будущее - не то, в котором человеческая мысль становится ненужной. Это будущее, в котором больше людей могут глубоко учиться, оригинальные умы могут продвигаться дальше, а мощные инструменты остаются ответственными перед жизнями, на которые они влияют.
Направление, достойное укрепления человеческого интеллектаЧасто задаваемые вопросы
Сначала приводятся краткие ответы; в остальной части статьи представлены доказательства и условия.
Делают ли ИИ-ассистенты людей менее умными?
Нет оснований для универсального утверждения. Эффект зависит от способа использования. Пассивная замена может лишить человека практики и скрыть слабое понимание; обучение, обратная связь, доступное объяснение и осознанное воспроизведение могут поддерживать обучение. Долгосрочную способность оценивайте по самостоятельному припоминанию, объяснению и переносу навыков - а не по тому, насколько эффектно выглядит конечный продукт, созданный с помощью ИИ.
Может ли ИИ-ассистент помогать человеку развивать интеллект или IQ?
Он может помогать создавать знания и практиковать конкретные когнитивные навыки, особенно когда задаёт вопросы, адаптирует примеры и предоставляет корректирующую обратную связь. Однако пока нет убедительных доказательств того, что регулярное использование ассистентов надёжно повышает общий интеллект или обеспечивает долгосрочный рост IQ. Эту важную возможность следует проверять с помощью валидных оценок, длительного наблюдения и переноса навыков на действительно новые задачи.
Следует ли экспертам избегать ИИ, поскольку он может ослаблять навыки?
Нет. Эксперты могут получить большую пользу от автоматизации, поиска, моделирования и быстрого создания черновиков. Им следует решить, какие навыки можно безопасно передать на сторону, сохранить способность разбирать пограничные случаи, проверять качество и оставлять время для оригинальной работы. Организации должны уважать решение эксперта отказаться от использования системы, когда она выходит за пределы надёжности.
Лучше генерировать идеи в одиночку, с людьми или с ИИ?
Используйте последовательность, а не одно правило. Начинайте в одиночку, когда важны независимое наблюдение и оригинальность. Зафиксируйте свои рассуждения. Затем привлекайте ИИ и людей для поиска прецедентов, оспаривания предположений, объединения компетенций и разработки идей. Возвращайтесь к самостоятельной работе, когда нужно интегрировать услышанное.
Загружает ли голосовой помощник всё, что говорится рядом?
Не обязательно. Многие устройства распознают слово активации локально, используя постоянно обновляемый короткий буфер. Однако ошибочная активация может передать непреднамеренную речь, а хранение данных зависит от сервиса и настроек. Проверьте текущие настройки продукта, удалите ненужную историю и получите согласие перед записью или обобщением речи других людей.
Могу ли я доверять ссылкам и цитатам, предоставленным ИИ?
Используйте их как направления для поиска, а не как доказательство. Откройте каждый источник; проверьте авторов, название, дату и издание; затем убедитесь, что источник подтверждает именно это утверждение. Независимо ищите умолчанные или противоречащие доказательства. Вымышленные ссылки могут выглядеть совершенно правдоподобно.
Является ли работа, сгенерированная ИИ, плагиатом?
Правила различаются в зависимости от школы, рабочего места, издания и юрисдикции. Сокрытие замены человеческого труда может нарушать правила авторства или оценивания, даже если формулировка новая. Если это требуется, раскрывайте использование ИИ, цитируйте основные источники, сохраняйте свой вклад и никогда не выдавайте идеи или работу другого человека за свои. Авторское право, плагиат и академическая добросовестность связаны между собой, но не являются тождественными понятиями.
Когда мне не следует использовать общего ИИ-ассистента?
Избегайте его, если вы не можете законно или этично поделиться необходимыми данными, если никто не может проверить результат, если ошибка была бы неприемлемой или если цель задачи заключается в оценке ваших способностей без помощи. Для решений, связанных с медициной, правом, финансами, безопасностью или затрагивающих права и характеризующихся высоким риском, используйте актуальные авторитетные источники и решение должным образом квалифицированного человека.
Доказательства и источники
Предпочтение отдаётся первичным исследованиям, рецензируемым статьям и официальным системам. Результаты описывают конкретных изученных людей, задачи, системы и даты – а не каждого возможного ИИ-ассистента.
- Noy, S. и Zhang, W. (2023). Экспериментальные данные о влиянии генеративного искусственного интеллекта на продуктивность. Science. Рандомизированный эксперимент
- Brynjolfsson, E., Li, D. и Raymond, L. (2025). Генеративный ИИ на работе. The Quarterly Journal of Economics. Полевое исследование
- Dell’Acqua, F. и др. (2026). Навигация по изрезанному технологическому фронтиру. Organization Science. Рандомизированный эксперимент
- Becker, J. и др. (2025). Измерение влияния ИИ начала 2025 года на продуктивность опытных разработчиков открытого ПО. METR. Рандомизированный эксперимент
- METR (2026). Мы меняем дизайн эксперимента по продуктивности разработчиков. Обновление исследования
- Vaccaro, M., Almaatouq, A. ir Malone, T. (2024). Kada žmonių ir dirbtinio intelekto deriniai yra naudingi: sisteminė apžvalga ir metaanalizė. Nature Human Behaviour. Iš anksto registruota metaanalizė
- Bastani, H. ir kt. (2025). Generatyvusis dirbtinis intelektas be apsaugos priemonių gali pakenkti mokymuisi: įrodymai iš vidurinės mokyklos matematikos. PNAS. Lauko eksperimentas
- Kestin, G. ir kt. (2025). Mokymas naudojant dirbtinį intelektą pranoksta aktyvųjį mokymąsi klasėje: atsitiktinių imčių kontroliuojamas tyrimas, kuriame autentiškoje edukacinėje aplinkoje pristatomas naujas tyrimais pagrįstas dizainas. Scientific Reports. Randomizuotas kryžminis tyrimas
- Kumar, H. ir kt. (2025). Matematikos mokymas naudojant didelius kalbos modelius: grėsmė ar galimybė?. AIED 2025. Iš anksto registruoti eksperimentai
- Lee, H.-P. ir kt. (2025). Generatyviojo dirbtinio intelekto poveikis kritiniam mąstymui. CHI 2025. Apklausos tyrimas
- Doshi, A. R. ir Hauser, O. P. (2024). Generatyvusis dirbtinis intelektas didina individualų kūrybiškumą, tačiau mažina naujo turinio kolektyvinę įvairovę. Science Advances. Kontroliuojamas eksperimentas
- Qin, P. ir kt. (2025). Laikas svarbus: kaip LLM naudojimas skirtingu metu veikia rašytojų suvokimą ir idėjų kūrimo rezultatus naudojant dirbtinį intelektą. CHI 2025. Randomizuotas eksperimentas
- JAV autorių teisių biuras (2023). Autorių teisių registravimo gairės: kūriniai, kuriuose yra dirbtinio intelekto sugeneruotos medžiagos. Oficialios gairės
- W3C (2023). Žiniatinklio turinio prieinamumo gairės (WCAG) 2.2. Standartas
- Koenecke, A. ir kt. (2020). Rasiniai skirtumai automatinio kalbos atpažinimo srityje. PNAS. Lyginamasis tyrimas
- Американский фонд помощи слепым (2026). ИИ и инвалидность: результаты исследования - инновации и доступность. Опрос, проведённый людьми с инвалидностью
- Valencia, S. и др. (2023). Чем меньше я печатаю, тем лучше: как языковые модели ИИ могут улучшать или затруднять коммуникацию пользователей альтернативной и дополнительной коммуникации. CHI 2023. Исследование пользователей
- NIST (2024). Система управления рисками искусственного интеллекта: профиль генеративного искусственного интеллекта. NIST AI 600-1. Официальная система
- Lin, S., Hilton, J. и Evans, O. (2022). TruthfulQA: измерение того, как модели подражают человеческим заблуждениям. ACL 2022. Эталонное исследование
- Sharma, M. и др. (2024). К пониманию лести в языковых моделях. ICLR 2024. Оценочное исследование
- Parrish, A. и др. (2022). BBQ: созданный вручную тест для оценки предвзятости в ответах на вопросы. Результаты ACL 2022. Эталонное исследование
- Buçinca, Z., Malaya, M. B. и Gajos, K. Z. (2021). Доверять или думать: когнитивные механизмы принуждения к размышлению могут снизить чрезмерную зависимость от ИИ при принятии решений с помощью ИИ. Контролируемый эксперимент
- Европейский совет по защите данных (2021). Рекомендации 02/2021 по виртуальным голосовым помощникам. Официальные рекомендации
- Dubois, D. J. и др. (2020). Когда динамики слышат всё: характеристика ложных срабатываний умных IoT-колонок. Труды конференции по технологиям повышения конфиденциальности. Контролируемое исследование
- Greshake, K. et al. (2023). Не то, на что вы подписывались: компрометация реальных приложений с интегрированными большими языковыми моделями с помощью косвенной инъекции промптов. Исследование безопасности
- AAA Foundation for Traffic Safety (2015). Измерение когнитивного отвлечения внимания в автомобиле III. Экспериментальное исследование
- NIST (2023). Система управления рисками искусственного интеллекта 1.0. Официальная система
- European Union (2016). Общий регламент по защите данных (ЕС) 2016/679. Правовой акт
- European Commission (updated 2026). Нормативно-правовая база и график применения Закона об ИИ. Официальный обзор
- NIST (2026). Инициатива по стандартам для ИИ-агентов. Инициатива по стандартам