Искусственные интеллектуальные помощники
Linas JuozenasПоделиться
ИИ-ассистенты:
расширять возможности разума
ИИ-ассистент может сократить часы поиска, подготовки черновиков или рутинного преобразования до нескольких минут. Это реальная сила. Однако высший критерий заключается не в том, быстро ли машина что-то создала, а в том, стал ли человек способнее, улучшилось ли решение, сохранилась ли истина и осталась ли самостоятельность человека главной.
самостоятельность
цель
контекст
сгенерировать
доказательства
решение
обучение
Что такое ИИ-ассистент — и чем он не является
Слово «ассистент» описывает интерфейс и роль, а не гарантирует знания, лояльность или здравое суждение.
Современный ассистент может объединять языковую модель с распознаванием речи, пониманием изображений, поиском или извлечением данных, персональной памятью, программными инструментами и разрешением выполнять действия. Модель предсказывает полезные продолжения на основе закономерностей в данных; поиск может предоставить документы; инструменты могут выполнять вычисления, просматривать веб-страницы, записывать файлы или управлять сервисами. Результат может восприниматься как единый мыслящий разум, но точнее понимать его как набор компонентов с разными типами сбоев.
Интерфейс
Голос, чат, камера, экран или встроенные элементы управления преобразуют запрос человека в машиночитаемый ввод.
Модель
Модель интерпретирует контекст и генерирует язык, код, изображения или предложенный план. Беглость изложения не является доказательством.
Обоснованность
Поиск, базы данных и предоставленные файлы могут опирать ответ на факты, но поиск всё равно может быть неполным или ошибочным.
Инструменты и разрешения
Календари, электронная почта, средства запуска кода и другие инструменты превращают слова в последствия. Чем выше автономность, тем строже должны быть меры контроля.
Разговор может создать ложное ощущение уверенности
Естественный язык обладает значительной социальной силой. Тёплый тон, уверенное объяснение или кажущаяся память могут создать впечатление, будто система понимает, наблюдала или проверила больше, чем было на самом деле. Относитесь к индивидуальности как к элементу дизайна интерфейса. Оценивайте утверждения по доказательствам, а действия — по разрешениям, обратимости и возможности проверки.
Лестница автономности
| Режим | Что делает система | Ответственность человека | Минимальная защита |
|---|---|---|---|
| Ответ | Объясняет, переводит, обобщает или предлагает варианты. | Интерпретирует и принимает решения. | Проверяет важные факты и качество источников. |
| Черновик | Создаёт текст, код, анализ или планы для проверки. | Редактирует, тестирует и принимает на себя ответственность за авторство. | Сохраняет проверяемый черновик и этап валидации. |
| Рекомендовать | Ранжирует варианты или предлагает решение. | Проверяет предположения, затронутых людей и альтернативы. | Независимые данные для решений, имеющих существенные последствия. |
| Действовать с одобрения | Готовит электронное письмо, покупку, изменение или рабочий процесс и ждёт. | Проверяет точное действие и объект. | Понятный предварительный просмотр, ограниченные разрешения и подтверждение. |
| Действовать автономно | Выполняет несколько шагов без проверки каждого из них. | Определяет границы, осуществляет мониторинг и сохраняет ответственность. | Минимально необходимые права, журналы, лимиты расходов, средства остановки и восстановления. |
Что на самом деле показывают исследования производительности
ИИ может существенно повысить результаты в некоторых задачах. Размер и направление эффекта зависят от задачи, системы, человека, рабочего процесса и определения качества.
Быстрее и лучше в рамках определённого набора задач
В предварительно зарегистрированном эксперименте с участием 453 специалистов с высшим образованием, выполнявших письменные задания среднего уровня, доступ к ChatGPT сократил время выполнения на 40% и увеличил независимо оценённое качество результатов на 18% в среднем.[1] Это подтверждает реальную пользу для выполнения задач, но не доказывает наличие такого же эффекта во всех профессиях или долгосрочного обучения.
Большая польза для новых сотрудников
Исследование с участием 5 172 специалистов службы поддержки показало в среднем 15%-ное увеличение числа обращений, решённых за час. Наибольшую пользу получили менее опытные и менее результативные сотрудники; в итоговой статье сообщается примерно о 30%-ном росте у менее квалифицированной группы, тогда как у высококвалифицированных сотрудников изменения производительности были небольшими, а качество диалогов немного снизилось.[2]
Мощный инструмент в пределах диапазона возможностей
Среди 758 консультантов те, кто использовал GPT-4, выполнили на 12,2% больше задач в пределах проверенного диапазона возможностей, завершили их на 25,1% быстрее и создали более качественные результаты. При выполнении задачи, намеренно выходившей за пределы этого диапазона, пользователи ИИ на 19% реже приходили к правильному ответу.[3]
Экспертная работа не сводится к простым заявлениям об ускорении
В рандомизированном исследовании 2025 года с участием 16 опытных разработчиков открытого ПО, выполнявших 246 задач в знакомых им репозиториях, ИИ-инструменты начала 2025 года в среднем замедляли выполнение задач на 19%, хотя разработчики ожидали ускорения.[4] Последующее исследование 2026 года выявило признаки того, что более новые инструменты могут помогать сильнее, однако серьёзные проблемы с отбором участников и измерениями не позволили надёжно оценить текущий эффект.[5]
Честный вывод
«ИИ повышает производительность» — слишком широкое утверждение. Обоснованная формулировка такова: в некоторых хорошо подходящих для этого задачах, при компетентной проверке, конкретные системы повышали скорость, объём выполненной работы или оценку качества. Это полезно и важно. Но это утверждение с оговорками.
Человек и ИИ — не всегда самая сильная команда
Предварительно зарегистрированный метаанализ 106 экспериментов и 370 эффектов показал, что в среднем сочетание человека и ИИ превосходило людей без помощи ИИ (g = 0.64), однако в среднем уступали тому, кто оказывался сильнее — человеку или ИИ по отдельности — (g = −0.23). Результаты были крайне неоднородными, а включённые исследования завершились в июне 2023 года, до появления многих современных ассистентов.[6] Сотрудничество необходимо проектировать и тестировать; добавление человека к модели или модели к человеку не гарантирует синергии.
Измеряйте ценность, а не видимую занятость
Зубчатая граница: соседние задачи, противоположные результаты
Система может поразительно хорошо справиться с одной задачей и уверенно выдать ненадёжный результат в следующей, даже если человеку обе задачи кажутся одинаково сложными.
Преобразование
Переформатирование предоставленного материала, создание вариантов, перевод тональности, извлечение полей и подготовка черновика по проверенному брифу.
Синтез
Обобщение длинных документов, сопоставление доказательств и программирование в незнакомой системе могут хорошо выполняться — если контекст полон, а проверка проводится квалифицированно.
Истина и суждение
Новые факты, причинно-следственные утверждения, неоднозначные требования, конфликты ценностей и редкие крайние случаи могут выходить за пределы надёжной границы возможностей модели.
Граница меняется по мере изменения моделей и инструментов и различается в зависимости от языка, области и контекста. Знакомство также может вводить в заблуждение: отшлифованный ответ может напоминать форму экспертной работы, не содержав при этом причинного понимания эксперта. Самый безопасный пользователь не доверяет бездумно и не отвергает бездумно. Он узнаёт, где конкретная система помогает, разрабатывает проверки с учётом её слабых сторон и сохраняет готовность работать без неё.
Быстрая проверка границы возможностей перед делегированием
- Определите успехУкажите ответ, доказательства и допустимую погрешность.
- Оцените ставкиЧто произойдёт, если результат окажется незаметно ошибочным?
- Проверяйте границыПроверяйте известные случаи, враждебные примеры и ситуации с недостающим контекстом.
- Назначьте проверяющегоПоручите задачу человеку, способному обнаружить соответствующую ошибку.
- Фиксируйте, чему научилисьОбновляйте рабочий процесс, когда меняется система или задача.
Парадокс проверки
Чем труднее заметить ошибку, тем больше опыта требуется для проверки. ИИ может помогать новичкам осваивать устоявшиеся модели, но эксперты остаются незаменимыми именно там, где модель перестаёт работать. Общество, которое пользуется преимуществами обобщённого экспертного знания, должно защищать людей, его создавших, сохранять за ними право оспаривать автоматизацию и признавать их вклад.
Обучение, память и интеллект
Самый ценный помощник — не всегда тот, кто быстрее всего даёт ответ. Возможно, это тот, кто помогает разуму формировать более сильные модели, извлекать знания из памяти и самостоятельно решать следующую задачу.
\Непосредственный результат и устойчивые способности — это разные исходы.\ Написанное эссе, правильное уравнение или работающая программа показывают, что человек и инструмент вместе получили результат. Но сами по себе они не показывают, чему человек научился. Чтобы измерить прогресс, позже уберите инструмент и проверьте воспроизведение, объяснение, перенос на новую задачу и обнаружение ошибок.
Это различие важно, потому что интеллект — не украшение. Способности к рассуждению, память, скорость обучения, знания и умение переносить понимание на новые ситуации могут влиять на то, насколько успешно человек справляется с учёбой, работой и сложными жизненными решениями. Эти способности заслуживают развития и признания. Они возникают под воздействием взаимодействующих факторов, включая биологию, развитие, здоровье, возможности, обучение и годы целенаправленной учёбы, а их сохранение может требовать постоянных усилий. ИИ должен помогать большему числу людей укреплять интеллектуальные способности, но никогда не стирать редкую экспертизу и оригинальное мышление, от которых выигрывают другие.
\Более высокий балл по валидной когнитивной оценке — это реальное свидетельство более высоких результатов в тех способностях, которые измеряет эта оценка.\ Такое свидетельство может иметь огромное значение: исключительные способности к рассуждению и накопленные знания позволяют человеку заметить опасность, найти решение или увидеть возможность, которые ни один доступный инструмент или комитет не смогут обнаружить без него. Балл — не купленное в магазине украшение, а заимствованная беглость модели — не замена мозгу, сформированному способностями, развитием и обучением на протяжении всей жизни. Уважайте интеллект: берегите когнитивное здоровье, предоставляйте талантливым и преданным делу умам пространство для работы, прислушивайтесь к ним, когда их опыт важен, и признавайте ценность, которую они создают. Тщательные измерения ограничивают то, что доказывает балл; их никогда не следует использовать, чтобы делать вид, будто измеренные способности не имеют значения.
Цель не в том, чтобы доказать, что инструмент способен думать за вас. Цель — дать вам возможность думать дальше, чем раньше.
Стандарт использования ИИ, ориентированный на развитие человекаПомощь во время практики может скрывать более слабое усвоение
В исследовании с рандомизацией по классам, проведённом среди 839 учащихся одной турецкой старшей школы, неограниченный интерфейс GPT-4 улучшил результаты практики с поддержкой, однако позже эти учащиеся показали результаты на 17% хуже, чем контрольная группа, на экзамене без помощи. Защищённый репетитор, использовавший материалы, подготовленные учителями, подсказки и отказ от предоставления полных ответов, повысил результаты практики и устранил этот штраф на экзамене; при этом на экзамене он не превзошёл контрольную группу статистически значимо.[7] Исследование охватывало четыре занятия и немедленный тест, но не долгосрочное развитие.
Тщательно разработанное репетиторство может улучшить непосредственное усвоение материала
Среди 194 соответствующих критериям студентов Гарварда, изучавших физику на двух занятиях, специально разработанный репетитор на базе GPT-4 обеспечил расчётное преимущество в 0,63 стандартного отклонения по непосредственному итоговому тесту по сравнению с экспертным занятием по методике активного обучения; при этом медианное время подготовки составило 49, а не 60 минут.[8] Это свидетельствует в пользу тщательно разработанного репетитора в конкретных условиях, но не доказывает, что обычный чат-бот может заменить преподавателей. Отсроченное усвоение материала и результаты за семестр не проверялись.
Попытка решить задачу сначала может изменить то, чему учит объяснение
В двух экспериментах с участием 1 818 взрослых из США правильные объяснения LLM улучшали непосредственные результаты при решении похожих задач без помощи по сравнению с одним лишь получением ответов, особенно когда участники сначала пытались решить задачу самостоятельно, а уже потом видели объяснение.[9] Перенос был близким по содержанию, краткосрочным и измерялся лишь небольшим числом заданий, поэтому эти результаты поддерживают определённый дизайн обучения, но не утверждают широкого или устойчивого роста интеллекта.
Уверенность меняет то, где происходит мышление
В исследовании 2025 года 319 специалистов умственного труда рассказали о 936 случаях реального использования ИИ. Более высокая уверенность в генеративном ИИ была связана с меньшими усилиями в области критического мышления по самоотчётам; более высокая уверенность в собственных способностях — с большими усилиями. Участники также описывали смещение акцента в сторону проверки, интеграции и ответственного управления.[10] Исследование сообщает о восприятии и взаимосвязях, а не доказывает, что ИИ вызвал снижение когнитивных способностей.
Превратите ассистента в репетитора, а не в поставщика ответов
Слабый цикл обучения
- Сразу просите готовый ответ.
- Читайте пассивно и принимайте гладкие формулировки.
- Скопируйте результат, не воссоздавая его.
- Повторяющаяся зависимость в следующей похожей задаче.
Цикл обучения, ориентированный на развитие
- Сначала попытайтесь решить задачу и изложите свои рассуждения.
- Попросите одну подсказку, контрпример или диагностический вопрос.
- Объясните ответ своими словами.
- Закройте ассистента и решите разнообразный пример по памяти.
Может ли ИИ повысить IQ?
Пока нет убедительных данных о том, что обычное использование универсального ИИ-ассистента надёжно приводит к долгосрочному росту общего интеллекта или IQ. Он может помогать людям приобретать знания, практиковаться в рассуждении, получать обратную связь, переводить сложные материалы и получать доступ к обучению — это составляющие, которые могут улучшать отдельные когнитивные навыки и практическую компетентность. Любое утверждение о росте IQ должно опираться на валидную повторную оценку, учитывать эффекты практики и демонстрировать перенос за пределы задач, отработанных вместе с системой. Отсутствие доказанного универсального эффекта — повод тщательно измерять результаты, а не повод отвергать интеллектуальный рост.
Сохраняйте полезную трудность
- Сначала вспоминайте, потом открывайте. Запишите то, что помните, прежде чем просить краткое изложение.
- Сначала генерируйте, потом сравнивайте. Сформулируйте собственную гипотезу, план или решение до того, как увидите вариант модели.
- Спрашивайте о причинах. Запрашивайте механизмы, предпосылки, пограничные случаи и проверку, которая могла бы доказать ошибочность ответа.
- Меняйте задачу. Изменяйте контекст и решайте её снова без помощи, чтобы проверить перенос навыка.
- Сохраняйте базовый уровень компетентности. Регулярно выполняйте основные навыки без посторонней помощи, чтобы чрезвычайные, новые и adversarial-ситуации оставались преодолимыми.
Оригинальность, осознанное уединение и сообщество
Иногда разуму нужна свобода от подсказок — в том числе человеческих и машинных, — чтобы обнаружить, что он на самом деле видит.
Оригинальная мысль часто возникает до достижения консенсуса. Когда другие люди — или ИИ, обученный на господствующих шаблонах, — сразу подсказывают, на что обратить внимание, как сформулировать проблему или как выглядит «хороший ответ», внимание может преждевременно зафиксироваться. Влияние может быть благим по намерению и всё же сузить пространство поиска. Осознанное уединение создаёт защищённый промежуток, в котором любопытство может блуждать, необычные ассоциации — формироваться, а идея — становиться достаточно самобытной, чтобы выдержать сравнение.
Это не делает изоляцию конечным идеалом. Как только появляется оригинальная идея, другие люди становятся незаменимыми: они оспаривают слабые предпосылки, вносят недостающие знания, создают то, что не под силу одному человеку, знакомят с работой более широкие сообщества и отмечают подлинные достижения. Поэтому здоровая интеллектуальная жизнь чередует уединённое формирование идей и щедрое сотрудничество — а не постоянное отстранение и не постоянную подверженность чужим направлениям.
Отойдите достаточно надолго, чтобы услышать собственную мысль. Возвращайтесь, когда захотите, — и пусть возвращение станет праздником: проверяйте, поддерживайте, развивайте, отмечайте заслуги и делитесь тем, что начал один разум.
Уединение и сообщество — взаимодополняющие интеллектуальные условияБолее высокие индивидуальные оценки, более низкое коллективное разнообразие
В эксперименте 2024 года 293 автора написали короткие рассказы, а 600 читателей, не знавших условий эксперимента, оценили их. Доступ к одной идее от ИИ повышал средние оценки новизны на 5,4%, а полезности — на 3,7%; доступ к пяти идеям повышал их на 8,1% и 9,0% соответственно. Выигрыш был сосредоточен среди авторов, показавших более низкие результаты в узком базовом задании на творческие способности. Однако рассказы с поддержкой ИИ стали более похожими друг на друга и примерно на 5% более похожими на предложенные идеи.[11] Задание касалось художественного текста из восьми предложений, а не творчества в целом, но оно показывает, как индивидуальный подъём может сосуществовать с коллективным сближением.
Первый этап в уединении может сохранить самостоятельность и дистанцию от модели
В небольшом эксперименте 2025 года 60 участников либо использовали GPT-4 с самого начала 20-минутного задания по генерированию идей на тему здоровья, либо обращались к нему только после того, как самостоятельно создали не менее трёх идей. Участники с отложенным использованием ИИ создавали идеи, менее похожие на вывод модели, и сообщали о большей творческой самоэффективности, автономии, чувстве авторства и признании собственных заслуг.[12] В исследовании не было группы без ИИ, а разница в количестве идей не достигла общепринятого уровня статистической значимости. Оно делает принцип сначала самостоятельно, затем с поддержкой многообещающим защитным решением, но не универсальным законом.
Протокол оригинальности из четырёх этапов
- СтранствуйтеВыделяйте защищённое от внешних воздействий время для наблюдения и размышлений без поступающих подсказок.
- ФиксируйтеЗаписывайте идею, ход рассуждений, дату и первые свидетельства своими словами.
- ОспаривайтеИспользуйте людей и ИИ, чтобы находить прецеденты, возражения, проверки и недостающую экспертизу.
- СоздавайтеСотрудничайте с чётко распределёнными ролями и сохраняйте след того, кто и какой вклад внёс.
- ОтмечайтеОтмечайте заслуги авторов и соавторов; помогайте сильным идеям доходить до тех, кому они могут послужить.
Авторство — это больше, чем нажатие кнопки «сгенерировать»
Ответственность и признание заслуг должны соответствовать значимому человеческому вкладу: формулированию цели, выбору или отклонению материала, принятию выразительных решений, доработке, проверке и принятию ответственности. Сохраняйте историю версий, когда важна информация о происхождении. Согласно текущим рекомендациям Бюро авторского права США, авторское право сосредоточено на авторстве человека, а заявители должны раскрывать наличие в зарегистрированной работе материалов, сгенерированных ИИ в объёме, превышающем минимальный.[13]
Уважайте интеллект, не ранжируя человеческое достоинство
Когнитивные способности и вклад не взаимозаменяемы. Некоторые люди благодаря редким способностям и многолетнему труду развивают выдающиеся навыки рассуждения, знания или творческий потенциал; общество выигрывает, когда защищает их, прислушивается к ним и справедливо признаёт их заслуги. Равное человеческое достоинство не требует притворяться, будто все результаты одинаковы. Признание должно отмечать реальные достижения, не превращая оценку в разрешение плохо обращаться с кем-либо.
Доступность и инклюзия: больше способов думать, говорить и действовать
Для многих людей ассистент — не диковинка. Он может служить мостом через несоответствие между способностями человека и негибкой окружающей средой.
Язык и когнитивные способности
Переписывание простым языком, пошаговые инструкции, поддержка словарного запаса и регулируемый темп могут уменьшить ненужные барьеры, не преуменьшая значимость идеи.
Сенсорный доступ
Субтитры, преобразование текста в речь, описания изображений и мультимодальный ввод могут переводить информацию между визуальной, слуховой и текстовой формами.
Доступ к управлению движением и речи
Голосовое управление, интерфейсы, совместимые с переключателями, генерация текста и альтернативная и дополнительная коммуникация могут снизить усилия, необходимые для выражения намерения или управления программным обеспечением.
Хорошая доступность расширяет возможности контроля, а не заставляет всех пользоваться одним и тем же «интеллектуальным» каналом. Человек должен иметь возможность печатать вместо речи, читать вместо прослушивания, замедлять или останавливать вывод, исправлять результаты распознавания, сохранять собственный голос и решать, стоит ли персонализация необходимых для неё данных. Руководства по обеспечению доступности веб-контента обеспечивают надёжную основу для цифровых интерфейсов, доступных для восприятия, управления и понимания и устойчивых к различным условиям; функция ИИ не заменяет доступную структуру, поддержку клавиатуры, метки, субтитры или тестирование с участием людей с инвалидностью.[14]
Распознавание не одинаково точно для всех
Речевые системы могут работать по-разному в зависимости от акцента, диалекта, манеры речи, возраста, уровня шума и инвалидности. Исследование 2020 года пяти коммерческих систем распознавания речи выявило значительно более высокий уровень ошибок распознавания слов у чернокожих говорящих по сравнению с белыми говорящими на протестированных наборах данных американского английского.[15] С тех пор продукты изменились, поэтому эти цифры не являются актуальной оценкой; исследование по-прежнему наглядно демонстрирует, что средняя точность может скрывать неравномерное распределение ошибок.
Человек, полагающийся на результат, может меньше всех иметь возможность его проверить
В опросе жителей США, проведённом в 2025 году при участии 19 организаций людей с инвалидностью, приняли участие 1 735 взрослых, 1 070 из них — люди с инвалидностью. Среди 290 незрячих и слабовидящих респондентов, использовавших визуальное описание с помощью ИИ, 21% сообщили об ошибке, которая причинила им вред; в каждой группе зрячих участников сравнения этот показатель составил 9%. Среди 54 глухих и слабослышащих пользователей субтитров 24% сообщили о вреде от ошибки.[16] Небольшие размеры подгрупп и самоотбор ограничивают оценки для всей совокупности, но асимметрия очевидна: правдоподобная догадка может нести больший риск, когда результат заменяет недоступное восприятие.
Более быстрое выражение мыслей должно оставаться выражением самого человека
В исследовании CHI с участием 12 людей, использующих средства дополнительной и альтернативной коммуникации, подсказки языковой модели в реальном времени могли сокращать время и усилия на набор текста, однако участники подчёркивали важность сохранения собственного стиля и предпочтений.[17] Поэтому предложения должны быть необязательными, доступными для редактирования и простыми для отклонения или отмены — их ни в коем случае нельзя произносить или отправлять автоматически.
Для продуктовых команд
- Проводите тестирование с участием людей с инвалидностью и оплачивайте их экспертный вклад.
- Публикуйте результаты по соответствующим группам пользователей и условиям.
- Предоставляйте не голосовые и не связанные с ИИ альтернативы для выполнения важнейших действий.
- Делайте ошибки легко обнаруживаемыми, исправимыми и обратимыми.
- Не делайте вывод о некомпетентности на основании ошибки распознавания.
Для школ и рабочих мест
- Отличайте законную адаптацию от скрытой подмены.
- Оценивайте знания человека через доступный способ.
- Не требуйте раскрывать чат-боту сведения о чувствительных состояниях.
- Обеспечивайте доступность поддержки человека, когда автоматизация даёт сбой.
- Позволяйте пользователю управлять тоном, темпом, форматом и памятью.
Потребности в доступности различаются. Функция, помогающая одному человеку, может обременять другого; выбор пользователя и непосредственное тестирование надёжнее предположений.
Истина, калибровка и дисциплина проверки
Ассистент может сообщить истинный факт, правдоподобный вывод и вымышленную деталь одним и тем же спокойным тоном. Поэтому проверка должна следовать за утверждением, а не за тоном.
NIST использует термин конфабуляция для уверенно представленного ложного или ошибочного контента, создаваемого генеративными системами. В своём профиле генеративного ИИ организация также выделяет конфиденциальность, вредную предвзятость, целостность информации, кибербезопасность и конфигурацию взаимодействия человека и ИИ как риски, требующие измерения и управления с учётом конкретного контекста.[18] Профиль является добровольным ресурсом для управления рисками, а не законом или сертификатом безопасности какой-либо системы.
Модели могут придумывать ссылки на источники, неправильно интерпретировать источник, выполнять недействительные вычисления, опускать противоречащие свидетельства или соглашаться с предпосылкой пользователя. Более старые тесты делают это явление заметным, но их не следует повторно использовать для оценки актуальных продуктов. Например, TruthfulQA проверял 817 вопросов, чувствительных к распространённым заблуждениям, в 38 категориях и выявил значительные различия в достоверности моделей, доступных исследователям на тот момент.[19] Это не сообщает нам о точности каждого ассистента в 2026 году.
Конфабуляция
Модель создаёт неподтверждённые факты, цитаты, ссылки, судебные дела, данные или рассуждения, соответствующие запрошенной форме.
Подхалимство
Система следует выраженному убеждению пользователя или желаемому выводу вместо сохранения позиции, основанной на доказательствах; контролируемые исследования продемонстрировали эту тенденцию у протестированных ассистентов.[20]
Неравная ошибка
Результаты могут различаться между группами, языками и контекстами. Результаты бенчмарков, таких как BBQ, выявляют стереотипные закономерности в контролируемых условиях, но не являются универсальными показателями дискриминации.[21]
Лестница проверки, соответствующая последствиям
| Последствие ошибки | Примеры | Подходящая проверка | Не полагайтесь на |
|---|---|---|---|
| Низкое | Придумывание названий, изменение тона, переформатирование собственных заметок. | Проверьте соответствие; сохраните или отбросьте. | Вкус помощника как объективный факт. |
| Умеренное | Публичная статья, анализ, обычный код, объяснение исследования. | Откройте указанные источники, проверьте примеры, попросите знающего человека провести проверку. | Ссылка лишь потому, что у неё правдоподобное название или DOI. |
| Высокое | Медицинские, юридические, финансовые решения, решения в сфере занятости, безопасности или защищённости. | Используйте авторитетные актуальные источники и человека с соответствующей квалификацией; документируйте допущения и проводите проверку. | Дисклеймер ИИ, голосование большинства среди чат-ботов или уверенная формулировка. |
| Необратимое | Публикация, удаление, платёж, изменение аккаунта, раскрытие информации или физическое действие. | Покажите точное действие и объект; потребуйте нового подтверждения и плана восстановления. | Широкое постоянное разрешение или неоднозначная команда. |
Калиброванное трение защищает мышление
В контролируемом эксперименте с участием 199 человек интерфейсы, требовавшие от людей сначала разобраться в задаче, прежде чем получить или принять совет ИИ, снижали чрезмерную зависимость от неверных рекомендаций. Наиболее эффективное трение также нравилось людям меньше.[22] Удобство и здравое суждение могут тянуть в разные стороны; отличный дизайн делает важное обдумывание неизбежным, не усложняя при этом каждую безобидную задачу.
Проверка по каждому утверждению
- Отделяйте факты от синтеза. Отмечайте даты, количества, цитаты и причинно-следственные утверждения, которые можно проверить.
- Обращайтесь к первоисточнику. Убедитесь, что указанная статья или официальный документ существует и подтверждает именно это предложение.
- Пересчитывайте. Выполняйте расчёты независимо; проверяйте единицы измерения, знаменатели, пропущенные значения и базовые частоты.
- Ищите опровержения. Спросите, какие доказательства изменили бы вывод, а затем ищите их за пределами разговора.
- Честно обозначайте неопределённость. «Неизвестно», «смешанные результаты» и «не проверено» лучше, чем выдуманная точность.
Конфиденциальность, безопасность и разрешения
Прежде чем спрашивать, что может делать помощник, спросите, что он может видеть, помнить, отправлять и изменять.
Ввод
Запросы, голос, изображения, файлы, экраны, местоположение и окружающие разговоры.
Производные данные
Транскрипты, эмбеддинги, выведенные интересы, сводки, профили и метки безопасности.
Хранение
История разговоров, журналы сервисов, резервные копии, очереди на проверку людьми и записи подключённых приложений.
Действие
Сообщения, покупки, код, календари, записи и устройства, доступные через инструменты или интеграции.
Голосовые помощники: прослушивание — не одно-единственное состояние
Многие голосовые ассистенты запускают локальный детектор ключевого слова на коротком циклическом аудиобуфере; это не обязательно означает, что каждый фрагмент окружающего разговора загружается. Однако обнаружение носит вероятностный характер. Ложная активация может привести к передаче, расшифровке или хранению непреднамеренно записанной речи — в зависимости от сервиса и его настроек. Европейские рекомендации по защите данных выделяют случайную активацию, данные посторонних лиц, ограничение целей, хранение и полноценное удаление как ключевые вопросы проектирования.[23]
В ходе контролируемого исследования 2020 года рядом с тестируемыми умными колонками воспроизводились 134 часа телевизионных материалов. Частота ложных активаций различалась в зависимости от устройства; почти все активации, зафиксированные локально в лабораторных условиях, отправлялись в облако.[24] Исследование демонстрирует реальный механизм, а не текущую частоту активации каждого продукта в обычном доме.
Конфиденциальность по умолчанию надёжнее, чем «будьте осторожны»
Не вставляйте в сервис конфиденциальные рабочие материалы, медицинские записи, документы, удостоверяющие личность, личные сообщения, неопубликованные изобретения, данные детей или информацию о другом человеке, если вам неизвестны регулирующее соглашение, цель использования, сроки хранения, использование для обучения, процесс удаления и средства контроля доступа. Обезличивание сложнее, чем удаление имени: сочетания деталей могут идентифицировать людей.
Когда ассистент может использовать инструменты, ненадёжный контент может превратиться в инструкцию
Ассистент может прочитать веб-страницу, электронное письмо или документ, содержащие вредоносный текст с указанием игнорировать пользователя, раскрыть данные или вызвать инструмент. Исследовательские демонстрации косвенной инъекции подсказок показали манипуляции, утечку данных и неправомерное использование подключённых функций в уязвимых приложениях, интегрированных с большими языковыми моделями.[25] Атака не создаёт доступ сама по себе: последствия ограничиваются или, наоборот, усиливаются данными, учётными данными, инструментами и разрешениями, которые уже есть у ассистента.
Средства контроля конфиденциальности
- Проверяйте настройки истории, хранения, обучения и подключённых приложений.
- Удаляйте записи и отзывайте интеграции, которые вам больше не нужны.
- По возможности отдавайте предпочтение обработке на устройстве, но всё равно проверяйте телеметрию и синхронизацию.
- По возможности используйте временные чаты или отдельные аккаунты для ограниченных контекстов.
- Спрашивайте разрешение перед записью или составлением резюме о других людях.
Средства контроля безопасности инструментов
- Предоставляйте минимально необходимые разрешения на кратчайший практически возможный срок.
- Разделяйте доступ на чтение и доступ на запись.
- Храните секреты вне контекста, видимого модели.
- Перед выполнением действия просматривайте получателей, назначения, данные и стоимость.
- Храните журналы с осторожностью, поскольку журналы тоже могут стать конфиденциальными данными.
Подсказка — это поведенческая инструкция, а не граница контроля доступа. Обеспечивайте безопасность с помощью архитектуры, разрешений, изоляции, подтверждения и восстановления.
Внимание, зависимость и безопасность
Передача задач не обязательно вредна. Она становится проблемой, когда сэкономленные усилия никогда не направляются заново на суждения, обучение, отдых или более важную работу.
Люди всегда использовали записные книжки, карты, калькуляторы и других людей, чтобы расширять память и возможности действий. Когнитивная разгрузка может высвободить ограниченный объём рабочей памяти и уменьшить ненужные усилия. Цена проявляется, когда человек больше не знает, что было делегировано, не может заметить плохой результат, утрачивает ключевой навык, который всё ещё необходим, или начинает обращаться к системе, прежде чем сформировать собственное намерение.
Здоровое усиление возможностей
Вы можете объяснить результат, отвергнуть помощь ассистента, работать без него при необходимости и использовать сэкономленное время для более ценных размышлений.
Растущая зависимость
Вы спрашиваете, не попробовав сначала, принимаете результаты, которые не можете проверить, чувствуете, что не способны начать самостоятельно, или теряете понимание того, во что на самом деле верите.
Сбой рабочего процесса
Ни один компетентный человек не владеет ответом; ошибки автоматизации проходят незаметно; важная работа останавливается, когда сервис, учётная запись или соединение дают сбой.
Свободные руки не означают свободного внимания
Голосовое взаимодействие может снизить зрительную и ручную нагрузку, но сложный диалог по-прежнему занимает внимание. В исследовании AAA Foundation 2015 года с участием 257 человек, использовавших десять автомобильных систем модельного года 2015, голосовые задачи создавали умеренную или высокую когнитивную нагрузку, а заметные остаточные эффекты после некоторых задач сохранялись до 27 секунд.[26] Максимальным был не период после каждого взаимодействия, и системы изменились. Практическое правило остаётся прежним: настраивайте навигацию и медиа до начала движения, сводите использование голосовых функций к необходимому минимуму, не используйте их в сложном дорожном движении и останавливайтесь для выполнения сложных задач.
Восстанавливайте баланс, пока удобство не превратилось в навязчивую потребность
- Начинайте без помощника. Начинайте важные размышления, написание текстов и планирование, опираясь на собственное внимание.
- Выбирайте, что передать. Делегируйте повторяющиеся преобразования, но продолжайте активно заниматься постановкой целей, ценностными суждениями и этапами, критичными для обучения.
- Практикуйте восстановление. Храните автономные копии, ручные процедуры и базовые знания на случай сбоев и непредвиденных отказов.
- Замечайте эмоциональное замещение. Разговорная система может помочь отрепетировать трудный разговор или упорядочить мысли, но не может дать согласие, заботиться, быть свидетелем или нести ответственность так, как это может человек.
- Возвращайтесь к людям. Наставники, коллеги и близкие дают взаимный вызов, жизненный контекст и совместную ответственность, которые сгенерированный разговор заменить не может.
Личная схема: пробуйте, помогайте, проверяйте, сохраняйте
Грамотное использование ИИ — это не набор хитроумных запросов. Это рабочий процесс, в котором человеческая цель остаётся видимой от начала до конца.
- ПробуйтеДумайте, вспоминайте, набрасывайте или решайте достаточно, чтобы выявить собственную модель.
- ПомогайтеПоручайте ограниченную роль: репетитора, критика, редактора, симулятора или преобразователя.
- ПроверяйтеПроверяйте утверждения, расчёты, источники, ограничения и затронутых людей.
- Принимать решенияПроявляйте человеческое суждение и берите на себя ответственность за окончательное действие или публикацию.
- СохраняйтеОбъясняйте, практикуйтесь, документируйте и проверяйте то, что останется после закрытия инструмента.
Выберите роль, прежде чем открывать разговор
Репетитор
«Пока не решай задачу. Задай один диагностический вопрос, затем дай минимальную подсказку, которая позволит мне продолжить».
Лучше всего подходит, когда важны обучение и независимое применение знаний.Критик
«Определи наиболее сильное возражение, скрытое допущение и пограничный случай. Не переписывай мою позицию».
Лучше всего подходит для защиты авторства и проверки рассуждений.Помощник по исследованию
«Раздели проверенные факты, правдоподобные интерпретации и неизвестное. Укажи первичные источники для каждого существенного утверждения».
Лучше всего подходит для составления карты доказательств; каждый источник всё равно требует проверки.Редактор
«Сохрани мою аргументацию и стиль. Отметь неоднозначности и предложи локальные правки с объяснением причин».
Лучше всего использовать после того, как человек сформировал содержание.Симулятор
«Ответь как скептически настроенный читатель, исходя из следующих заявленных допущений. Покажи, где эта формулировка не работает».
Полезен для репетиции; не заменяет реальных заинтересованных сторон.Преобразователь
«Преобразуй только предоставленный материал в эту структуру. Отметь всё, что требует новой информации».
Лучше всего подходит для ограниченных, проверяемых изменений.Хороший промпт содержит условие остановки
Укажите, что ассистент может использовать, что он не должен выдумывать, какие неопределённости должен выявлять и когда ему следует спрашивать, а не действовать. Но помните: инструкции улучшают поведение, однако не обеспечивают безопасность. Технические разрешения всё равно должны ограничивать действия, имеющие последствия.
Соотнесите рабочий процесс с целью
| Цель | Шаг с приоритетом человека | Полезная роль ИИ | Итоговая проверка |
|---|---|---|---|
| Учиться | Сделайте попытку и укажите, где понимание даёт сбой. | Сократические вопросы, примеры, обратная связь и адаптивная практика. | Решите и объясните новый случай без ИИ. |
| Создавать | Фиксируйте собственные наблюдения, вкус и ранние альтернативы. | Изучайте прецеденты, проводите стресс-тестирование и расширяйте варианты выполнения. | Можете ли вы определить человеческую идею и обосновать каждый сохранённый выбор? |
| Принимать решения | Определяйте ценности, заинтересованные стороны, доказательства и приемлемый риск. | Сравнивайте сценарии и выявляйте допущения. | Независимые доказательства и утверждение ответственным человеком. |
| Коммуницировать | Понимайте смысл, аудиторию и желаемый эффект. | Структурируйте, переводите, проясняйте и проверяйте интерпретации. | Читайте с позиции аудитории; проверяйте каждое фактическое утверждение и цитату. |
| Автоматизировать | Определите процесс, исключения и цену сбоя. | Выполняйте узкие повторяемые шаги в рамках явно заданных разрешений. | Журналы, выборочный контроль, пороги остановки, откат и назначенный ответственный. |
До
- Чего я пытаюсь достичь?
- Какую часть я должен понимать лично?
- Какими данными мне разрешено делиться?
- Как могла бы выглядеть опасная ошибка?
После
- Какие утверждения я проверил независимо?
- Что я изменил, отклонил или добавил?
- Смогу ли я объяснить результат без чата?
- Что следует запомнить — а что удалить?
Команды, образование и управление
«Человек в контуре» — это не гарантия безопасности, если у него нет времени, полномочий, доказательств или навыков, чтобы обнаружить ошибку.
Организациям следует управлять всей социотехнической системой: моделью, данными, интерфейсом, разрешениями, работниками, стимулами, затронутыми людьми и процедурами обжалования. Структура управления рисками ИИ NIST организует эту работу вокруг управления, картирования, измерения и контроля рисков на протяжении всего жизненного цикла.[27] Это добровольное руководство; законы, договоры и профессиональные обязанности могут устанавливать дополнительные требования.
Инвентаризируйте
Знайте, какие системы, модели, интеграции, наборы данных и неофициальные «теневые» способы использования существуют.
Классифицируйте
Отделяйте подготовку материалов с низкими рисками от решений, затрагивающих права, доступ, средства к существованию, здоровье или безопасность.
Проверяйте
Тестируйте на реальных задачах, языках и группах пользователей; измеряйте качество, распределение ошибок и случаи ручного вмешательства.
Владейте
Назначьте ответственное лицо, обеспечьте возможность обжалования, отслеживайте изменения и извлекайте уроки из инцидентов.
Основы управления
- Сначала цель, потом закупка. Определите проблему и базовый вариант для сравнения до выбора продукта.
- Утверждённые границы использования данных. Укажите, какие классы данных могут поступать в какие системы; обеспечьте техническое соблюдение этого правила.
- Решения, имеющие существенные последствия, проходят компетентную проверку. Проверяющим необходимы предметные знания, время, полномочия и доступ к исходным доказательствам.
- Обучение — измеряемый результат. Школы проверяют способность применять знания без посторонней помощи; работодатели сохраняют пути от новичка к эксперту, вместо того чтобы устранять любую возможность практики.
- Экспертные знания защищаются и получают признание. Поощряйте людей, чьи неявные знания улучшают рабочие процессы; не используйте автоматизацию, чтобы стирать авторство или заглушать несогласие.
- Доступность проверена. Поддерживайте альтернативные способы доступа и тестируйте весь рабочий процесс, а не только соответствие списку функций.
- Для инцидентов предусмотрен порядок реагирования. Остановите процесс, локализуйте проблему, уведомите, если это требуется, исправьте затронутые записи и обновите средства контроля.
- Прекращение использования возможно. Сохраняйте возможности экспорта, удаления и миграции, чтобы смена поставщика или модели не означала передачу памяти организации под их контроль.
Не автоматизируйте карьерную лестницу ученичества
Если ИИ выполняет всю исследовательскую, аналитическую и диагностическую работу начального уровня, новички могут лишиться повторений, благодаря которым формируется экспертное суждение. Перестройте роли так, чтобы учащиеся по-прежнему делали прогнозы, практиковались, получали обратную связь и разбирали ошибки. Старшие специалисты должны тратить меньше времени на механические повторения, но больше — на обучение суждению, определение стандартов, работу с передовыми случаями и разработку новых методов.
Права, защита данных и прозрачность
В Европейском союзе идентифицируемые запросы, записи и расшифровки могут считаться персональными данными в соответствии с GDPR. Голосовая запись становится биометрическими данными специальной категории, когда обрабатывается с помощью определённых технических средств для уникальной идентификации; не каждая запись автоматически является биометрической. Правовое основание, прозрачность, ограничение целей, минимизация, безопасность, сроки хранения и права субъектов данных по-прежнему требуют анализа с учётом конкретного контекста.[28]
Закон ЕС об ИИ устанавливает обязательства в зависимости от участника, предполагаемого назначения и категории риска. Обычный чат-бот не становится автоматически системой высокого риска. По состоянию на сентябрь 2026 года действует большинство положений, включая соответствующие обязанности по обеспечению прозрачности; конкретные требования для систем высокого риска вступают в силу согласно изменённому графику. Соблюдение Закона об ИИ не заменяет законодательство о защите данных, защите потребителей, занятости, безопасности или отраслевое законодательство.[29] Организациям следует получать актуальные рекомендации с учётом конкретной юрисдикции для реальных внедрений.
Факты важнее показного внедрения
Купленные лицензии, отправленные запросы и созданные документы — это показатели активности. При серьёзном внедрении следует отчитываться о качестве выполнения задач, времени с учётом исправлений, обучении, неравномерности ошибок, инцидентах, опыте сотрудников и пользователей, цене для конфиденциальности и результатах после изменения инструмента. Также следует допускать вывод, что некоторые задачи вообще не следует выполнять с помощью ИИ.
Что будет дальше
Главный сдвиг — от систем, которые отвечают на запрос, к системам, которые воспринимают контекст, запоминают предпочтения, координируют инструменты и преследуют многоэтапные цели.
Мультимодальная помощь
Текст, голос, изображения, видео, экраны и данные с датчиков будут всё чаще объединяться в одном разговорном интерфейсе.
Агенты, использующие инструменты
Ассистенты будут планировать и выполнять более длительные рабочие процессы, поэтому разрешения, наблюдаемость, подтверждение и восстановление станут центральными задачами проектирования.
Локальный и гибридный ИИ
Больше работы может выполняться на устройстве — ради скорости отклика, устойчивости или конфиденциальности, — тогда как требовательные задачи по-прежнему могут использовать удалённые модели и сервисы.
Глубокая персонализация
Постоянные репетиторы и помощники могут адаптироваться к человеку на протяжении многих лет, но память также способна усиливать профилирование, устаревшие предположения и зависимость.
Стандарты и оценка агентных систем всё ещё развиваются. В феврале 2026 года NIST запустил Инициативу по стандартам для ИИ-агентов, посвящённую совместимости, безопасности, идентификации и внедрению; это продолжающаяся инициатива, а не завершённый стандарт безопасности.[30] Бенчмаркам также потребуется выйти за рамки изолированных ответов и перейти к оценке надёжности на длинных временных горизонтах, восстановления после прерываний, обработки разрешений, конфиденциальности и качества человеческого надзора.
Вопросы, которые стоит взять с собой в будущее
Расширяет ли эта система то, что люди могут понимать и делать, — или лишь создаёт видимость компетентности?
Укрепляет ли регулярное использование память, рассуждение и перенос знаний, или устраняет практику, которая их формирует?
Расширяет ли помощь пространство поиска, сохраняя независимое первичное мышление, или подталкивает всех к одним и тем же шаблонам?
Кто контролирует модель, память, данные и разрешения — и кто может проверять, отказывать, исправлять или выйти из системы?
Получают ли создатели, эксперты, работники и сообщества справедливое признание за знания, которые система делает полезными?
Возвращается ли сэкономленное время к обучению, творчеству, отношениям и отдыху — или лишь повышает ожидаемую отдачу от каждого человека?
Лучшее будущее — не то, в котором человеческое мышление становится ненужным. Это будущее, в котором больше людей могут глубоко учиться, оригинальные умы могут продвигаться дальше, а мощные инструменты остаются подотчётными людям, на чьи жизни они влияют.
Расширение возможностей человеческого интеллектаЧасто задаваемые вопросы
Сначала — краткие ответы; подтверждения и условия приведены в основной статье.
Делают ли ИИ-помощники людей менее умными?
Нет достаточных оснований для универсального утверждения. Эффекты зависят от использования. Пассивная замена человека может лишить его практики и скрыть слабое понимание; обучение с помощью наставника, обратная связь, доступные объяснения и целенаправленное извлечение знаний из памяти могут поддерживать обучение. Оценивайте устойчивые способности по самостоятельному воспроизведению, объяснению и переносу знаний, а не по тому, насколько безупречно выглядит результат с помощью ИИ.
Может ли ИИ-помощник помочь человеку развить интеллект или повысить IQ?
Он может помогать накапливать знания и практиковать отдельные когнитивные навыки, особенно если задаёт вопросы, адаптирует примеры и даёт корректирующую обратную связь. Но пока нет убедительных доказательств того, что обычное использование помощника надёжно повышает общий интеллект или приводит к устойчивому росту показателей IQ. Эту важную возможность следует проверять с помощью валидных оценок, длительного наблюдения и переноса навыков на действительно новые задачи.
Следует ли экспертам избегать ИИ, поскольку он может привести к утрате навыков?
Нет. Эксперты могут значительно выиграть от автоматизации, поиска, моделирования и быстрого создания черновиков. Они должны решить, какие навыки можно безопасно делегировать, сохранять способность справляться с нестандартными случаями и проверять качество, а также выделять время для оригинальной работы. Организации должны уважать отказ эксперта, когда система выходит за пределы своей надёжной области применения.
Лучше проводить мозговой штурм в одиночестве, с людьми или с ИИ?
Используйте последовательность действий, а не одно универсальное правило. Начните в одиночестве, когда важны независимое наблюдение и оригинальность. Зафиксируйте свои рассуждения. Затем подключите ИИ и других людей, чтобы найти прецеденты, оспорить предположения, объединить знания и развить идею. Вернитесь к уединённой работе, когда нужно осмыслить услышанное.
Загружает ли голосовой помощник всё, что говорится поблизости?
Не обязательно. Многие устройства локально распознают ключевое слово активации, используя скользящий буфер. Тем не менее ложные срабатывания могут передавать непреднамеренно записанную речь, а сроки хранения зависят от сервиса и настроек. Ознакомьтесь с текущими настройками управления продуктом, удаляйте ненужную историю и получайте согласие, прежде чем записывать речь других людей или составлять её краткое изложение.
Можно ли доверять ссылкам и цитатам, предоставленным ИИ?
Используйте их как отправные точки, а не как доказательства. Откройте каждый источник; проверьте автора, название, дату и публикацию, а затем убедитесь, что он подтверждает точное утверждение. Самостоятельно поищите пропущенные или противоположные свидетельства. Выдуманные ссылки могут выглядеть совершенно правдоподобно.
Является ли работа, созданная ИИ, плагиатом?
Правила различаются в зависимости от учебного заведения, места работы, публикации и юрисдикции. Необъявленная подмена может нарушать правила авторства или оценки, даже если формулировки новые. Раскрывайте факт использования, если это требуется, ссылайтесь на исходные источники, сохраняйте свой вклад и никогда не выдавайте чужие идеи или труд за свои. Авторское право, плагиат и академическая добросовестность — связанные, но не идентичные вопросы.
Когда не следует использовать универсального ИИ-ассистента?
Не используйте его, если вы не можете законно или этично предоставить необходимые данные, если никто не может проверить результат, если ошибка недопустима или если цель задачи — оценить ваши способности без посторонней помощи. Для решений, связанных с медициной, правом, финансами, безопасностью или правами и имеющих высокую значимость, используйте актуальные авторитетные источники и суждение квалифицированного специалиста.
Доказательства и источники
Приоритет отдаётся первичным исследованиям, рецензируемым статьям и официальным концептуальным документам. Результаты описывают протестированных людей, задачи, системы и даты, а не всех возможных ИИ-ассистентов.
- Noy, S. и Zhang, W. (2023). Экспериментальные данные о влиянии генеративного искусственного интеллекта на продуктивность. Science. Рандомизированный эксперимент
- Brynjolfsson, E., Li, D. и Raymond, L. (2025). Генеративный ИИ на работе. The Quarterly Journal of Economics. Полевое исследование
- Dell’Acqua, F. и др. (2026). Ориентирование в неоднородном технологическом фронтире. Organization Science. Рандомизированный эксперимент
- Becker, J. и др. (2025). Измерение влияния ИИ начала 2025 года на продуктивность опытных разработчиков открытого ПО. METR. Рандомизированный эксперимент
- METR (2026). Мы меняем дизайн эксперимента по продуктивности разработчиков. Обновление исследования
- Vaccaro, M., Almaatouq, A. и Malone, T. (2024). Когда сочетания людей и ИИ полезны: систематический обзор и метаанализ. Nature Human Behaviour. Метаанализ с предварительной регистрацией
- Bastani, H. и др. (2025). Генеративный ИИ без защитных ограничений может навредить обучению: данные из области математики в старшей школе. PNAS. Полевой эксперимент
- Kestin, G. и др. (2025). ИИ-репетитор превосходит активное обучение в классе: рандомизированное контролируемое исследование с новым дизайном на основе исследований в условиях реального образовательного процесса. Scientific Reports. Рандомизированное перекрёстное исследование
- Kumar, H. и др. (2025). Математическое образование с большими языковыми моделями: опасность или возможность?. AIED 2025. Предварительно зарегистрированные эксперименты
- Lee, H.-P. и др. (2025). Влияние генеративного ИИ на критическое мышление. CHI 2025. Опросное исследование
- Doshi, A. R. и Hauser, O. P. (2024). Генеративный ИИ повышает индивидуальную креативность, но снижает коллективное разнообразие нового контента. Science Advances. Контролируемый эксперимент
- Qin, P. и др. (2025). Время имеет значение: как использование больших языковых моделей в разные моменты влияет на восприятие авторами и результаты генерации идей при разработке идей с помощью ИИ. CHI 2025. Рандомизированный эксперимент
- Бюро авторских прав США (2023). Руководство по регистрации авторских прав: произведения, содержащие материалы, созданные искусственным интеллектом. Официальное руководство
- W3C (2023). Руководство по обеспечению доступности веб-контента (WCAG) 2.2. Стандарт
- Koenecke, A. и др. (2020). Расовые различия в автоматическом распознавании речи. PNAS. Сравнительное исследование
- Американский фонд помощи незрячим (2026). ИИ и инвалидность: результаты исследования — инновации и доступность. Опрос, проведённый организацией людей с инвалидностью
- Valencia, S. и др. (2023). Чем меньше я печатаю, тем лучше: как языковые модели ИИ могут улучшить или затруднить коммуникацию пользователей средств альтернативной и дополнительной коммуникации. CHI 2023. Исследование пользователей
- NIST (2024). Рамочная система управления рисками искусственного интеллекта: профиль генеративного искусственного интеллекта. NIST AI 600-1. Официальная рамочная система
- Lin, S., Hilton, J. и Evans, O. (2022). TruthfulQA: измерение того, как модели имитируют человеческие заблуждения. ACL 2022. Бенчмарковое исследование
- Sharma, M. и др. (2024). К пониманию подхалимства в языковых моделях. ICLR 2024. Оценочное исследование
- Parrish, A. и др. (2022). BBQ: созданный вручную тест на предвзятость для систем ответов на вопросы. Находки ACL 2022. Бенчмарковое исследование
- Buçinca, Z., Malaya, M. B. и Gajos, K. Z. (2021). Доверять или думать: когнитивные механизмы принуждения могут снизить чрезмерную зависимость от ИИ при принятии решений с поддержкой ИИ. Контролируемый эксперимент
- Европейский совет по защите данных (2021). Рекомендации 02/2021 по виртуальным голосовым помощникам. Официальные рекомендации
- Dubois, D. J. и др. (2020). Когда динамики готовы слушать всё: характеристика ложных срабатываний умных динамиков Интернета вещей. Материалы конференции по технологиям повышения конфиденциальности. Контролируемое исследование
- Greshake, K. и др. (2023). Не то, на что вы подписывались: компрометация реальных приложений, интегрированных с большими языковыми моделями, с помощью косвенной инъекции промптов. Исследование безопасности
- Фонд AAA по безопасности дорожного движения (2015). Измерение когнитивного отвлечения внимания в автомобиле, часть III. Экспериментальное исследование
- NIST (2023). Рамочная концепция управления рисками, связанными с искусственным интеллектом, версия 1.0. Официальная концепция
- Европейский союз (2016). Общий регламент по защите данных (ЕС) 2016/679. Закон
- Европейская комиссия (обновлено в 2026 году). Нормативно-правовая база в области ИИ и график применения. Официальный обзор
- NIST (2026). Инициатива по стандартам для ИИ-агентов. Инициатива по стандартизации