人工智能助手
Linas Juozėnas分享
AI 助手：
增强思维
AI 助手可以将数小时的搜索、起草或例行转换工作压缩到几分钟内。这确实是一种强大的能力。然而，最高标准并不是机器是否快速产出了某样东西，而是这个人是否变得更有能力、决策是否变得更好、真相是否保持不变，以及人的能动性是否始终处于主导地位。
能动性
目标
上下文
生成
证据
决策
学习
AI 助手是什么——又不是什么
“助手”一词描述的是一种界面和角色，并不保证其具备知识、忠诚或判断力。
现代助手可能将语言模型与语音识别、图像理解、搜索或检索、个人记忆、软件工具以及执行操作的权限结合起来。模型根据数据中的模式预测有用的后续内容；检索可以提供文档；工具可以进行计算、浏览、写入文件或操作服务。结果可能让人感觉像是一个流畅运作的统一心智，但更好的理解方式是：它是一个由具有不同失效模式的组件组成的技术栈。
界面
语音、聊天、摄像头、屏幕或嵌入式控件，会将人的请求转换为机器可读的输入。
模型
模型会解读上下文，并生成语言、代码、图像或拟议方案。流畅并不等于证据。
依据
搜索、数据库和提供的文件可以让答案有证据依据，但检索仍可能不完整或错误。
工具与权限
日历、电子邮件、代码运行器和其他工具会把文字转化为后果。自主性越高，就越需要严格的控制。
对话可能制造虚假的确定感
自然语言在社会层面具有强大影响力。温暖的语气、自信的解释或看似拥有记忆，都可能让系统显得比实际情况更理解、更亲历或更经核实。应将个性视为界面设计的一部分。根据证据评判陈述，根据权限、可逆性和审核来评判行动。
自主性阶梯
| 模式 | 系统的功能 | 人的责任 | 最低保障 |
|---|---|---|---|
| 回答 | 解释、翻译、总结或生成选项。 | 解释并作出决策。 | 核查重要事实和来源质量。 |
| 起草 | 创建供审核的文本、代码、分析或计划。 | 编辑、测试并对作者身份负责。 | 保留可检查的草稿并设置验证步骤。 |
| 提出建议 | 对选项进行排序或提出决策建议。 | 审视假设、受影响的人群及替代方案。 | 对重要决策提供独立证据。 |
| 经批准后行动 | 准备电子邮件、采购、变更或工作流，然后等待。 | 审核确切的操作及其目标。 | 清晰的预览、限定范围的权限和确认机制。 |
| 自主行动 | 无需逐步审核即可执行多个步骤。 | 界定边界、进行监控并承担责任。 | 最小权限、日志记录、支出限额、停止控制和恢复机制。 |
生产率研究究竟显示了什么
AI可以在某些任务上带来显著提升。效果的大小和方向取决于任务、系统、人员、工作流程以及质量的定义。
在明确的任务范围内更快且更好
在一项预注册实验中，453名受过大学教育的专业人士完成中等难度的写作任务，使用ChatGPT使完成时间 40% 并使独立评定的产出质量提高了 18% 平均而言。[1] 这证明AI确实能提升任务表现；但并不能证明每种职业都会产生相同效果，也不能证明会带来长期学习。
对新员工的益处更大
一项针对5,172名客服人员的研究发现，每小时解决的问题数量平均增加了15%。经验较少、绩效较低的人员获益最大；最终论文报告称，技能较低群体的增幅约为30%，而高技能人员的生产率变化很小，对话质量略有下降。[2]
在能力范围内表现强劲
在758名顾问中，使用GPT-4的人在测试能力范围内完成的任务数量多12.2%，完成速度快25.1%，且工作质量更高。在一项刻意设置在该能力范围之外的任务中，AI用户得出正确答案的可能性低19%。[3]
专家工作可能无法用简单的速度说法来概括
在一项于2025年开展的随机研究中，16名经验丰富的开源开发者在自己熟悉的代码仓库中完成了246项任务。2025年初的AI工具平均使完成任务的速度慢了19%——尽管开发者原本预计会提速。[4]一项2026年的后续研究发现，较新的工具可能更有帮助，但由于严重的选择偏差和测量问题，无法可靠估计当前的影响。[5]
诚实的结论
“人工智能提高生产力”这一说法过于宽泛。更严谨的表述是：在一些匹配良好的任务中，经过胜任的审查，特定系统提高了速度、产出量或评定质量。这很有用，也很重要。但它是有条件的。
人类加人工智能并不自动构成最强团队
一项预注册的元分析汇总了106项实验和370个效应，发现人类与人工智能的组合平均表现优于未经辅助的人类（g = 0.64），但平均而言，其表现不如人类或人工智能中单独表现更强的一方（g = −0.23）。结果存在极大异质性，而且纳入的研究截至2023年6月结束，当时许多当前的助手尚未出现。[6] 协作必须经过设计和测试；把一个人加入模型，或把一个模型加入一个人，并不能保证产生协同效应。
衡量价值，而不是表面上的忙碌
参差不齐的前沿：相近的任务，截然相反的结果
一个系统在某项任务上可能令人惊叹，接着在下一项任务上自信地给出不可靠的结果，即使对人来说两项任务看起来同样困难。
转换
重新编排所提供的材料、生成备选方案、翻译语气、提取字段，以及根据经过验证的简报起草内容。
综合
总结长篇文档、比较证据以及在不熟悉的系统中编程，都可能取得良好效果——前提是上下文完整，且审查到位。
事实与判断
新颖事实、因果主张、模糊需求、价值冲突和罕见边缘案例，可能超出模型可靠能力的边界。
随着模型和工具的变化，这一边界也会移动，并且因语言、领域和情境而异。熟悉感也可能造成误判：经过润色的回答可能在形式上类似专家工作，却不包含专家的因果理解。最安全的用户既不会反射性地信任，也不会反射性地排斥。他们会了解特定系统在哪些方面有所帮助，围绕其弱点设计检查，并始终愿意在没有它的情况下工作。
委托前进行快速前沿测试
- 定义成功标准明确答案、证据和可接受的误差。
- 评估利害程度如果输出存在细微错误，会发生什么？
- 探查边界尝试已知案例、对抗性案例以及缺失上下文的案例。
- 分配审查任务安排能够发现相关故障的人。
- 记录学习成果当系统或任务发生变化时，更新工作流程。
审查悖论
错误越难被发现，审查就越需要专业知识。人工智能可以帮助新手接近既有模式，但恰恰是在模式失效的地方，专家仍不可或缺。一个受益于提炼后专业知识的社会，应保护那些发展出这些知识的人，保留他们质疑自动化的权威，并认可他们的贡献。
学习、记忆与智力
最有价值的助手不一定是最快给出答案的那个。它也可能是帮助大脑建立更强模型、提取知识并独立解决下一个问题的助手。
即时表现与持久能力是不同的结果。一篇完成的文章、一道正确的方程式或一个可运行的程序，说明人类与工具组成的系统产出了某个结果。但这本身并不能说明这个人学到了什么。要衡量成长，应稍后移除工具，测试记忆、解释能力、将知识迁移到新问题上的能力以及发现错误的能力。
这一点很重要，因为智力不是装饰性的。推理、记忆、学习速度、知识以及迁移理解能力，都会影响一个人应对教育、工作和复杂人生决策的能力。这些能力值得培养和赞美。它们源于多种因素的相互作用，包括生物因素、发展、健康、机会、教学以及多年的刻意学习；而保持这些能力，可能需要持续付出努力。人工智能应帮助更多人增强智力，同时绝不能抹去那些罕见的专业知识和原创思想，因为其他人正受益于它们。
在有效的认知评估中取得更高分数，确实证明一个人在该评估所测量的能力方面表现更强。这一证据可能意义重大：出色的推理能力和积累的知识，可能让一个人发现某种危险、解决方案或可能性，而没有他们，任何现有工具或委员会都无法找回这些东西。分数不是商店里买来的装饰品，模型借来的流畅表达也不能替代一个由天赋、发展和终身学习塑造的大脑。尊重智力，就要保护认知健康，让有天赋且勤奋投入的人拥有施展空间，在他们的专业知识相关时倾听他们的意见，并认可他们所创造的价值。谨慎的测量会限制分数能够证明的内容；但绝不能借此假装测得的能力并不重要。
目标不是证明工具可以替你思考，而是让你能够比以前思考得更远。
人工智能辅助的人类发展标准练习时的帮助可能掩盖较弱的学习效果
在一所土耳其高中开展的一项按班级随机分组的研究中，839 名学生使用不受限制的 GPT-4 界面后，辅导下的练习表现有所提高，但这些学生随后在无辅助考试中的表现比控制组差 17%。使用教师编写的材料和提示、拒绝提供完整答案的受控导师提高了练习表现，同时消除了考试中的这一不利影响；但在考试中并未显著优于控制组。[7]该研究涵盖四节课和一次即时测试，而非长期发展。
精心设计的辅导可以改善即时学习效果
在两节课中，针对 194 名符合条件的哈佛物理学生，一名定制的 GPT-4 导师相较于专家主动学习课程，使即时后测成绩估计提高了 0.63 个标准差，而学习时间中位数为 49 分钟，而非 60 分钟。[8]这证明了经过刻意设计的导师在特定情境下有效，而不能证明通用聊天机器人可以取代教师。研究未测试延迟保持率和学期成绩。
先尝试可能会改变解释所教会的内容
在两项涉及 1,818 名美国成年人的实验中，与只获得答案相比，正确的 LLM 解释提高了参与者在相似、无辅助问题上的即时表现；当参与者在看到解释前先尝试解决问题时，这一效果尤其明显。[9] 这种迁移很接近、很短暂，且只用少量题目进行测量，因此它支持的是一种学习设计，而不是关于广泛或持久智力增长的主张。
信心会改变思考发生的地方
一项 2025 年的研究调查了 319 名知识工作者在 936 次真实使用中的经历。对生成式人工智能的信心越高，自我报告的批判性思考投入越少；对自身能力的信心越高，投入则越多。参与者还描述了思维活动向验证、整合和管理转移的变化。[10] 该研究报告的是感知和关联，而不是人工智能导致认知能力下降的证据。
把助手变成导师，而不是答案分发器
薄弱的学习循环
- 立即索要完成的答案。
- 被动阅读，接受流畅的措辞。
- 复制结果，不要重新构建。
- 在下一个类似任务中反复依赖。
以成长为导向的学习循环
- 先尝试解决问题，并先展示你的推理过程。
- 要求提供一个提示、一个反例或一个诊断性问题。
- 用你自己的话重新解释答案。
- 关闭助手，凭记忆解决一个不同类型的例题。
AI 能提高 IQ 吗？
目前还没有充分证据表明，日常使用通用 AI 助手能够可靠地带来一般智力或 IQ 的持久提升。它可以帮助人们获取知识、练习推理、获得反馈、翻译困难材料并接受指导——这些都是可能改善特定认知技能和现实能力的要素。任何关于 IQ 提升的主张，都应采用有效且重复的评估，考虑练习效应，并证明能力能够迁移到未与该系统反复练习的任务中。尚未证实存在普遍效应，意味着应当谨慎测量，而不是否定智力成长。
保护有益的困难
- 先回忆，再查看。 在索要摘要之前，先写下你记得的内容。
- 先生成，再比较。 在查看模型的答案之前，先形成自己的假设、提纲或解决方案。
- 追问原因。 要求说明机制、假设、边界情况，以及一个能够证明答案错误的检验方法。
- 变换问题。 改变情境后，在没有辅助的情况下再次解决，以检验迁移能力。
- 保持能力底线。 定期独立完成核心技能练习，确保在紧急、新颖和对抗性情境下仍能应对。
原创性、主动选择的独处与社群
人有时需要摆脱提示的自由——包括来自人和机器的提示——才能发现自己真正看到了什么。
原创思考往往先于共识。当他人——或一个根据主流模式训练的 AI——立即建议你该注意什么、如何界定问题，或“好答案”应该是什么样时，注意力可能会过早地被锚定。这种影响可能出于善意，却仍会缩小探索空间。主动选择的独处创造了一段受保护的时间，在这段时间里，好奇心可以自由漫游，不寻常的联想得以形成，而想法也能变得足够鲜明，经得起比较。
这并不意味着孤立是最终的理想状态。一旦产生了原创想法，他人就变得不可或缺：他们会质疑薄弱的假设，补充缺失的知识，完成一个人无法完成的工作，将成果介绍给更广泛的群体，并为真正的成就喝彩。因此，健康的智性生活会在私下酝酿与慷慨协作之间交替——既不是永久退隐，也不是永久暴露于他人的方向之下。
离开足够长的时间，才能听见自己的想法。等你选择的时机再回来——并让这次回归成为一种庆祝：测试、支持、拓展、署名并分享一个头脑最初开启的事物。
独处与社群是互补的智力条件个体评分更高，集体多样性更低
在一项2024年的实验中，293名作者创作短篇故事，600名不知情的读者对其进行评估。获得一个人工智能创意后，故事的平均新颖性评分提高了5.4%，实用性提高了3.7%；获得最多五个创意后，这两项分别提高了8.1%和9.0%。提升主要集中在研究中狭义基线创造力任务得分较低的作者身上。然而，人工智能辅助创作的故事彼此之间变得更加相似，与所提供创意的相似度也提高了约5%。[11] 任务是创作八句话的小说，而不是涵盖创造力的整体，但它说明，个体层面的提升可以与集体趋同并存。
先进行私下的初步构思，可以保留自主性，并与模型拉开距离
在一项规模较小的2025年实验中，60名参与者完成一项20分钟的健康主题构思任务：一部分从一开始就使用GPT-4，另一部分则只有在独立提出至少三个想法后才使用。延后使用人工智能的参与者提出的想法与模型输出的相似度更低，并报告了更强的创造性自我效能、自主性、所有感和自我署名感。[12]该研究没有设置无人工智能组，其想法数量差异按通常标准也不显著。因此，它只是让先独立思考，再获得辅助成为一种有前景的保护性设计，而非普遍规律。
原创性四阶段方案
- 漫游留出受保护的时间进行观察和思考，不接收外来的建议。
- 捕捉用你自己的话记录想法、推理、日期和早期证据。
- 质疑借助人类和人工智能寻找先例、异议、测试方案以及缺失的专业知识。
- 构建以清晰的角色开展协作，并保留每个人贡献了什么的记录。
- 庆祝为创作者和合作者署名；帮助优秀想法触达能够从中受益的人。
署名不只是按下“生成”
责任与署名应当依据有意义的人类贡献来分配：构思目标、选择或拒绝材料、作出表达性决策、修改、核验并承担责任。在来源记录重要时，保留版本历史。目前，美国版权局的指导意见将版权保护重点放在人类创作上，并要求申请人披露已登记作品中超出最低限度的人工智能生成材料。[13]
尊重智力，但不对人的尊严分等级
认知能力和贡献并非可以相互替代。有些人凭借罕见的天赋和毕生的努力，发展出卓越的推理能力、知识或创造力；社会将从保护他们、倾听他们并公平认可他们中获益。平等的人类尊严并不要求假装所有表现都相同。认可应当尊重真实成就，而不应把分数变成虐待任何人的许可。
无障碍与包容：更多思考、表达和行动的方式
对许多人而言，助手并非新奇事物。它可以在人们的能力与僵化环境之间存在不匹配时，充当沟通桥梁。
语言与认知
用通俗语言改写、分步说明、词汇支持和可调节的播放速度，可以减少不必要的障碍，同时不削弱观点本身的严肃性。
感官无障碍
字幕、文本转语音、图像描述和多模态输入可以在视觉、听觉和文本形式之间转换信息。
运动与言语无障碍
语音控制、兼容开关的界面、文本生成和辅助沟通可以减少表达意图或操作软件所需的努力。
良好的无障碍设计会扩大控制权；它不会强迫所有人通过同一种“智能”渠道。人们应当能够选择打字而非说话、阅读而非聆听，减慢或停止输出，纠正识别结果，保留自己的声音，并决定个性化是否值得为此提供所需的数据。《Web内容无障碍指南》为可感知、可操作、可理解且稳健的数字体验提供了持久的基础；AI功能无法取代无障碍结构、键盘支持、标签、字幕，或与残障用户一起进行测试。[14]
识别准确度并非对所有人都相同
语音系统在不同口音、方言、说话方式、年龄、噪声条件和残障情况下可能表现不同。一项2020年对五种商业语音识别系统的研究发现，在所测试的美国英语数据集中，黑人说话者的词错误率显著高于白人说话者。[15] 此后产品已有变化，因此这些数字并非当前的评分卡；但这项研究仍清楚表明，平均准确率可能掩盖不均等的失败。
依赖输出的人可能最无力核查它
一项由19个残障组织参与制定的2025年美国调查纳入了1,735名成年人，其中1,070人有残障。在290名使用AI视觉描述的盲人和低视力受访者中， 21% 报告称某个错误曾对他们造成伤害；每个有视力对照组的比例都是9%。在54名使用字幕的聋人或听力障碍者中，24%报告曾因错误而受到伤害。[16] 子群体规模和自我选择会限制总体估计，但这种不对称性显而易见：当输出代替了无法获得的感知时，貌似合理的猜测可能带来更大的风险。
表达更快，但表达内容必须仍属于本人
一项针对12名使用增强与替代沟通方式人士的CHI研究发现，实时语言模型建议可以减少打字时间和精力，但参与者强调要保留自己的风格和偏好。[17] 因此，建议应当是可选的、可编辑的，并且易于拒绝或撤销——绝不能自动朗读或发送。
针对产品团队
- 与残障人士一起测试，并为其专业知识提供补偿。
- 公布涵盖相关用户群体和情境的结果。
- 为关键操作提供非语音和非人工智能的替代方案。
- 让错误易于发现、更正和撤销。
- 不要因识别失败而推断无能。
针对学校和工作场所
- 区分正当的便利措施与隐蔽的替代。
- 通过无障碍途径评估个人的知识。
- 不要要求用户向聊天机器人披露敏感状况。
- 自动化失败时，确保人工支持仍可用。
- 让用户控制语气、节奏、格式和记忆。
无障碍需求各不相同。一项帮助某人的功能可能会给另一人增加负担；用户选择和直接测试比想当然更可靠。
真相、校准与核查的自律
助手可能用同样平静的语气陈述一个真实事实、一个貌似合理的推断和一个虚构细节。因此，验证必须针对具体主张进行，而不能依据语气判断。
NIST使用虚构一词指代生成式系统自信呈现的虚假或错误内容。其《生成式人工智能概况》还指出，隐私、有害偏见、信息完整性、网络安全以及人类与人工智能的配置是需要结合具体情境进行测量和管理的风险。[18]该概况是一项自愿性风险管理资源，不是法律，也不是证明任何系统安全的证书。
模型可能捏造引文、误读来源、进行无效计算、遗漏相反证据，或认同用户的前提。较早的基准测试能让人看到这一现象，但不应再被用作当前产品的评级。例如，TruthfulQA在38个类别中测试了817个对误解敏感的问题，并发现当时研究人员可用的模型之间存在显著的真实性差距。[19] 这并不能告诉我们2026年每个助手的准确性。
虚构
模型会生成缺乏依据的事实、引语、链接、法律案件、数据或推理，以符合请求的形式。
与后果相匹配的验证阶梯
| 出错时的后果 | 示例 | 适当的核查 | 不要依赖 |
|---|---|---|---|
| 低 | 头脑风暴名称、改变语气、重新格式化自己的笔记。 | 阅读并判断是否适用；保留或舍弃。 | 把助手的偏好当作客观事实。 |
| 中等 | 公开文章、分析、常规代码、研究解读。 | 打开引用的来源，测试示例，并请知情人士审核。 | 仅仅因为参考资料有逼真的标题或 DOI 就相信它。 |
| 高 | 医疗、法律、财务、就业、安全或安保决策。 | 使用权威的最新来源和具备适当资质的人士；记录假设并进行复核。 | 人工智能免责声明、聊天机器人之间的多数票或自信的措辞。 |
| 不可逆 | 发布、删除、付款、更改账户、披露信息或执行实体操作。 | 预览确切的操作和目标；要求重新确认，并准备恢复方案。 | 广泛的长期权限或含义不明确的指令。 |
经过校准的阻力保护思考
在一项有199名参与者的受控实验中，要求人们在获得或接受人工智能建议前先参与解决问题的界面，降低了人们对错误建议的过度依赖。最有效的阻力机制也最不受欢迎。[22] 便利性与良好判断有时会背道而驰；优秀的设计会让重要的思考变得不可回避，同时不会让每项无害的任务都变得困难。
逐项核查
- 区分事实与综合判断。标明可以核查的日期、数量、引语和因果论断。
- 追溯来源。确认所引用的论文或官方文件确实存在，并支持该句中的确切表述。
- 重新计算。独立运行计算；检查单位、分母、缺失值和基准率。
- 寻找证伪证据。询问什么证据会推翻结论，然后在对话之外寻找这些证据。
- 如实说明不确定性。“未知”“不确定”和“未经测试”比编造的精确结论更可靠。
隐私、安全与权限
在询问助手能做什么之前，先问它能看到、记住、发送和更改什么。
输入
提示词、语音、图像、文件、屏幕内容、位置和周围的对话。
衍生数据
转录文本、嵌入向量、推断出的兴趣、摘要、用户画像和安全标签。
保留
对话历史、服务日志、备份、人工审核队列和已连接应用的记录。
操作
可通过工具或集成访问的消息、购买记录、代码、日历、记录和设备。
语音助手：监听并非单一状态
许多语音助手会在设备本地通过短时循环音频缓冲区运行唤醒词检测；这并不一定意味着所有环境对话都会被上传。不过，检测具有概率性。误触发可能导致非预期语音被传输、转录或保留，具体取决于服务和设置。欧洲数据保护指南强调，意外激活、旁观者数据、目的限制、保留期限以及有意义的删除，是设计时需要重点关注的问题。[23]
一项受控的2020年研究在受试智能音箱附近播放了134小时的电视内容。不同设备的误触发情况各不相同；在那项实验室设置中观察到的几乎所有激活都被发送到了云端。[24] 该研究证明了一种真实存在的机制，但并不代表每种产品在普通家庭中的当前触发频率。
默认保持私密，比“谨慎使用”更可靠
除非你了解相关协议所规定的用途、保留期限、训练使用方式、删除流程和访问控制，否则不要将机密工作资料、健康记录、身份证件、私人消息、未公开的发明、儿童数据或他人信息粘贴到服务中。去标识化比删除姓名更难：多项细节的组合可能识别出个人。
当助手可以使用工具时，不受信任的内容可能会变成指令
助手可能会读取包含恶意文本的网页、电子邮件或文档，这些文本会指示它忽略用户、披露数据或调用工具。针对间接提示词注入的研究演示表明，在易受攻击的集成大语言模型应用中，这类攻击可导致操纵、数据外泄以及对已连接功能的滥用。[25]攻击不会凭空创造访问权限：其后果受到助手原本拥有的数据、凭据、工具和权限的限制，也可能因这些因素而扩大。
个人隐私控制
- 检查历史记录、保留、训练和已连接应用的设置。
- 删除不再需要的录音，并撤销不再需要的集成。
- 在适用时优先使用设备端处理，但仍要检查遥测和同步。
- 在可用时，针对边界明确的场景，优先使用临时聊天或单独账户。
- 在录制或总结他人内容前先征得同意。
工具安全控制
- 在实际可行的最短时间内，仅授予最低限度的权限。
- 将读取权限与写入权限分开。
- 将机密信息置于模型可见的上下文之外。
- 操作前预览收件人、目标、数据和成本。
- 请谨慎保留日志，因为日志也可能成为敏感数据。
提示词是行为指令，而不是访问控制边界。应通过架构、权限、隔离、确认和恢复机制来实施安全控制。
注意力、依赖与安全
转移工作并非必然有害。只有当节省下来的精力从未重新投入到判断、学习、休息或更有价值的工作中时，它才会成为问题。
人类一直在使用笔记本、地图、计算器和他人来扩展记忆与行动能力。认知外包可以释放有限的工作记忆容量，减少可避免的努力。当一个人不再知道自己委派了什么、无法察觉糟糕的输出、失去仍然需要的核心技能，或开始在形成自己的任何意图之前就咨询系统时，代价便会显现。
健康增强
你能够解释结果、拒绝助手的建议、在需要时脱离助手工作，并把省下的时间用于更有价值的思考。
依赖加深
你在尝试之前先提问，接受无法检查的输出，觉得自己无法独自开始，或逐渐忘记自己真正相信什么。
工作流程失败
没有哪个称职的人能独自掌握答案；自动化错误会悄无声息地传递下去；当服务、账户或连接失败时，关键工作就会停止。
免提不等于无需集中注意力
语音互动可以减少视觉和手动操作的需求，但复杂对话仍会占用注意力。美国汽车协会基金会2015年的一项研究让257名参与者使用十款2015车型的车载系统；研究发现，语音任务会产生中度至高度的认知负荷，部分任务结束后可测量的残留影响最长持续27秒。[26] 最大值并不是每次互动后的持续时间，而且系统已经发生了变化。实用规则依然适用：出发前设置好导航和媒体，必要的语音操作保持简短，避免在繁忙交通中使用，并在处理复杂任务时靠边停车。
在便利变成强迫之前重新平衡
- 从不使用助手开始。重要的思考、写作和规划，应从专注于自身开始。
- 选择要外包的部分。委派重复性的转换工作；让目标设定、价值判断和对学习至关重要的步骤保持主动参与。
- 练习恢复能力。保留离线副本、手动操作流程和核心知识，以应对服务中断及新型故障。
- 留意情感替代。对话系统可以帮助排练一次艰难的谈话或整理思绪，但它无法像人一样同意、关心、见证或承担责任。
- 回到人与人之间。导师、同伴和亲人提供生成式对话无法替代的相互挑战、生活经验和共同责任。
个人行动手册：尝试、辅助、核实、保留
良好的人工智能使用方式不是一组巧妙的提示词，而是一套从头到尾都清晰体现人类目的的工作流程。
- 尝试充分思考、回忆、勾勒或解决问题，以呈现你自己的思维模型。
- 辅助委派一个有明确边界的角色：导师、批评者、编辑、模拟器或转换器。
- 核实检查主张、计算、来源、限制条件以及受影响的人。
- 决策运用人的判断，并对最终行动或发布负责。
- 保留在工具关闭后，解释、练习、记录并测试剩下的内容。
打开对话前先选择一个角色
导师
“先不要解答。提出一个诊断性问题，然后给出能让我继续下去的最小提示。”
最适合重视学习和独立迁移时使用。批评者
“找出最有力的反对意见、隐藏假设和边界案例。不要改写我的立场。”
最适合保护作者身份并检验推理。研究助手
“区分已核实的事实、合理的解读和未知事项。为每项重要主张提供一手来源。”
最适合梳理证据；但每个来源仍需检查。编辑器
“保留我的论点和文风。标出含义不明确之处，并说明理由后提出局部修改。”
最适合在人类形成实质内容之后使用。模拟器
“在以下明确说明的假设下，以持怀疑态度的读者身份回应。指出这种框架在哪些地方失效。”
适合排练；不能替代真实的利益相关者。转换器
“仅将所提供的材料转换为这一结构。标记任何需要新信息的内容。”
最适合范围明确、可检查的修改。强有力的提示包含停止条件
说明助手可以使用什么、不得凭空编造什么、应指出哪些不确定性，以及何时应提问而不是采取行动。但请记住：指令可以改善行为，却不能强制实施安全措施。技术权限仍必须限制会产生后果的行动。
让工作流程与目的相匹配
| 目的 | 以人为先的步骤 | 人工智能的有用角色 | 最终测试 |
|---|---|---|---|
| 学习 | 尝试，并说明理解在哪个环节出现断裂。 | 苏格拉底式提问、示例、反馈和自适应练习。 | 在没有人工智能的情况下解决并解释一个新案例。 |
| 创作 | 记录你自己的观察、品味和早期备选方案。 | 研究先例，进行压力测试，并拓展执行方案。 | 你能识别人类的构想，并为每个保留的选择进行辩护吗？ |
| 决策 | 明确价值观、利益相关者、证据和可接受的风险。 | 比较不同情景并揭示假设。 | 独立证据加上负责任的人类批准。 |
| 沟通 | 了解含义、受众和期望效果。 | 构建结构、翻译、澄清并检验解读。 | 以受众的视角阅读；核实每一项事实性陈述和引文。 |
| 自动化 | 梳理流程、例外情况和失败成本。 | 在明确授权范围内执行狭窄且可重复的步骤。 | 日志、抽样、停止阈值、回滚机制和明确指定的负责人。 |
之前
- 我想要实现什么？
- 哪一部分我必须亲自理解？
- 我获准分享哪些数据？
- 危险错误会是什么样？
之后
- 哪些主张是我独立核实的？
- 我做了哪些修改、拒绝了哪些内容，或作出了哪些贡献？
- 没有聊天记录，我能解释这个结果吗？
- 哪些应该被记住——哪些应该被删除？
团队、教育与治理
“有人参与其中”并不构成安全保障，如果这个人没有时间、权限、证据或识别错误所需的技能。
组织应治理整个社会技术系统：模型、数据、界面、权限、工作人员、激励机制、受影响人员和申诉渠道。NIST 的人工智能风险管理框架围绕治理、映射、测量和管理，在整个生命周期内组织这项工作。[27]这属于自愿性指导；法律、合同和专业义务可能规定额外要求。
清点
了解现有的系统、模型、集成、数据集以及非正式的“影子”使用方式。
分类
将低风险起草与影响权利、准入、生计、健康或安全的决策分开。
验证
在真实任务、语言和用户群体上进行测试；衡量质量、错误分布和人工覆盖情况。
负责
指定负责人，提供申诉渠道，监测变化并从事件中吸取教训。
治理基线
- 先明确目的，再采购。在选择产品之前，先明确问题和比较基准。
- 经批准的数据边界。明确哪些数据类别可以进入哪些系统，并以技术手段强制执行这一规则。
- 重大决策接受胜任的审查。审查人员需要具备领域知识、充足时间、相应权限以及查阅底层证据的权限。
- 学习是可衡量的成果。学校应测试无辅助迁移能力；雇主应保留从新手成长为专家的路径，而不是取消每一次练习机会。
- 专业知识受到保护并获得认可。应奖励那些运用隐性知识改进工作流程的人；不要利用自动化抹去署名或压制异议。
- 可访问性经过验证。应保留替代路径，并测试完整工作流程，而不只是检查功能清单。
- 事件有应对路径。应停止相关操作、遏制影响、在要求时进行通知、纠正受影响的记录并更新控制措施。
- 可以设置日落机制。应保留导出、删除和迁移选项，确保供应商或模型变更不会掌控机构的记忆。
不要自动化掉学徒成长阶梯
如果人工智能完成所有入门级研究、起草和诊断工作，新手可能会失去形成专家判断所需的反复练习。应重新设计岗位，使学习者仍能进行预测、练习、获得反馈并检视失败。资深专家应减少机械重复工作的时间，但应投入更多时间教授判断力、制定标准、处理前沿案例和创造新方法。
权利、数据保护与透明度
在欧盟，可识别的提示词、录音和文字记录可能属于《通用数据保护条例》（GDPR）下的个人数据。当录音通过特定技术手段处理以实现唯一身份识别时，就会成为特殊类别的生物特征数据；但并非每段录音都会自动构成生物特征数据。合法性基础、透明度、目的限制、数据最小化、安全、保留期限和数据主体权利仍需结合具体情境进行分析。[28]
《欧盟人工智能法案》根据行为主体、预期用途和风险类别规定义务。通用聊天机器人不会自动被视为高风险系统。截至2026年9月，大多数条款已经适用，包括相关的透明度义务；具体的高风险要求则按照修订后的时间表生效。遵守《人工智能法案》并不能取代数据保护、消费者、就业、安全或行业特定法律。[29] 组织应针对实际部署获取最新且适用于具体司法辖区的建议。
证据胜过采用作秀
购买的许可证、发送的提示和生成的文档都是活动指标。严肃的部署应报告任务质量、包括修正所用的时间、学习情况、不平等错误、事故、员工和用户体验、隐私成本，以及工具变更后的结果。它还应允许得出这样的结论：有些任务不应使用人工智能。
接下来会发生什么
重要的转变，是从回答提示的系统转向能够感知上下文、记住偏好、协调工具并追求多步骤目标的系统。
多模态辅助
文本、语音、图像、视频、屏幕和传感器输入将越来越多地共享一个对话式界面。
工具调用型智能体
助手将规划并执行更长的工作流程，使权限、可观测性、确认和恢复成为核心设计问题。
本地与混合式人工智能
更多工作可以在设备端完成，以降低延迟、增强韧性或保护隐私，而高要求的任务仍可能使用远程模型和服务。
深度个性化
持续陪伴的导师和协作者可能在多年间适应一个人——但记忆也可能放大用户画像、过时的假设和依赖。
智能体标准和评估仍在发展中。2026年2月，NIST启动了人工智能智能体标准倡议，重点关注互操作性、安全性、身份和应用；这是一项正在进行的倡议，并非已经完成的安全标准。[30] 基准测试也需要超越孤立的答案，转向评估长周期可靠性、从中断中恢复的能力、权限处理、隐私以及人类监督的质量。
值得延续的问题
这个系统是在拓展人们能够理解和完成的事情，还是只是在制造胜任的假象？
反复使用是在增强记忆、推理和知识迁移能力，还是在取消培养这些能力的练习？
辅助是在保护独立思考的前提下拓展搜索空间，还是让所有人趋同于相同的模式？
谁控制模型、记忆、数据和权限——谁可以检查、拒绝、更正或退出？
系统使之有用的知识，其创造者、专家、劳动者和社区是否得到了公平的认可？
节省下来的时间会回归学习、创作、人际关系和休息，还是只会提高对每个人的工作量要求？
最好的未来并不是人类思考变得不再必要的未来，而是更多人能够深入学习，原创思想能够走得更远，而强大的工具始终对其所影响的人生负责。
配得上人类智慧的增强常见问题
先给出简短答案；周边文章会提供证据和适用条件。
人工智能助手是否正在让人变得不那么聪明？
没有充分依据做出普遍性结论。效果取决于使用方式。被动替代可能减少练习并掩盖理解薄弱之处；辅导、反馈、易于理解的解释和有意识的提取练习则有助于学习。应通过无辅助回忆、解释和迁移来判断持久能力，而不是看人工智能辅助产出的成品有多 polished。
人工智能助手能帮助人提升智力或智商吗？
人工智能可以帮助积累知识并练习特定的认知技能，尤其是在它提出问题、调整示例并提供纠正性反馈时。但目前还没有有力证据表明，普通的助手使用能够可靠地提升一般智力或带来持久的智商增长。这个重要的可能性应通过有效的评估、长期跟踪以及在真正新颖任务中的迁移效果来检验。
专家是否应避免使用人工智能，因为它可能使人的技能退化？
不。专家可能会从自动化、搜索、模拟和快速起草中获益良多。他们应决定哪些技能可以安全地外包，保留处理边缘情况和检查质量的能力，并为原创工作保护时间。当系统越过其可靠边界时，组织应尊重专家拒绝使用它的决定。
独自、与他人还是与人工智能一起头脑风暴更好？
采用循序渐进的方式，而不是遵循单一规则。当独立观察和原创性很重要时，先独自开始。记录你的思考过程。然后引入人工智能和他人，以寻找先例、质疑假设、结合专业知识并构建想法。当你需要整合所听到的内容时，再回到独处状态。
语音助手会上传附近说的所有内容吗？
不一定。许多设备会使用滚动缓冲区在本地检测唤醒词。然而，误触发仍可能传输未被预期录下的语音，而数据保留情况因服务和设置而异。查看产品当前的控制选项，删除不需要的历史记录，并在录音或总结他人谈话前征得同意。
我可以相信人工智能提供的链接和引文吗？
把它们当作线索，而不是证据。打开每个来源；确认作者、标题、日期和出版物，然后核实它是否支持这一确切说法。独立搜索被遗漏或相反的证据。编造的参考文献可能看起来完全可信。
人工智能生成的作品算抄袭吗？
不同学校、工作场所、出版机构和司法管辖区的规定各不相同。即使措辞有所变化，未披露的代写或替代也可能违反作者署名或评估规定。需要披露时应披露使用情况，引用基础来源，保留你的贡献，绝不要把他人的想法或劳动说成是自己的。版权、抄袭和学术诚信是相关但并不相同的问题。
我什么时候不应使用通用人工智能助手？
当你无法合法或合乎伦理地分享必要数据、无人能够验证结果、失败后果不可接受，或任务目的是评估你未经辅助的能力时，应避免使用它。对于高风险的医疗、法律、金融、安全或影响权利的决策，应使用最新的权威来源，并依靠具备适当资质的人类判断。
证据与来源
优先采用主要研究、同行评审论文和官方框架。结果描述的是经过测试的人员、任务、系统和日期，并非所有可能的人工智能助手。
- Noy, S. 和 Zhang, W.（2023）。生成式人工智能对生产力影响的实验证据。《科学》。随机对照实验
- Brynjolfsson, E.、Li, D. 和 Raymond, L.（2025）。工作中的生成式人工智能。《经济学季刊》。现场研究
- Dell’Acqua, F. 等（2026）。探索崎岖不平的技术前沿。《组织科学》。随机对照实验
- Becker, J. 等（2025）。衡量 2025 年初的人工智能对经验丰富的开源开发者生产力的影响。METR。随机对照实验
- METR（2026）。我们正在改变开发者生产力实验设计。研究更新
- Vaccaro, M., Almaatouq, A. 和 Malone, T.（2024）。人类与人工智能的组合何时有用：系统综述与荟萃分析。《自然·人类行为》。预注册荟萃分析
- Bastani, H. 等（2025）。缺乏防护措施的生成式人工智能可能损害学习：来自高中数学的证据。PNAS。实地实验
- Kestin, G. 等（2025）。人工智能辅导的效果优于课堂主动学习：在真实教育环境中引入基于新研究设计的随机对照试验。Scientific Reports。随机交叉试验
- Kumar, H. 等（2025）。使用大型语言模型开展数学教育：风险还是希望？。AIED 2025。预注册实验
- Lee, H.-P. 等（2025）。生成式人工智能对批判性思维的影响。CHI 2025。调查研究
- Doshi, A. R. 和 Hauser, O. P.（2024）。生成式人工智能提升个人创造力，但降低新颖内容的集体多样性。Science Advances。对照实验
- Qin, P. 等（2025）。时机很重要：在不同时间使用大型语言模型如何影响作者对人工智能辅助构思的看法及构思成果。CHI 2025。随机实验
- 美国版权局（2023）。版权登记指南：包含人工智能生成材料的作品。官方指南
- W3C (2023). 网页内容无障碍指南（WCAG）2.2. 标准
- Koenecke, A. 等（2020）。自动语音识别中的种族差异。PNAS。比较研究
- 美国盲人基金会（2026）。人工智能与残障：研究结果——创新与无障碍。残障人士主导的调查
- Valencia, S. 等（2023）。我输入得越少，效果越好：人工智能语言模型如何改善或阻碍辅助与替代沟通用户的交流。CHI 2023。用户研究
- NIST（2024）。人工智能风险管理框架：生成式人工智能概述。NIST AI 600-1。官方框架
- Lin, S.、Hilton, J. 和 Evans, O.（2022）。TruthfulQA：衡量模型如何模仿人类谬误。ACL 2022。基准研究
- Sharma, M. 等（2024）。理解语言模型中的迎合行为。ICLR 2024。评估研究
- Parrish, A. 等（2022）。BBQ：手工构建的问答偏见基准。ACL 2022 研究成果。基准研究
- Buçinca, Z.、Malaya, M. B. 和 Gajos, K. Z.（2021）。该信任还是该思考：认知强制功能可以减少人工智能辅助决策中对人工智能的过度依赖。对照实验
- 欧洲数据保护委员会（2021）。关于虚拟语音助手的第02/2021号指南。官方指导
- Dubois, D. J. 等（2020）。当扬声器都在倾听：物联网智能扬声器误激活特征研究。隐私增强技术论文集。对照研究
- Greshake，K.等（2023年）。《并非你注册时所预期的内容：通过间接提示注入破坏集成大型语言模型的现实应用》。安全研究
- 美国汽车安全基金会（AAA Foundation for Traffic Safety）（2015年）。《汽车认知分心测量报告III》。实验研究
- NIST（2023年）。《人工智能风险管理框架1.0》。官方框架
- 欧盟（2016年）。《通用数据保护条例》（欧盟）2016/679。法律
- 欧盟委员会（2026年更新）。人工智能法案监管框架及实施时间表。官方概览
- NIST（2026）。人工智能代理标准倡议。标准倡议