我们常听到“人工智能应该以透明的方式运行才能赢得信任”。但就人类信任而言，这真的就足够了吗？仅仅解释人工智能代理的内部运作机制或推理过程就能保证用户留存吗？如果产品的目标用户群体不仅限于早期用户，我们就需要更深入地研究：人工智能的心理模型。

虽然可解释的人工智能方法，包括内部运作机制、推理过程和决策树的透明度，在建立用户信任方面发挥着重要作用，但它们并不能保证用户信任。理解一项功能的工作原理并不等同于认同它，对吗？

我当时正在开发一款生成式引擎优化工具，旨在帮助营销团队了解人工智能如何描述他们的品牌。在开发过程中，我发现了一个不匹配之处：我们展示的是他们的内容策略如何涵盖各种提示，而他们却试图找到内容策略如何涵盖提示中包含的“关键词或主题”。我们讨论的是“提示”，而营销人员的思维模式是“关键词”。这就是我们意识到应该突出关键词的原因。同样的数据，不同的思维模式。

问题在于？你的 AI 功能或许能够完美地执行任务并做出解释，但如果流程、标准或方法与人类用户无关，那么协作就会中断，随之而来的是，该功能最终会束之高阁。

“‘解释性’这一属性并非陈述的属性，而是一种互动。何为解释性取决于学习者/用户的需求、用户已有的知识，尤其是用户的目标。” Robert R. Hoffman

即使是功能最完善、最精准的AI功能，即便提供了所有必要的解释说明模型的工作原理、决策过程和推荐方法，最终也可能沦为产品中“无关紧要”的功能。原因往往比我们想象的要简单得多：用户已经习惯了特定的任务处理方式！如果AI替代方案没有考虑到这些习惯、想法和信念，那么即使设计精良的新用户引导流程再好，也无法说服用户改变他们的工作方式。

因此，在回答“我们如何向用户解释这项人工智能功能？”这个问题之前，我们应该先问一个更根本的问题：

“这项新功能与用户现有的心理模型有何关联？”

设计师回答这个问题时常用的指导原则是“在用户所在的地方满足他们的需求”，例如，如果用户在错误的地方寻找某个东西，就把它移到他们正在寻找的地方。然而，随着新的AI用户体验模式层出不穷，并且大多朝着基于意图的对话式交互或生成式用户界面发展，问题不再是“在哪里”，而是“如何做”。

在人际协作方面，研究早已证明，共享的思维模式是高效协作的基础。团队拥有共享的思维模式能够促进创造力，因为它强化了与工作相关的冲突和创新之间的积极关系，尤其是在团队就其价值观、工作方式和规范达成共识的情况下 。

共享心智模型会影响决策过程，因为它基于对其他团队成员的行为或观点的理解。因此，它们对于理解团队的活动、动态和功能至关重要。

鉴于人工智能将以如此广泛的深度渗透到我们生活的方方面面，假设人类与人工智能之间共享的思维模型对于实现有意义、高效且值得信赖的人机协作也至关重要，这并非异想天开。事实上，一些研究人员已经验证了这一假设，结果不出所料，它是正确的！

有效的人机协作需要具备形成相互心理模型的能力，这有助于人工智能系统和人类用户理解如何相互补充。

我想分 4 个步骤来解释这个问题，所有这些都围绕着“共享的思维模型”展开。

1. 技术舒适区和任务风险
2. 人类对任务或协作的心理模型
3. 人类对人工智能特征的心理模型
4. 人类认知能力与人工智能速度的比较

1. 技术舒适区和任务风险

想象一下，一位资深的公共服务人员，精通复杂的数字仪表盘操作，突然接触到工具上的一个新功能：一个人工智能助手，只需和它聊天就能帮你完成工作。“聊天”——这让她想起自己19岁的儿子和朋友们计划周末聚会——与专业工作完全不搭边。因此，她尽可能地忽略了这个功能。或许尝试过几次，但最终还是觉得“这不适合她”！

无论身处哪个行业或领域，人们日常使用的技术水平都各不相同。这种技术使用行为不仅会影响用户如何定义技术在其个人或职业生活中的角色，还会影响他们对新技术的接受程度和信任度。如果一款产品只面向早期用户，而没有考虑到其他用户的舒适度，那么要说服大多数人信任它就相当困难了，不是吗？

在这种情况下，一个解决办法是寻找“外包安全候选人”。我们每个人都有一些自己讨厌做、不习惯做或者觉得无聊的任务或活动，因此我们很乐意将它们外包出去。这些任务非常适合用人工智能来处理。

举个例子。假设你正在为一位起重机操作员设计系统，他最重要的任务是在搬运重物时确保货物和工作场所的安全。操作员对人工智能助手独立搬运重型昂贵货物的信任度，远低于他对人工智能推荐的最短路线的信任度。这表明，在开发自动驾驶功能之前，应该先着手开发路线推荐功能。

2. 人类对任务或协作设置的心理模型

我们每个人对事情的完成方式都有自己的看法，从寻找咖啡馆或给电子邮件贴标签这样的小事，到工作中的具体任务，莫不如此。现在，想象一下，如果你把这项任务外包给一个遵循完全不同逻辑的人工智能，你会不会感到困惑，甚至心存疑虑？

为了解决这个问题，我们需要首先思考用户目前是如何解决我们将要用人工智能解决的问题的。他们目前的解决方案应该成为我们设计新方案的指南针。

设计师通常最好顺应人们现有的思维模式，而不是试图强迫他们接受新的模式。以拟物化设计为例，这种设计方法借鉴了物理世界的线索，帮助用户掌握新的交互方式。通过利用人们已经熟悉的事物，设计师可以使新的、不熟悉的体验更容易理解（也更少令人沮丧）。

3. 人类对人工智能特征的心理模型

在设计新的可用性模式时，真正的挑战在于：我们如何确保用户对功能的理解是有效的？这需要综合考虑预期管理、清晰的价值沟通和可解释性。

棘手之处在于，对于像 ChatGPT 这样的通用型对话式人工智能，用户很难分辨代理的功能范围。几乎不可能仅凭外观就准确判断对话式人工智能的功能。因此，各种提示信息逐渐消失，最终只能由用户自行摸索使用流程或功能。

Max Stepanov 在他的文章中探讨了用户围绕对话式人工智能功能形成的一些常见心理模型，例如“魔法盒子”或“师生”心理模型。观察用户与人工智能功能交互时的行为、进行“边想边说”的可用性测试以及评估用户对价值理解的准确率，都是我们更好地理解用户围绕人工智能产品形成的心理模型的方法。

4. 人类认知能力与人工智能速度的比较

随着科技发展速度的加快，我们的注意力持续时间却越来越短。注意力持续时间的缩短，也导致我们难以抽出时间进行需要高度认知能力的决策和判断，最终迷失在人工智能推荐和输出的海洋中，忘记了自己的决定和行动。

我用 Lovable 重建作品集的时候就遇到过这种情况。迭代速度太快，以至于做到一半的时候，我才意识到自己忘记了当初为什么做了某些修改或决定。是的，我不得不从头开始，这次要系统地构建，而不是像以前那样只是迭代。

研究表明，在充分了解用户局限性的基础上设计人工智能，往往比简单地向用户解释人工智能自身的局限性更为有效，尤其是在任务速度至关重要的情况下。换句话说，与其向用户提供额外的解释，不如构建一个能够适应人们认知状态的人工智能系统。

尼尔森是这样说的：“别让我思考得更快。”换句话说，不要强迫用户以机器的速度操作。相反，我们应该衡量并改进产品造成的认知延迟：人们需要多长时间才能注意到变化、弄清楚变化的含义、决定下一步该做什么，以及在被打断后重新接上思路。

Google 设计库的框架是理解如何合理利用用户认知能力的绝佳指南。例如，如果需要学习大量新的 UI 操作（图 B），则应确保主要用例基于用户熟悉的事物。如果产品的行为特别动态（图 C），则应使用大量可识别的模式，以免用户感觉像是在摸索前进。

总结

所以，下次当你想要通过为你的AI功能添加更多解释、工具提示或引导流程来解决信任问题时，请先停下来想一想。问题可能不在于用户不理解功能的工作原理，而在于功能不理解用户的使用习惯、逻辑、节奏和舒适区。可解释性固然重要，但这只是第二步。第一步是目标一致性。因为无论你把门后的东西解释得多么清楚，如果你敲错了门，那就没人会应门！