我们可以从最近特斯拉致命的事故中学到一件事：AI和机器学习产品需要非常谨慎的设计。

随着人工智能产品的到来，我们进入了一个新时代，机器开始有了不同的表现。他们不仅执行我们的命令，还自己做事。这将改变人们的反应，行为，以及我们对这些产品的期望。

作为设计师，我们的目标是创造出有用的，易于理解的产品，以使这个晦涩的机器学习世界变得简单。最重要的是，我们想用人工智能的力量让人们的生活更轻松，更快乐。所以让我们看看我们如何通过良好的设计来实现这些目标。

1.直观地区分AI内容

在很多情况下，我们使用AI和机器学习来深入挖掘数据，并为我们自己生成新的有用的内容。这些可以是来自Netflix上的电影推荐，Google翻译中的翻译或CRM系统中的销售预测。

AI生成的内容对人们来说可能非常有用，但在某些情况下，这些建议和预测需要更高的准确性。人工智能算法有其自身的缺陷，特别是当他们没有足够的数据或反馈来学习时。

我们应该让人们知道算法是否产生了一段内容，以便他们自己决定是否信任它。

在上面的图片中，您可以看到Zendesk的AI支持票预测。它清楚地将此标识为预测，因此人们知道该专栏中会发生什么。

Firebase是一款面向移动开发者的工具，它使用魔术棒图标标记预测数据。在这里，他们还提供有关预测准确性的信息，用户还可以设置风险容限。当然，这个工具可以为更多了解机器学习的工程师提供服务 日常人不一定会理解“高风险容忍度”。但魔术棒仍然轻松地突出显示AI内容。

2.解释机器如何思考

人工智能通常看起来像是魔法：有时甚至工程师也难以解释机器学习算法如何产生某些东西。我们把我们的工作视为一个用户体验团队，帮助人们理解机器是如何工作的，以便更好地使用它们。

这并不意味着我们应该解释卷积神经网络如何在简单的照片搜索中发挥作用。但是我们应该给用户一些提示，告诉他们算法是做什么的，或者是什么数据。

一个来自于电子商务的很好的例子，在这里我们解释了为什么我们推荐某些产品。这些推荐引擎是许多人多年前遇到的第一个人工智能。

自动驾驶汽车为AI 体验提供了另一个很好的例子。为了建立对乘客的信任，我们建议在汽车上放置一个屏幕，让每个人都可以检查汽车周围看到的东西。

最后，让我们来看看电子邮件营销工具点滴。不是一个人工智能产品本身，它有一个评分功能，显示通讯用户参与。点击得分，你会得到一份详细的行动清单，这可以解释为什么人们会得到他们的分数。

3.设定正确的期望

我们必须设定正确的期望，特别是在一个充斥着关于新人工智能技术的耸人听闻的肤浅新闻的世界里。

一些聊天机器人使用信息来澄清他们的进步程度。在这种情况下，我们试图通过一个不错的副本和一个和机器人友好的角色来降低期望值。

4.查找并处理奇怪的边缘情况

人工智能可以生成内容并采取之前没人想到的行动。对于这种不可预测的情况，我们不得不花费更多的时间来测试产品，发现奇怪的，有趣的，甚至令人不安或不愉快的边缘案例。

许多有趣而粗鲁的聊天机器人的例子比比皆是，机器人不理解上下文，或人们给他们简单但意想不到的命令。

有很多关于亚马逊的Alexa的故事。有一次，它只是因为在收音机里听到了一场关于它的对话，就订了一间玩具屋。在另一个例子中，护照检查官不接受亚洲人的照片，因为“他们的眼睛是闭着的”。

在现场进行广泛的测试可以帮助减少这些错误。关于产品功能的明确沟通可以帮助人们理解这些意外情况。

设计师也必须为开发者提供关于用户期望的信息。他们可以对算法进行微调以防止不良响应。在许多情况下，他们在精确度和召回率之间进行权衡。

当我们使用AI UX时，我们会帮助开发人员决定优化哪些内容。提供关于人类反应和人类优先事项的有意义的见解可以证明设计人员在AI项目中最重要的工作。

5.为工程师提供正确的培训数据

从工程方面创建AI产品通常需要以下三个高级步骤：

·为您的任务找到最佳的AI算法。

·喂养AI训练数据。人工智能从这些数据中学习并创·建一个将用于现场产品的模型。在我们上面的例子中，训练数据会包含很多绘画和每个画家的名字。

·发布产品。它会在为用户做某些事情之前使用训练好的模型。它也可能收集新的数据供以后使用，重新训练模型并改进其自身的性能。

6.对人工智能产品的用户测试(默认方法不会在这里工作)

测试AI产品的UX可能比普通应用程序困难得多。这些应用程序主要承诺提供个性化内容，但几乎无法在线框中使用某些虚拟材料来模拟该内容。两种伟大的方法可以工作：向导测试和个人内容。

在Wizard研究期间，有人模仿产品对背景的反应。它经常测试聊天机器人与人是否回答每条信息，假装机器人正在写作。

您也可以在测试情境中使用测试参与者的个人内容。询问他们最喜爱的音乐家和歌曲，并使用他们测试音乐推荐引擎。这测试了人们的假设，以及他们如何很好地对好的和不好的建议做出反应。

7.提供给予反馈的机会

如果我们向机器学习算法提供更多数据，AI产品的用户体验会越来越好。

看看我们在下面设计的电影推荐系统UI。对于显示的每部电影，您可以设置是否喜欢它。它为该算法收集大量的训练数据。

同时为您的用户提供有关AI内容反馈的机会。

在应用程序推荐或预测的每个屏幕上，让用户有机会轻松地立即提供反馈。它通常意味着AI内容旁边显示的一键反馈选项。

在Zendesk中，预测报告旁边的一个按钮坏了。

在Google的Feed中，您可以在每张卡下面看到问题，以便随时提供有关该卡实用性的反馈。你可以看到他们也找到了一个很好的方式来传达算法的工作原理。他们展示了用户表示有兴趣解释他们为什么推荐某篇文章的短语。

总结一下，设计AI UX时要做的七件事情：

1、通过视觉区分AI内容和正常内容，以便人们知道信息来自何处。

2、解释机器如何思考，以便人们理解结果。

3、设定期望值，以便人们知道他们可以或不可以用AI产品实现的目标。

4、查找并处理边缘案例，以免您的用户发生奇怪或不愉快的事情。

5、帮助工程师了解人们的期望和正确的培训数据 使用Wizard of Oz测试等方法测试AI UX。

6、模拟AI内容需要时使用测试参与者自己的数据。

7、为用户提供机会提供反馈并向系统添加新的培训数据。