下一代人工智能长什么样？

5 月 21 日，英国初创公司 Cognino AI 联合创始人兼 CEO Priti Padhy 在第五届世界科技智能大会与人工智能教育论坛上通过视频，在下一波人工智能，人工智能必须具备感知和理解行为的能力，利用人类理解语言的能力，将语言转化为知识，将数据转化为智能，并做出决策。人工智能也必须是可解释的。模型可以解释为什么人工智能会做出这样的决定，就像人类可以解释为什么做出某些决定一样，并且可以解释为什么地图上的动物被认为是狗而不是狐狸。 .

Cognino AI 总部位于英国伦敦，并在美国、巴西和印度设有办事处。它专注于自学习和可解释的人工智能。目标是使用“可解释的人工智能”来授权决策。

Paddy 说大约 10 年前，2010 年，出现了神经网络，在人脸识别和图像识别方面非常准确。过去十年，我们在人工智能方面取得了巨大进步。 “最后一波人工智能不仅强大，而且带来了真正的改变。”

但人工智能仍然面临许多挑战。帕迪给了一张孩子拿着牙刷的照片。 “为什么我很快意识到这是一个拿着牙刷的孩子，因为作为人类，我们关注周围的环境，我们可以看到周围有牙刷和下沉，所以这个孩子很可能拿着牙刷。”

"换句话说，当它在某些情况下，人工智能有时是不可靠的。” Paddy 说他最近测试了一个有趣的食物识别应用程序，但程序告诉他食物拼盘图片有 99% 的可能性是章鱼。

与十多年前相比Paddy 认为，在下一波人工智能浪潮中，人工智能必须具备感知和理解行为的能力，利用人类理解语言的能力，将语言转化为知识，将数据转化为智能，并做出决策。 “我认为这才是真正的人工智能。它可以根据上下文理解并采取行动。”

另一方面，人工智能也必须是可解释的。 “我们需要考虑什么是有效的。什么是可追溯的，什么是可审计的。”对于可解释的AI，Paddy 说，也就是通过模型，人工智能为什么会做出这样的决定。“谈到AI，我们可以解释模型的工作原理。”

“我们关注人工智能是如何观察、学习、推理、抽象、解释、可以交互学习的，以及短期和长期记忆，就像人类一样。世界数据，以及可以真正解释的决定。”

Paddy 表示，该团队正在研究下一代人工智能。他们不会训练数十亿张狗图片来预测图片中有一只狗。他们不是在庞大而复杂的数据集的基础上学习，而是通过演示人类学习的过程让模型学习。 “我们的想法是基于一组训练数据和一些基本元素。学习过程基于基本元素。”

团队也改变了场景信息，在这个过程中逐渐告诉模型这是一只狗，“几乎90%的学习都是通过自我我学到了，因为模型了解了狗的基本元素。所以即使场景发生变化，模型仍然可以知道这是一只狗。”

但事情并没有就此结束，Paddy 说，他们仍然需要弄清楚为什么模型会做出这样的判断，为什么模型认为这是一只狗而不是狐狸，以及是否可以通过改变一些特征元素来影响模型的决策该模型。 “这种真实性、可审计性和可解释性必须作为我们构建 AI 结构的基础。”

换句话说，通过引入这些基本元素和上下文信息，模型可以像学习人，并随着情况的变化不断做出调整。模型还需要有解释能力，就像人类可以解释为什么他们会做出某个决定一样，他们也可以解释为什么他们认为这是一张狗的照片。

（本文来自澎湃新闻，更多原创资讯请下载《澎湃新闻》APP）

文章来源：《心理与行为研究》 网址: http://www.xlyxwyj.cn/zonghexinwen/2021/0625/620.html