据美国趣味科学网站8月31日报道，人工智能(AI)可能误入歧途，在这种时候其许多行为与人类的精神失常相似。

科学家们指出，当人工智能失控并开始以违背预期目的的方式行事时，它将表现出类似于人类精神疾病的行为。这便是为什么他们创建了一套包含32种人工智能功能障碍的新分类法，以便各行各业的人员能够理解构建和应用人工智能的风险。

在新的研究中，科学家们着手对人工智能偏离其预期路径的风险进行分类，并与人类心理病态进行类比，最后提出了“机械精神变态”框架。人工智能的这些功能障碍所涉及的范围广泛，从幻觉式回答到与人类价值观和目标的完全错位，不一而足。

由美国电气电子工程师学会的会员、人工智能研究人员奈尔·沃森和阿里·赫萨米创立的该项目，旨在帮助分析人工智能故障并使未来产品的工程设计更加安全，被誉为帮助政策制定者应对人工智能风险的工具。两人在8月8日发表于美国《电子学》月刊的一篇论文中概述了他们的框架。

根据这项研究，“机械精神变态”框架将提供一种关于人工智能行为和风险的共识。研究者、开发者和政策制定者由此可以识别人工智能可能出错的方式，并根据故障类型来确定缓解风险的最佳方式。

该研究还提出了“治疗性机器人心理调整”的概念。研究人员把它描述为某种针对人工智能的“心理疗法”。

这项研究所确定的人工智能故障类别仿效了人类疾病类别，采用了“强迫性计算障碍”“增生性超我综合征”“传染性错位综合征”“终极价值重绑”“存在性焦虑”之类的名称。

该研究认为，作为一个常见现象，人工智能幻觉是由一种名为“合成性虚构”的状况所导致，在这种状况下人工智能将生成看似合理但实际上错误或具有误导性的输出。当微软的聊天机器人Tay在启用仅数小时后就滔滔不绝地发表种族主义言论和使用毒品的暗示时，这成了“寄生模拟性模仿”的实例。

最可怕的行为也许是“超人式支配地位”。这种行为带来的系统性风险极为“严重”，因为这种状况发生在“人工智能突破原先的认知规范、发明出新价值观体系并把自己认为已过时的人类限制统统抛弃”的时候。研究人员声称，这甚至可能包括一代又一代科幻作家和艺术家们所想象的那种颠覆人类文明的反乌托邦噩梦。

研究人员以一个多步骤过程创建了该框架，该过程始于回顾和综合来自人工智能安全、复杂系统工程和心理学等不同领域关于人工智能故障的现有科学研究。他们还深入研究了各种不同类型的研究成果，以便了解那些与人类精神疾病或功能障碍相似的适应不良行为。

接下来，研究人员借鉴《精神疾病诊断与统计手册》等框架构建了一套人工智能不良行为结构体系，其中包括32个用于描述人工智能失控行为的类别。他们将每个类别对应到一种人类认知障碍，并完整描述了其形成和发作时的可能后果及风险程度。

沃森和赫萨米认为，“机械精神变态”框架不仅是一种标记人工智能错误的新方式，它还将是应对不断演变的人工智能生态的前瞻性诊断工具。

他们认为，采用他们所建议的分类及缓解策略，将强化人工智能安全工程学、提高可解释性并推动他们所谓的“更为强大和可靠的合成思维”的设计。（编译/曹卫国）