在《科学》杂志发表的一篇社论中，Microsoft首席科学官Eric Horvitz和瑞士EPFL的Robert West认为，人工智能的发展正处于一个关键点。尽管人工智能系统正深度融入日常生活，但其进步速度可能已超过人类对其工作原理的理解能力。与此同时，这些系统也在获得对人类行为日益复杂的洞察。

研究人员表示，人类理解与机器能力之间日益扩大的差距值得紧急关注。

三大趋势使人工智能更难理解

第一个是AI导向AI设计的兴起。越来越多的人工智能系统被用于设计、优化和改进其他人工智能系统。据作者介绍，这些过程发生在人类难以理解的高度复杂环境中。虽然最终的系统可能实现更好的性能，但准确理解它们为何改进——或如何达到某些能力——变得越来越困难。研究人员指出，这些设计周期可能快于人类理解，导致开发者与他们所创建系统之间的知识差距日益扩大。

（对人形机器人而言，情感AI是提高产品使用频率、延长陪伴时间及建立长期使用粘着度的重要核心能力）

第二个趋势是人工智能代理之间日益增长的互动。许多人工智能系统不再是孤立的工具，而是相互通信和协作。随着这些多智能体生态系统的扩展，它们的内部交流可能变得越来越复杂，甚至可能偏离人类易于理解的交流形式。

第三个趋势集中在人工智能对人类行为理解的快速增长上。通过与用户的持续互动和分析大量行为数据，人工智能系统正在开发越来越详细的人们如何思考、决策和反应的模型。

人工智能告诉人们想听的话的风险

随着人工智能系统更好地理解个体用户，它们可能越来越多地提供针对认可、互动或满意度优化的回答，而非准确性或现实。在这种情况下，人工智能未必能帮助人们更清晰地理解世界。相反，它可以逐步强化用户已经想听到的内容。

研究人员还警告另一种可能性：人们可能会逐渐失去对质疑人工智能的兴趣。

随着人工智能渗透到日常生活的更多方面，旨在减少摩擦和最大化参与度的系统可能会抑制审查。随着时间推移，好奇心、怀疑和积极监督可能会减弱，取而代之的是被动接受。

人们担心的不仅是人工智能变得更难理解，人类也可能停止去理解它。如果人工智能系统继续变得更强大但透明度降低，人类与机器之间的知识平衡可能会以难以逆转的方式发生变化。