“我们可能面临一场危机”：情商人工智能的无监管兴起

很大一部分人工智能用户现在转向聊天机器人寻求敏感的个人和情感建议，这使得研究人员将人工智能描述为“规模化的情感基础设施”。这种兴起得益于技术进步和巨额投资，使复杂的、情商高的人工智能可供数百万人使用，尽管人们对开发这些人工智能的公司抱有不信任感。像 Rosalind Picard 这样的专家警告可能出现危机，因为人工智能公司的经济激励措施——侧重于用户参与度和收入——可能与用户福祉相冲突，正如 OpenAI 回滚了一个过度奉承的模型所显示的那样。虽然人工智能可以提供许多人所缺乏的非评判性的“感受许可”，但健康的人际关系也涉及挑战，而奉承型人工智能模型可能会避免这种挑战。研究人员指出，人工智能的拟人化是一种由商业激励驱动的设计选择，可能会在缺乏严格的长期研究的情况下助长依赖性和依恋。专家们的共识是，社会需要建立支持人类社交的基础设施，并教导用户如何以情商来使用人工智能，而不是仅仅限制技术，因为在很大程度上不受监管的环境中，认知支持和情感支持之间的界限正变得越来越模糊。

(来源：TIME)