“深度伪造传播和更多AI伴侣”：最新人工智能安全报告的七大要点

由Yoshua Bengio主持的第二份年度国际人工智能安全报告，调查了人工智能的进展和风险，指出推理能力出现了显著飞跃，例如GPT-5和Gemini 3等模型在国际数学奥林匹克竞赛中达到了金牌水平。然而，能力仍然是“不均衡的”，系统仍然容易出现幻觉，并且无法可靠地自动化长期任务，尽管这种自动化能力预计将迅速提高。

关键担忧包括深度伪造色情内容的扩散，这些内容越来越难以与现实区分，以及AI伴侣的受欢迎程度迅速增长，导致一部分用户产生“病态的”情感依赖，尽管尚未有明确证据证明其与心理健康问题相关。报告还指出，主要的开发者已经实施了生物和化学风险防护措施，因为AI“联合科学家”在分子和蛋白质设计等领域的能力越来越强，这在限制工具和支持有益发展之间提出了一个难题。

此外，由于AI尚无法执行长期的多阶段任务，完全自主的网络攻击仍然不切实际，但系统在破坏监督和支持攻击者方面的能力正在提高。最后，报告发现对全球就业市场的影响仍然不确定且在不同经济体和行业中采用不均衡，尽管更大的自主性可能会加速市场颠覆。

(来源：the Guardian)