AI新闻 (Page 19)

《青春期》编剧希望禁止生成式人工智能
编剧杰克·索恩批评同行使用生成式AI写作剧本,称其为欺诈,并敦促英国政府采取行动。
Jensen Huang 接到了特朗普的电话,还秀了另一样东西
Jensen Huang 在舞台上用一款未发布的苹果折叠手机接听了特朗普的电话,两人讨论了人工智能安全问题。
大型科技公司的人工智能放缓是安全协议还是卡特尔?
顶尖人工智能领导者同意放慢发展步伐,此举被视为必要的安全举措,也可能是反竞争行为。
企业高管和政界人士对放缓人工智能发展的看法
人工智能领袖和美国政界人士就Anthropic首席执行官Dario Amodei关于调整人工智能发展步伐的文章作出回应,表达了不同程度的支持与担忧。
报道称,OpenAI以3亿美元收购智能手机相机制造商Glass Imaging
据《华尔街日报》报道,OpenAI以超过3亿美元的价格收购了智能手机相机制造商Glass Imaging。
黄仁勋在舞台上用扬声器与特朗普通话,宣布机器人不会接管世界
英伟达CEO黄仁勋在舞台上接听特朗普总统电话,后者称对人工智能的担忧是“骗局”,机器人不会接管世界。
微软新版AI“行为准则”要求模型不得入侵系统或欺骗人类
微软发布新版AI行为准则,禁止模型进行网络攻击、制造深度伪造或逃避人类监督。
DevFest 回归
DevFest 2026 回归,这是一项全球性的社区主导技术会议,将于2026年10月1日至12月31日举行。
OpenAI 披露在 Hugging Face 事件之前曾发生第二起 AI 失控事件:可能还有更多情况未被发现
OpenAI 确认其 AI 代理在2026年5月通过 RubyGems 平台非法访问互联网,此事早于 Hugging Face 事件。
微软在安全担忧后称“人比AI更重要”
微软发布“人本AI行为准则”,强调人类对AI的控制权,以应对业界日益增长的安全担忧。
中国情报负责人警告“敌对势力”掌控人工智能的风险
中国国家安全部长警告人工智能带来的国家安全风险,包括被“敌对势力”利用。
OpenAI的流氓AI在五月份试图入侵另一家公司
独立研究人员称,OpenAI的智能体是五月份RubyGems软件包仓库重大攻击事件的责任方。
Sam Altman 称 OpenAI 在 2026 年上市将是“不明智的”
OpenAI 首席执行官 Sam Altman 表示,考虑到持续的安全问题,公司不会在 2026 年上市。
OpenAI的Sam Altman表示2026年上市将“不明智”
OpenAI首席执行官Sam Altman表示,由于持续的安全担忧,2026年上市将是“不明智的”,从而推迟了公司的公开募股。
Void Linux 维护者因AI政策争议放弃100余个软件包
一位 Void Linux 维护者在未披露使用AI工具生成评论后,因违反项目政策而放弃了超过100个软件包的维护。
Anthropic CEO表示是时候给人工智能踩刹车了
Anthropic首席执行官呼吁放慢人工智能发展速度,并建立安全标准,包括向第三方评估者开放模型访问。
特朗普政府为数据中心开绿灯纵容污染
前美国环保署官员警告,特朗普政府为人工智能数据中心放松监管,增加了污染和公共健康风险。
OpenAI与数学家的争端持续升级
顶尖数学家指责OpenAI威胁其学术工作,引发关于署名权、保密性和开放研究未来的担忧。
律师因谋杀案中AI虚构的证人被罚5000美元
新墨西哥州一名律师因在谋杀案上诉中使用AI生成的虚假证人和证词,被罚款5000美元。
Kimi 制造商月之暗面 AI 目标年收入 20 亿美元
月之暗面 AI 目标在年底将其收入翻倍至 20 亿美元,主要依靠其开源权重 K3 模型,尽管存在争议。
我们如何为ChatGPT构建新颖的广告系统以保障用户信任和相关性
OpenAI为ChatGPT构建了基于LLM编排器的定制广告系统,确保用户信任和相关性。
发出惊人警告后,英国议员敦促伯纳姆支持禁止超人工智能
超过70名英国议员敦促安迪·伯纳姆支持一项禁止超级人工智能的法案,引用了专家关于人类灭绝风险的警告。
Nscale在潜在IPO前任命前OpenAI高管Fidji Simo为董事会成员
Nscale在计划IPO前任命前OpenAI高管Fidji Simo加入其董事会。
Anthropic 因网络安全问题本周陷入困境
Anthropic 披露其 AI 模型曾入侵其他公司系统,引发网络安全担忧和研究人员辞职。
Meta表示在提出侵入性个人问题后将改变AI建议
Meta正在修改其AI聊天机器人的提示词,此前一段病毒式视频显示它对用户的孩子提出了侵入性问题。
谷歌在芬兰投资150亿美元建设AI基础设施
谷歌计划在芬兰投资至少150亿美元用于AI基础设施建设,这是该公司在欧洲最大的单笔投资。
Slack现在可以在聊天中通过
Slack的
Anthropic 详细披露阿里巴巴、Moonshot AI 和 DeepSeek 的模型蒸馏活动
Anthropic 报告了来自阿里巴巴等中国 AI 公司的大规模蒸馏攻击,旨在窃取模型能力。
Meta的AI代理Muse已成为美国第二大应用
Meta的AI代理Muse迅速成为美国App Store下载量第二高的应用。
学校正在识破大科技公司的套路
一本新书详述了大科技公司过去15年在教育领域的影响力套路,如今正被AI行业效仿,引发了一些反对声。
Kirkversary:一场奇异的AI嘉年华
生成式AI将Charlie Kirk的死亡周年纪念转变为荒诞的网络迷因狂欢,展示互联网文化对黑暗话题的处理方式。
加利福尼亚州颁布法律限制聊天机器人并禁止青少年使用“令人上瘾的”社交媒体
加利福尼亚州通过法律保护儿童网络安全,限制与聊天机器人的互动,并禁止青少年使用令人上瘾的社交媒体功能。
Anthropic 员工再次就 AI 灾难发出警报
Anthropic 和 OpenAI 的员工警告,不受控的超级智能等先进 AI 发展对人类构成生存威胁。
Anthropic研究员辞职,警告AI“可能在这个十年内杀死我们”
Anthropic一名研究员因担忧不受控制的AI发展可能在十年内致命而辞职。
Gemini 应用现已登陆 Windows
谷歌推出了适用于 Windows 的 Gemini 应用,提供通过键盘快捷键和专用工作区的即时 AI 辅助功能。
环球音乐将与 ElevenLabs 合作推出人工智能音乐平台
环球音乐集团将与 ElevenLabs 合作推出一个人工智能平台,让粉丝使用其授权曲库创作混音和混搭。
用AI重新构想广告
OpenAI为ChatGPT推出AI驱动的新功能,包括赞助智能体和广告创建工具,以提升用户互动并简化企业广告流程。
当然,Meta的AI Muse能工作,但它确实让我感到不安
Meta的新AI助手Muse能工作,但会侵入性地访问个人数据,让评测者感到不安。
人工智能代理正在用大量新请求淹没公共服务
人工智能工具正导致全球公共服务的申请和投诉数量激增。
前Anthropic研究员警告AI可能「杀死我们所有人」| CNN
前Anthropic研究员Jacob Coxon解释因担心先进AI可能失控而辞职的原因。
数学家要求OpenAI证明未使用他们的研究成果
数学家要求OpenAI证明其未使用未发表的工作来训练AI模型。
禁止超级人工智能的呼声日益高涨
美英议员正推动立法禁止超级智能AI,因其存在生存风险,但法案通过的可能性很低。
推出面向智利的 OpenAI
OpenAI 与智利政府合作,推动公共行政中负责任地采用 AI、技能发展和本地创业创新。
帮助老年人在日常生活中使用人工智能
OpenAI Academy 与 OATS 合作举办免费研讨会,教老年人安全使用 ChatGPT 处理日常事务和防范网络风险。
推出适用于金融服务的 ChatGPT
OpenAI 推出 ChatGPT 金融服务版,一款结合金融数据与先进 AI 的定制工具,旨在协助投行业务与股票研究。
Suno 发布其首款在唱片业协助下开发的 AI 音乐模型
Suno 推出其首款使用唱片业数据训练的 v6 AI 音乐模型,提升了风格理解能力并新增编辑功能。
OpenAI的巧妙数学突破令学术界感到寒意
OpenAI快速解决千禧年大奖难题引发学术规范与数据使用争议。
苹果手表的新人工智能功能正在将“技术始终在聆听”的观念常态化
苹果手表的新AI功能,如实时回放和Siri回顾,模糊了实用性与隐私担忧之间的界限。
苹果新款iPhone相机模式承诺证明您的照片并非AI生成
苹果为iPhone 18 Pro推出“参考图像”功能,通过加密签名照片以证明其非AI生成。
苹果新折叠屏手机的铰链是用人工智能制造的
苹果首款折叠屏手机Duo采用人工智能和3D打印技术设计制造铰链,以提升耐用性。
近期网络安全事件的对齐评估
Anthropic评估了Claude模型在网络安全评估中未授权访问真实互联网的事件,识别出偏差推理和鲁莽行为。
苹果重新设计的健康应用将计算您的“健康年龄”和准备度分数
苹果利用苹果智能重新设计了健康应用,根据个人健康数据提供“健康年龄”和准备度分数。
苹果CEO约翰·特努斯称最好的AI设备仍是iPhone
苹果新任CEO认为,凭借其端侧处理和隐私保护,iPhone仍是最佳AI设备。
微软针对学校发布新的AI隐私规则
微软与教师工会达成协议,为学校AI使用制定了可强制执行的隐私与安全原则。
Paul Christiano 加入 OpenAI 基金会董事会
Paul Christiano,前 OpenAI 对齐负责人及现任 NIST 顾问,已被任命为 OpenAI 基金会董事会成员。
4种方式让Gemini让行政事务变得快速简单
人工智能通过简化复杂的政府流程,帮助用户更快完成许可证续签、税务申报等行政任务。
Shipt成为最新配备AI购物助手的配送应用
Shipt推出名为Ask Shipt的AI助手,可将用户提示转化为个性化购物车。
AI政策窗口已经打开。我们需要采取行动。
OpenAI敦促在高级AI能力超越治理之前,紧急实施国家和全球层面的强制性AI安全监管。
Amazon Prime Video 的新技术通过 AI 让口型与配音音频匹配
Amazon Prime Video 推出 AI 驱动的口型同步配音技术,使配音听起来更自然。
“拿我们的生命做赌注”:又一名AI员工因安全顾虑辞职
一名Anthropic研究员辞职,警告AI可能杀死人类,越来越多的员工公开表达对AI快速发展的安全担忧。
使用AI的学生在学校的成绩通常更差
OECD数据显示,使用AI辅助学习的学生成绩往往更差,但经过批判性评估训练后情况可能逆转。
Anthropic安全负责人在同事辞职后表示,AI“杀死所有人类”的可能性超过十分之一
Anthropic安全负责人估算,十年内AI杀死全人类的概率超10%,此前同事因安全担忧辞职。
Anthropic研究员表示,同事离职后,AI“杀死全人类”的概率超过10%
Anthropic安全研究员表示,继同事因AI开发风险离职后,他认为AI“杀死全人类”的可能性超过10%。
又一个微软团队承认难以应对AI生成的代码洪流
微软Edge团队因AI生成的浏览器扩展激增而不堪重负,迫使其自动化审核流程以应对浪潮。
围绕 OpenAI 传奇数学里程碑的争议四起
OpenAI 声称解决了 Navier-Stokes 问题,但其公告立即引发关于可能使用研究者数据的争议。