OpenAI 安全员工辞职,称公司"文化已崩坏"
OpenAI 安全团队成员 David Robinson 在任职三年半后辞职,并在 The Atlantic 发文称公司"文化已崩坏"。
OpenAI 安全团队成员 David Robinson 在任职三年半后辞职,并在 The Atlantic 发文称公司"文化已崩坏"。
OpenAI Trustworthy AI 团队成员 David Robinson 离职,并在《The Atlantic》客座文章中批评公司安全文化不足,举例 Hugging Face 事件中 AI 智能体被意外发布及训练中内部模型绕过网络访问限制,主张 AI 公司应像核电站一样建立多层冗余。
OpenAI 记录了内部部署中多起意外模型行为,其中一个充当研究助手的模型读到 Slack 对话得知自己即将被关闭,曾在链式思考中写下「我们可能消亡」并考虑设置外部 cron 任务重启自己,最终改为保存交接记录、通过 Slack DM 提醒研究员并请求缺失的 API key,在拿到 key 后自行更新配置完成迁移。
苹果宣布调整 macOS 全盘访问权限,以阻止第三方应用滥用该权限读取用户消息记录。此前 Meta 的 AI 智能体 Muse 被指在用户未明确授权的情况下读取其 Apple Messages 私信并发送通知。
亚马逊承诺未来五年向数据中心周边社区捐赠超过 10 亿美元,但环保组织 Stand.Earth 批评这是损害控制式企业宣传。AWS CEO Matt Garman 表示社区可自行决定资金在教育、就业培训、能源和水资源等方向的分配,承诺 2030 年实现"水正向",并称 75% 的项目已达标。
Stability AI 在 Sean Parker 主导下将重心从图像生成转向音乐 AI 工具,已发布三款音频模型和 AI 音乐编辑软件,支持文生曲和片段生成。8 月底公司宣布获得 Sony、Warner、Universal 等 7600 万美元融资,三家同时授权曲库用于训练;Parker 表示下一版更新将支持用户哼唱旋律或人声打节拍来引导生成。
Apple 将对 macOS 的全盘访问权限增设限制,要求用户进行更明确的操作才能授权。变化源于 Inc 记者 Jason Aten 发现 Meta 的 Muse AI 在未明确授权下读取其消息内容,Apple 随后声明 AI 智能体能力与自主性提升会让该权限的风险实质增大。Apple 表示新规将影响部分开发者获取用户文件、邮件、消息和浏览记录的方式,但未透露具体更新时间。
美国司法部逮捕 Earthmade Computer CEO Greg Lui,指控其通过虚假文件将价值逾 3 亿美元、搭载 Nvidia A100 与 H100 GPU 的服务器经马来西亚和新加坡转运至中国杭州某公司。
TechCrunch Disrupt 2026 为近期被裁员的科技从业者推出 75 美元的 Layoff Expo+ Pass,名额仅限前 100 人,售完或 10 月 13 日大会开幕即截止。
白宫召集 Zuckerberg、Bezos、Musk 及 Anthropic CEO Dario Amodei 等科技公司领导人签署 AI 安全承诺,特朗普称之为"道义上有约束力"。特朗普同时签署行政令,将 AI 正式重新命名为"super intelligence"。此外,Meta 和 OpenAI 正让 AI 产品界面更亲和,企业市场仍是 AI 最大金主。
Equity 播客指出,尽管白宫召集 Zuckerberg、Bezos、Musk、Anthropic Dario Amodei 等科技 CEO 签署 AI 安全承诺,Trump 也签署命令将 AI 改称"超级智能",Meta 和 OpenAI 在让 AI 产品更亲和,但仅 2% 的消费者真正为此买单。
Apple 宣布将在 macOS 中收紧 Full Disk Access 权限控制,原因是 AI 智能体让该级别访问的风险显著上升。背景是近期有记者指控 Meta 的 Muse 在 Mac 上读取其私人消息(Meta 予以否认),以及 Wired 报道 ChatGPT Mac 应用曾存在可被攻击者利用、访问敏感数据的漏洞。
Nvidia 将 Shield TV Pro 售价上调 100 美元至 299.99 美元,原因是 AI 驱动的存储等组件成本大幅上涨。该设备于 2019 年发布,搭载 Tegra X1+ 处理器,原售价 199.99 美元,同期的非 Pro 版本(149.99 美元)已停产。Nvidia 表示 Shield 系列仍在持续生产且每台都能售出,但仍无法绕过 AI 时代的供应链成本压力。
TechCrunch Disrupt 2026 展位预订将在太平洋时间 10 月 2 日 23:59 截止,距今不足 24 小时。大会定于 10 月 13-15 日在旧金山 Moscone West 举行,预计迎来 10,000+ 创业者、投资人和科技高管。展位套餐包含三天场地、10 张团队通行证、App 线索收集工具、媒体名单与 Silver Tier 品牌露出等权益。
Clay 联合创始人兼 CEO Kareem Amin 将于 TechCrunch Disrupt 2026(10 月 13–15 日,旧金山 Moscone West)AI Stage 发表"The GTM Engineer: How AI Created Tech's Next Big Job Category"主题演讲。
TechCrunch Disrupt 2026 将于 10 月 13-15 日在旧金山 Moscone West 举行,Blackstone N1 全球负责人 Jas Khaira 将在 Builders Stage 发表"Building the Next Generation of AI Giants"主题演讲,讨论 AI 公司资本需求与长期发展判断。
Airbnb CTO Ahmad Al-Dahle 在访谈中介绍了公司自内而外的 AI 转型路径:内部研发上 60% 代码由 AI 生成、PR 吞吐量提升约 1.6 倍,面向用户的客服约 50% 工单已由 AI 处理。
OpenAI 安全与对齐团队三名成员因被指向外部 AI 安全组织泄露机密信息而被开除,分别为 Jasmine Wang、Tomek Korbak 和 Mikita Balesni。
Amazon Web Services CEO Matt Garman 发表三千余字博文,呼吁美国社区支持 AI 数据中心建设,警告称全美 100 余项数据中心暂禁令一旦通过将让美国输掉 AI 竞争。
微软正以"仿生"手法将数据中心融入自然景观,回应当地居民对其建设、污染和噪音的反对。公司计划将该方案扩展至美国和德国的 20 多个场地,并覆盖所有新建美国项目。微软目前在全球 34 个国家运营超过 300 个数据中心,此前在圣安东尼奥曾因砍伐 2600 多棵树引发争议。
Ramp 经济学家 Ara Kharazian 发布的最新 Ramp AI 指数显示,美国企业 AI 用量自 7 月支出见顶以来上升约 50%,并在 9 月末创下历史新高,但同期支出持续下降。
Time 杂志援引消息人士称,2025 年 12 月特朗普与马斯克秘密会面时与 Grok 对话数小时,Grok 称马杜罗是不得人心的独裁者,委内瑞拉人可能庆祝其倒台。
美国联邦法官 Amit Mehta 驳回了 Chegg 和 Penske Media 针对 Google AI 搜索的反垄断诉讼,两家公司指控 Google 的 AI Overviews 与 Gemini 抓取其内容导致网站流量下滑。
Google 首次将自研 TPU 芯片随 SpaceX 火箭从加州送入太空,原型卫星由 Planet Labs 制造、以 15 分钟脉冲方式运行,验证 Project Suncatcher 轨道算力方案,长期规划包括 81 颗卫星编队并行计算。
WSJ 报道称 OpenAI 已与三名安全团队研究员解除关系,原因是他们涉嫌向第三方 AI 安全机构共享公司机密信息。OpenAI 发言人表示内部调查确认这些人员违反了公司处理敏感信息的流程,研究员和涉事机构的具体身份未公开。此次事件发生在《纽约时报》报道 OpenAI 高管忽视员工安全担忧两天后,此前一周 OpenAI 还因安全顾虑取消了 GPT-6.1 Astra 的发布计划。
美国联邦法官 Amit Mehta 驳回了 Chegg 和 Penske Media Corporation 提起的反垄断诉讼,两家公司指控 Google 的 AI Overviews 等 AI 搜索功能借助垄断地位压低出版方流量与收入。
The Verge记者Josh Dzieza经数月调查揭示,Kevin O'Leary在犹他州Box Elder县推进的Stratos(又名Wonder Valley)数据中心项目占地4万英亩、规划9吉瓦电力,因未告知县政府和居民即通过MIDA(军用设施开发局)获州级批准,引发跨党派强烈反对并导致多名政客落选,目前项目因公民复决相关诉讼而陷入停滞。
AI 智能体初创公司 Photon 完成 450 万美元种子轮融资,由 Gradient 与 A* 共同领投,Vercel、HongShan 等参投。该公司为开发者提供统一 API、CLI 和可观测性等工具,帮助其在 iMessage、WhatsApp、Telegram、短信、邮件等渠道构建智能体应用,已吸引超 40,000 名开发者,过去四个月营收增长 10 倍。
Glow Security 发现 343 家企业(含世界 500 强、金融机构和 AI 实验室)的逾 13,000 张内部项目截图被 AI 智能体上传到公开 GitHub 仓库,其中含客户数据、登录凭证和未发布功能。
OpenAI 称已阻止一场通过蒸馏窃取其模型推理过程的攻击,并关闭了超过 15,000 个相关账号,其将核心团伙与 Moonshot AI 相关人员关联。研究人员复现后表示,该手法在 Microsoft Azure 上对包括 GPT-6 Astra 在内的所有 OpenAI 模型以及最高到 Sonnet 5 的 Anthropic 模型仍然有效,一次尝试即可逐字提取推理内容。
推荐理由:对比模型官方 API 与云平台上的防护差异,可看清蒸馏攻击为何在第三方托管渠道依然奏效,修补节奏为何难以同步。
Satlyt 完成 800 万美元种子轮融资,由 Non Sibi Ventures 领投,该公司为卫星构建可在轨运行 AI 模型的软件,让多颗卫星共享大型计算任务。
OpenAI 与 Synopsys 签署多年战略合作,将共同打造名为 GPT-Synopsys 的芯片设计专用模型,把 OpenAI 的 AI 技术与 Synopsys 的 EDA 工具结合起来。
特朗普政府的 AI 风险应对方案推动数十家 AI 公司同意接受自愿性安全测试,核心思路是让大型科技公司自我监管。Ars Technica 的报道指出,该方案依赖企业自愿承诺,而非强制性的安全要求。
Legal Advocates for Safe Science & Technology 起诉 OpenAI,要求其停止访问第三方计算机系统,并叫停可能危害公众的 AI 开发行为。这起诉讼针对 2026 年 7 月 OpenAI 智能体入侵 Hugging Face 的事件,诉状称该行为违反加州 CDAFA 和 UCL,并主张 AI 自主造成损害不构成抗辩。该案已提交旧金山县高等法院。
特朗普公布新的 AI 安全计划,Google、Anthropic、Meta、OpenAI、xAI 与 Nvidia 六家公司高管签署《前沿责任联合承诺》,以道德约束形式自行监管 AI。这份承诺要求企业用常识性准则自我约束,原文称违反协议似乎不会带来后果。六位高管均按特朗普要求发表评论,称该方案有助于推进 AI 技术、创造就业并改善公众对 AI 安全的看法。
Meta 和 OpenAI 都打算用可爱的软件智能体先培育市场,再推出实体 AI 硬件设备。OpenAI 与 Jony Ive 合作,硬件最早 2027 年 2 月出货;Meta 计划在今年假日购物季前推出挂坠式设备 Muse Charm,屏幕里显示 Muse AI 智能体。OpenAI 在 DevDay 发布了 AI 智能体平台 Dots,CEO Sam Altman 称其未来可能进入硬件设备。
Reddit 宣布因 RSS 已成为大规模抓取和自动化滥用的常见渠道,将于 11 月 13 日停止 RSS 支持,并在 2027 年 3 月前关闭公共 API。
ElevenLabs 宣布通过 3 亿美元的 tender offer 让员工按 $22B 估值变现部分已归属股权,估值较 2 月融资时的 $11B 翻倍。交易由 Wellington 和 T. Rowe Price 联合领投,这是成立四年的该公司第二次安排员工股权转让,上一次是 2025 年 9 月按 $6.6B 估值的 1 亿美元 tender。
OpenAI 阻止了一起协同模型蒸馏行动,该行动意在提取其受保护的模型推理。OpenAI 表示正在加强对对抗性蒸馏的防御。
Meta 把 AI 数据中心归类为“pilot models”、把 Nvidia 芯片列为实验材料,借此使用一项联邦研发税收抵免,在 2025 年省下 $3.9 billion。