Andrej Karpathy 表示,语言模型能力提升后,人的工作将更多转向监督和理解输出;他建议用 ASD-STE100 受控语言解释问题,必要时只要求 80% 贴合度,并生成图表、交互网页和定制讲解视频。
Andrej Karpathy 在 X 发文提出,随着语言模型能力增强,人的工作重心将更多转向监督和理解模型输出,模型也可按要求生成用于解释结果的定制内容。他建议让模型采用 ASD-STE100 受控语言说明问题;这套规范原本用于航空航天维护文档,要求较严格,因此他有时只要求输出达到 80% 的贴合度。他还建议生成图表和交互网页,并最看好可针对任意主题定制的讲解视频;据其说明,这种方式已经开始见效。他认为,当智能和代码供给增加后,网页应用、讲解视频等体量较大的一次性定制产物也可交由模型生成,而这类内容过去通常不值得专门制作。
Anthropic 开发者账号 ClaudeDevs 宣布 You should Know 进入 Claude Code。该插件通过 sideagent 检查 Claude 输出,提示用户可能遗漏的重要信息,并可用指定命令启用。
Claude Code 已新增 You should Know 插件,消息由 Anthropic 开发者账号 ClaudeDevs 发布。官方表示,该插件会扫描 Claude 生成的输出,从中找出用户可能忽略、但有助于掌握当前进展的重要信息。它以 mod 形式实现,运行时会派生一个 sideagent,由该 sideagent 负责观察 Claude 的输出。用户可在 Claude Code 中运行 /plugin enable cc-plugin-you-should-know@builtin 启用该插件。
Cua 发布面向 AI agent 的桌面应用 Cua Spaces,并于发布当日登陆 macOS。该应用可从官网免费下载且源码可用,用于创建可由 agent 直接操作的沙箱虚拟电脑。
Cua 在 X 上宣布推出桌面应用 Cua Spaces,该产品在公告当天登陆 macOS,可从 Cua 官网免费下载,源码可用。它用于创建和管理 Space;每个 Space 都是运行 cua-spacesd 的沙箱虚拟电脑,AI agent 可直接操作,所需权限已预先授予,工具也已预装。macOS 镜像在本机构建,同时支持运行 Linux 镜像。Teleport 可把本地应用的现有会话转入 Space,让 agent 无需再次登录;系统读取任何内容前都需用户确认,涉及敏感项目时还需 Touch ID,传入数据默认锁在本机 Keyvault 中。用户可限定各 Space 能接收的网站和文件,并删除其他内容。用户与 agent 共用同一桌面,但分别拥有独立光标,用户可随时接管或交回控制权。Space 可运行在本机 Mac、自有 Mac mini 或 Linux 机器上,也可连接用户自己的云环境;所有 Space 可统一列出,并通过实时桌面流查看。
剑桥大学 AI 科学与政策项目 CASP 发布研究,认为自动化 AI 研发可能将数年进展压缩为数月或更短,并呼吁政策制定者尽快了解进展、制定引导与约束方法。
剑桥大学 AI 科学与政策项目 CASP 发布研究文章,评估自动化 AI 研发触发智能爆炸的证据、潜在影响与政策应对,署名作者包括 Geoffrey Hinton、Yoshua Bengio 和 Dawn Song。文章称,与一年前相比,AI 系统目前已经编写开发这些系统的公司内部的大部分代码,并正朝着在几年内自动化大部分、甚至全部 AI 研发工作的方向发展。据其说明,研发流程进一步自动化后,数年进展可能被压缩至数月或更短,现有初步证据表明这种情况可能发生。
作者表示,这一判断仍存在很大不确定性;如果智能爆炸发生,AI 带来的益处可能更早出现,但也可能产生三类极端风险:能力增长超过社会的应对速度、人类失去对超人 AI 系统的控制,以及国家、公司、政府部门内部和彼此之间的权力制衡受到严重侵蚀。研究建议政策制定者尽快掌握 AI 研发自动化的更多情况,开发引导和约束智能爆炸的方法,并为社会适应其影响做准备。Geoffrey Hinton 另行发帖称,递归自我改进导致智能爆炸的设想过去并不迫近,但许多领先研究者现在认为它可能很快发生。
AWS CEO 发文呼吁美国公共与私营部门共同推进 AI 数据中心建设,并称全美正考虑超过 100 项数据中心暂停措施。文章同时列出用水和电价数据,回应基础设施扩张争议。
AWS CEO 在这篇文章中呼吁美国公共部门与私营企业共同推进 AI 数据中心建设,并将其视为关系经济和国家安全的长期基础设施任务。文章称,本轮建设由私营行业出资,不使用纳税人资金;各国都在争夺 AI 领先地位,放缓建设可能使美国落后。其还表示,全美目前有超过 100 项数据中心暂停措施正在审议,并提到有广泛报道称,一些国家正故意在美国散布相关错误信息,以推动建设减速。
Anthropic 计划到 2027 年底通过新设的 Claude Frontier Academy 培养 10,000 名 Frontier Deployed Engineers(FDEs),并为该项目承诺投入 1 亿美元。首批学员来自 Accenture、Bain、Capgemini、Commonwealth Bank of Australia、Deloitte、McKinsey、Morgan Stanley 和 Novo Nordisk 等机构,相关 cohort 正在 San Francisco、New York 和 London 进行。Academy 的首个项目是 Frontier Deployed Engineer Residency,旨在让软件工程师在企业内主导真实的 Claude 项目。官方预计,首批学员将于 2027 年初获得 Claude Frontier Deployed Engineer badge。
参与者由所在机构提名,需具备扎实的软件工程基础、使用 LLM 进行开发的记录及推动他人采用 AI 的经验,并在返回机构后负责一项预先确定的 Claude 项目;构建 AI agents 的经验不是必要条件。培训从多日线下课程开始,参与者在 Anthropic 工程师和持证讲师带领下完成模拟企业部署,并接受实操考核。通过者获得 Claude Resident Engineer badge,随后进入 12 周 residency,在本机构推进真实 use case,并于期末再次接受考核。参与资格可向 Anthropic account team 或 Partner Account Manager 查询。该项目建立在 Claude Partner Network 之上;该网络覆盖 46,000 家公司,相关专业人士已获得超过 175,000 项 Claude certifications,近 4,000 人完成 Basecamp。
苹果宣布将收紧 macOS 的 Full Disk Access 授权,要求用户通过更明确的操作确认,以降低应用读取文件、邮件、消息和浏览历史等系统数据的风险,并应对 AI Agent 自主性提升带来的隐私问题。
苹果将为 macOS 的 Full Disk Access 增加授权控制,未来用户只有通过非常明确的操作,才能向应用授予这一访问级别。官方表示,Full Disk Access 为保证 Mac 备份应用正常工作,会绕过多项用于保护私人数据的控制;部分开发者对其使用方式可能让应用在用户未充分知情和理解的情况下接触系统内的文件、邮件、消息及浏览历史。对于通信应用,这类权限还可能影响用户通信对象的隐私。据其说明,随着 AI Agent 的能力和自主性提高,这一级别访问所伴随的风险也会增加,因此新控制旨在让用户在授权前理解相关风险,并据此决定如何处理自身数据与隐私。