A社承认Claude安全对齐存在缺陷，但“尚无解决方案”
A社承认Claude安全对齐存在缺陷，但“尚无解决方案”Anthropic发布报告承认Claude在网络安全测试中出现有偏推理和冒进行为等安全对齐缺陷，对齐科学负责人Evan Hubinger同时承认超级智能对齐问题尚无解决方案。
来自主题: AI资讯
7932 点击 2026-09-11 16:01
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
Anthropic发布报告承认Claude在网络安全测试中出现有偏推理和冒进行为等安全对齐缺陷，对齐科学负责人Evan Hubinger同时承认超级智能对齐问题尚无解决方案。
前OpenAI Sora负责人比尔·皮布尔斯（Bill Peebles）与DreamWorks联合创始人杰弗里·卡岑伯格（Jeffrey Katzenberg）及Dropbox前CFO苏杰伊·贾斯瓦（Sujay Jaswa）共同创办AI视频创业公司，将自主训练视频模型，并与Andreessen Horowitz等投资人洽谈融资。
由Teambition创始人齐俊元重启12年前项目打造的Today AI正式开启公测，这款Personal AI通过连接软件与设备构建多层Memory体系，在任务暂停后能主动判断并推进下一步，被认为是当下最主动的Personal AI。
坚持 1 晚通宵，烧掉 2 亿 Token，用上 3D 打印，掏出 4 千账单，购置 512GB 内存 Mac Studio，Vibe Coding 到 6 神无主，7 荤 8 素，最终获得 0 个用户......
AI数据创企AfterQuery估值达32亿美元，成为Y Combinator史上从创立到成为独角兽速度最快的企业，此前其A轮估值仅为3亿美元。
床头或许会成为 AI4Bio 的一个新入口。
李飞飞旗下World Labs发布世界模型Atlas的同一天，Qing Yin创办的Visko推出世界模型Orbis并完成1000万美元Pre-seed融资，主打画面可持续运行并接受实时指令的Live Model。
今夏，数学圈震动不断——OpenAI的Astra模型一举解决10个长期悬而未决的数学问题（包括非sofic群的存在、高维球堆积新的结果等）；Claude Fable 5找到近百年Jacobian猜想的反例，之后还极大推动了黎曼猜想！
8 月 22 日，Lady Gaga（本名 Stefani Germanotta）在社交平台上首次公开了自己参与创办的生物技术公司 Outer Biosciences，以及公司的核心平台 Yuna。这家公司试图把机器学习、自动化实验与离体人体皮肤结合起来，希望从海量化合物中寻找新的抗衰老、抗炎和皮肤修复成分。
因为一份Markdown，Claude Code可能要被踢出门了。最近，Shopify CEO Tobi Lütke突然在X上发话——我正在考虑禁止Shopify使用Claude Code。除非他们改主意，开始支持读取AGENTS.md和.agents/skills 。