搜索
近期，Meta 的 Muse、OpenAI 的 Dot 等产品相继推出，让 Personal Agent（个人智能体）再次成为大模型领域的关注焦点。相比传统的对话助手，这类 Agent 不再局限于回答问题，而是能够结合用户的个人背景、历史记忆与应用上下文，主动执行任务并持续推进长期目标。一个更具主动性、能够长期陪伴用户的 AI 助手，正在逐渐成为现实。
Kimi K3.1 Pro 正式发布，具备3万亿级参数和100万 token 上下文，官方评测显示其在代码、Agent及金融等任务取得多项领先，完整权重将于11月4日前开放。
月之暗面正式推出 Kimi K3.1 Pro，认领匿名模型 Kibitz，以3万亿参数和100万token上下文强化Agent、前端与3D创作，并同步上线高速版，完整权重将于11月4日前发布。
科大讯飞发布端云一体基座模型讯飞星火X2.6和语音基座模型SparkAudio 1.0，星火X2.6基于全国产算力训练，云端293-A30B支持百万token上下文，输入缓存未命中及输出价格低于DeepSeek-V4.1-Flash-1017，端侧X2.6-4B已开源。
DeepSeek 开源的推理框架 DeepInfer 经 PCIe 本机取数改造后，可在无 RDMA 网卡的 4 张 B200 上以 128k 上下文承载 1024 并发，总输出约 6.2 万 token/s。
增强模型的表达能力，可以让Transformer更灵活地读取和整合信息。Attention Residuals（AttnResidual）沿着这个方向，将注意力从token之间的信息交互扩展到网络深度，让每个子层学习选择哪些历史层输出。
可能是最擅长「开会」的 AI 硬件。
AI真正的瓶颈，是个人上下文。
稀疏注意力减少了主注意力的计算量，但负责筛选 token 的索引器仍可能成为长上下文推理的瓶颈。小红书 Dots 团队自研的 DoSA 利用分数上下界，在保持原始 Top-K 选择结果的前提下加速索引器，并在测试中提前过滤了约 97% 的候选。
Agent在真实任务中出错，工程师的第一反应往往是给Harness“打补丁”：加一条防错提示词、接入一个新工具、挂一套Skills，或者增加历史摘要和执行检查。这套负责协调模型调用、工具执行与上下文管理的外层系统，就是Agent Harness。