搜索
功能型SSD在这条数据链中的合理角色，不是自行判断一段经历是否值得记住，而是在Runtime已经给出对象和策略后，靠近数据执行确定性工作。例如按租户选择密钥，按生命周期放置数据，压缩与去重可缩减的对象，维护索引页与元数据，优先完成即将被推理使用的回载，并把尾延迟、写放大和介质健康反馈给上层。语义决策留在Agent和Runtime，数据执行尽量靠近介质。
Microsoft 发布了 一个用于在 Azure Kubernetes 服务 上路由智能体流量的参考架构。它将这个问题分解为三个关键选择：由哪个模型响应调用、如何管理调用，以及由哪个 GPU 副本处理调用。
十年前，这是一家没人看好的公司。从成立第一天起，它就只想做一种从来没有被造出来过的芯片。它试图挑战英伟达的霸主地位，却在成立之初屡屡碰壁，多次濒临倒闭。
在“灵晟”国产超算登顶最新一期全球超级计算机TOP500榜单后，清程极智与“灵晟”联合完成纯CPU MoE模型分布式推理方案：16节点即可流畅运行DeepSeek-V3/R1-671B模型，在batch_size=2048时，输出吞吐量与80张主流GPU集群相当。
7 月中旬的一天，清华科技园的一处办公区， 一台人形机器人站在屋子中央，身后没有风扇轰鸣的 GPU 机柜，不远处是两张落满公式的书写板。
刚刚，SpaceX 宣布正与英伟达达成合作，共同设计 Starmind AI1 卫星计算载荷。每颗 Starmind 卫星都将搭载 NVIDIA Rubin GPU 和 Vera CPU，把接近数据中心级别的算力部署到太空。
AI算力变革，从边缘、物理到云端，安谋全栈IP加速“进化”。
AI行业正上演一场冰火两重天。一边是大模型公司将烧钱推向极致，万亿美元级别的开支砸向算力与研发；另一边，不练模型、不抢GPU，帮AI企业“管钱”的金融基础设施公司营收飙升。当所有人都在追问哪个模型会赢时，真正的赢家或许是这些提供AI基建的公司。
有人总结，运行 Kimi K3 其实很容易，只需要 1.5TB GPU 内存、大约 8 张 H100，以及一座小型变电站。一名开发者拿出一台 128GB 统一内存的 M5 Max，直接加载 Kimi K3 发布在 Hugging Face 上的官方 MXFP4 权重。
这篇文章，我们邀请到了由SGLang孵化的RadixArk的联合创始人和核心成员，以及数据中心专家，一起聊聊AI Infra的四层架构、行业如何把“硅”的潜力榨到极限，以及背后的关键技术。