告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒
告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒LLM发展到今天，下一步该往哪个方向探索？
来自主题: AI资讯
10347 点击 2025-05-28 15:32
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
LLM发展到今天，下一步该往哪个方向探索？
在“华为系”团队操盘下，智元机器人表现出不同于创业公司的风格和打法。不少行业人士对我们形容其“用运营大公司的方式创业”、“从DayOne就开启全要素竞争”。
大模型巨无霸体量，让端侧部署望而却步？华为联手中科大提出CBQ新方案，仅用0.1%的训练数据实现7倍压缩率，保留99%精度。
刚刚，全球规模最大的单细胞基础大模型来了，而且是纯国产！近日，中山大学杨跃东教授团队联合重庆大学、华为、新格元生物科技，研发单细胞基础大模型CellFM，成果发表在Nature Communications上。
在今年 2 月的 DeepSeek 开源周中，大模型推理过程中并行策略和通信效率的深度优化成为重点之一。在今年 2 月的 DeepSeek 开源周中，大模型推理过程中并行策略和通信效率的深度优化成为重点之一。
刚刚，昇腾两大技术创新，突破速度瓶颈重塑AI推理。FusionSpec创新的框架设计配合昇腾强大的计算能力，将投机推理框架耗时降至毫秒级，打破延迟魔咒。OptiQuant支持灵活量化，让推理性价比更高。
要问最近哪个模型最火，混合专家模型（MoE，Mixture of Experts）绝对是榜上提名的那一个。
部署超大规模MoE这件事，国产芯片的推理性能，已经再创新高了—— 不仅是“英伟达含量为0”这么简单，更是性能全面超越英伟达Hopper架构！
自回归（AR）范式凭借将语言转化为离散 token 的核心技术，在大语言模型领域大获成功 —— 从 GPT-3 到 GPT-4o，「next-token prediction」以简单粗暴的因果建模横扫语言领域。
昨晚，美商务部正式废止《AI扩散规则》，同时加码全球半导体出口管制，精准打击中国AI发展。发布指导意见，在世界任何地方使用华为AI芯片，都违反美国出口管制。 警告公众当美国AI芯片被用于训练/推理中国AI模型时的潜在后果。向美国公司发布关于如何保护供应链免受转移策略影响的指导意见。