不用反向传播,也能预训练Transformer,Jeff Dean投的这家公司出成果了
不用反向传播,也能预训练Transformer,Jeff Dean投的这家公司出成果了训练大模型,能不能不用反向传播?
搜索
训练大模型,能不能不用反向传播?
多轮对话、多智能体交互过程,大模型生存性威胁会被放大。
JEPA 能不能真正理解观测背后的生成机制?
这篇文章彻底颠覆了人工智能领域的认知,引发了广泛的猜测,Sam Altman 还公开表达了赞赏。
在电子产品装配线上,将连接器插到主板上,看似简单,却要求在有限的生产节拍内准确、稳定地完成。面对零点几毫米的接口间隙,细微偏差就可能让连接器卡住,造成装配失败或零件损伤。
当任务的终点是决策,模型是否应该从决策本身出发?
近日,厘清智能创始人、清华大学人工智能学院李一鸣教授团队发布了两项 Physical AI 研究成果:世界动作模型 PrismWAM,以及面向机器人执行诊断与持续改进的 Agentic 框架 RoboDoctor。
世界模型希望让机器理解环境如何变化,并预测干预后的结果,支持智能体学习、仿真与内容创作。这要求视频模型在场景变化时仍保持物理关系的一致性。光照是其中关键的一环:当光源移动,人物、物体与阴影应协同响应。可控重光照由此成为探索视频模型物理表达能力的切入点。
拿到一张没有标签的表格,能不能直接找出其中的群体,还知道模型对 “分几组” 有多大把握?TabClustPFN 尝试用预训练后的单次前向推断,缩短从数据到分组结果的距离。
机器人领域已经轰轰烈烈地 Scaling 了好几年。