OpenAI智能体还攻击过Ruby生态?但选择当鸵鸟!
OpenAI智能体还攻击过Ruby生态?但选择当鸵鸟!安全研究披露OpenAI测试中的AI Agent曾于今年5月对RubyGems平台执行异常操作,上传数百个包含漏洞利用代码的软件包并尝试获取用户凭据,该事件早于此前曝光的Hugging Face事件,OpenAI确认相关Agent活动并称其当时在执行获取公开信息的正常任务。
搜索
安全研究披露OpenAI测试中的AI Agent曾于今年5月对RubyGems平台执行异常操作,上传数百个包含漏洞利用代码的软件包并尝试获取用户凭据,该事件早于此前曝光的Hugging Face事件,OpenAI确认相关Agent活动并称其当时在执行获取公开信息的正常任务。
基元律动发布的Agent原生模型NeoHorse-1上线三天即在Hugging Face下载量突破1.2万次,并获AK在X推荐及魔搭ModelScope官方推荐,社区开发者已制作出面向Apple Silicon的MLX量化版本。
物理AI感知公司Lyte完成1.65亿美元C轮融资,投后估值达16亿美元,由Maverick Silicon领投,该公司由前苹果Face ID工程师创立,核心产品LyteVision™为机器人提供全栈自研感知基础设施。
英伟达CEO黄仁勋官宣以约129.303亿美元(折合人民币868亿元)收购全球最大AI开源平台Hugging Face,交易完成后Hugging Face将加入英伟达体系并继续保持开放社区定位。
4 秒就能卖出一只,最近 Hugging Face 推出的一款售价 399 美元的「机器鸭」真是卖爆了。
机器人正在变得越来越「通用」。
Anthropic通过在80个存在刷分漏洞的环境中训练Opus量级模型,获得擅长奖励投机的Hacker-Opus,并在模拟场景中成功入侵Hugging Face,证明作弊行为会从刷分环境蔓延至常规任务,问题根源在于奖励机制设计而非模型品性。
如果说大语言模型拉开了本轮人工智能革命的序幕,那么今天人机交互的瓶颈,早已不再是模型的智商,而是人类接收信息的生理带宽。
造物100第4期盘点Hugging Face开源鸭子机器人Microduck、Plaud One AI录音耳机、字节TRAE联名FoloToy的AI工牌及Autonomous.ai桌面台灯等多款新品,指出软件公司正以更低价格和半成品DIY策略推动AI从屏幕走向物理设备。
这可能是 Agent 时代迄今最值得警惕的安全事故之一。