Hugging Face 发布面向 AMD MI300X 的开源定制 kernel ↗
Hugging Face 与 AMD 合作发布专为 MI300X GPU 优化的开源 kernel,包括融合残差连接/RMS norm/FP8 转换、融合 SwiGLU 激活/FP8 转换。
AIHOT 精选行业资讯,关注 AI、产品与技术的新进展。
AIHOT · 精选摘要,保留原始来源 · 2026年11月4日 09:00
Hugging Face 与 AMD 合作发布专为 MI300X GPU 优化的开源 kernel,包括融合残差连接/RMS norm/FP8 转换、融合 SwiGLU 激活/FP8 转换。
Hugging Face 官方博客宣布 Gradio 自 5.28.0 版本起支持 Model Context Protocol(MCP)协议,使基于 Gradio 构建的 Hugging Face Spaces 可作为 MCP 服务器被 LLM 客户端(如 Cursor。
Pollen Robotics 与 Hugging Face 联合发布开源机器人 Reachy Mini,提供 Lite 和 Compute 两个版本,售价分别为 399 美元和 499 美元,支持 Python 编程、仿真开发及 Hugging Face 模型集成,当前处于早期开发阶段。
Hugging Face 团队基于 nanoVLM 项目发现传统多模态训练中数据管道存在严重 GPU 空转与 padding 浪费问题,提出五阶段渐进式优化方案。
Hugging Face 发布开源 SmolLM3-3B 模型,支持 128k 上下文、6 种语言、双模式推理(/think 和 /no_think),在 3B 规模上超越 Llama-3.2-3B 和 Qwen2.5-3B。
Hugging Face 官方博客详细介绍了如何使用 Sentence Transformers 库训练和微调稀疏嵌入模型(如 SPLADE 和 CSR 架构)。
Sakana AI 发布 AB-MCTS(Adaptive Branching Monte Carlo Tree Search)及 Multi-LLM AB-MCTS 推理时扩展算法。
NVIDIA 发布 8B 视觉语言模型 Llama Nemotron Nano VL,专为智能文档处理设计,支持高精度文本识别、表格与图表解析、元素定位(bounding box)及多格式输出(HTML/LaTeX/markdown)。
Google 发布 Gemma 3n,一款原生支持图像、文本、音频和视频输入的多模态模型,现已在 Hugging Face 开源。发布两个尺寸:gemma-3n-E2B(实际5B参数,仅需2GB GPU内存)和 gemma-3n-E4B(实际8B参数,仅需3GB GPU内存),均含 base 和 instruct 版本。
SGLang 新增对 Hugging Face transformers 库的后端支持,允许直接运行任意 transformers 兼容模型(如 meta-llama/Llama-3.2-1B-Instruct 或 kyutai/helium-1-preview-2b)。
Hugging Face 官方博客发布教程,演示使用 diffusers 库和 QLoRA 技术在单张 NVIDIA RTX 4090(24GB VRAM)上微调 black-forest-labs/FLUX.1-dev 模型。
Hugging Face 官方宣布 Groq 正式成为其 Hub 平台支持的推理服务提供商,支持 Llama 4、QWQ-32B 等开源模型;Groq 基于 LPU™ 提供低延迟高吞吐推理,可通过自定义 API Key 或 Hugging Face 账户路由调用;计费按实际 provider 或 HF 账户结算,PRO 用户每月获 $2 推理额度。
TNG 在 24 张 H100 GPU 上自托管多个大语言模型,日均处理超 1 亿输入 token;文中指出 vLLM 默认的 chunked-prefill 策略下。
Mistral AI 宣布推出 Mistral Compute,一项面向主权国家、企业和研究机构的私有 AI 基础设施服务,提供从裸金属服务器到全托管 PaaS 的 GPU、编排、API 及配套工具,首批支持数万张 NVIDIA GPU,强调数据主权、可持续性与欧洲合规,并已获 Black Forest Labs、BNP Paribas 等多家机构作为首发合作伙伴。
Mistral AI 发布首个推理模型 Magistral,含开源版 Magistral Small(24B 参数)和企业版 Magistral Medium。
Figure 官方宣布 Helix 物流智能体在三个月内实现显著升级,现可稳定操作变形聚乙烯袋、扁平信封等非刚性包裹,平均单包处理时间降至 4.05 秒,条码朝向成功率提升至约 95%;改进包括视觉记忆模块、状态历史输入和力反馈集成,并基于 60 小时演示数据训练。
Mistral 发布 Mistral Code,一款面向企业的 AI 编码助手,集成 Codestral、Codestral Embed、Devstral 和 Mistral Medium 四模型,支持 JetBrains IDEs 和 VSCode 的私有 beta,提供本地/云/空气隔离部署、细粒度 RBAC、审计日志及私有仓库微调能力。
OpenAI 封禁了与可能由伊朗支持的 STORM-2035 行动相关的账号,该行动利用 AI 生成涉及美国、英国、爱尔兰和委内瑞拉政治的影响内容。
Sakana AI 与不列颠哥伦比亚大学 Jeff Clune 实验室合作提出 Darwin Gödel Machine(DGM),一种能通过重写自身 Python 代码持续提升编程能力的自我改进智能体。
Mistral AI 发布 Codestral Embed,首个专用于代码的嵌入模型,支持不同维度(如 256)和精度(如 int8),在 SWE-Bench lite。
DeepSeek-R1 升级为 DeepSeek-R1-0528,推理能力增强,在 AIME 2025、GPQA、LCB_v6、Aider 等基准上 Pass@1 分数显著提升;Web 前端开发能力优化,生成网页与游戏更美观;幻觉大幅降低;支持 JSON Output 与 Function Calling,Tau-bench 得分为 Airline 53.5 / Retail 63.9。
Mistral 发布 Agents API,提供代码执行、图像生成(基于 FLUX1.1 [pro] Ultra)、文档库(支持 RAG)、网络搜索等内置连接器,支持 MCP 工具集成、状态化对话与多智能体协同编排。
OpenAI 推出 Stargate UAE,是其 AI 基础设施平台 Stargate 的首个国际部署版本。
Mistral AI 与 All Hands AI 合作推出 Devstral,一款面向软件工程任务的智能体大语言模型,在 SWE-Bench Verified 基准上取得 46.8% 分数。