Hugging Face 推出 Train on DGX Cloud 服务 ↗
Hugging Face 官方宣布推出 Train on DGX Cloud 服务,面向 Enterprise Hub 组织开放,支持在 NVIDIA DGX Cloud 上使用 H100 或 L40S GPU 微调 Llama。
AIHOT 精选行业资讯,关注 AI、产品与技术的新进展。
AIHOT · 精选摘要,保留原始来源 · 2026年11月4日 09:00
Hugging Face 官方宣布推出 Train on DGX Cloud 服务,面向 Enterprise Hub 组织开放,支持在 NVIDIA DGX Cloud 上使用 H100 或 L40S GPU 微调 Llama。
Hugging Face 发布 PyTorch 量化后端 Quanto,支持 int2/int4/int8/float8 权重与 int8/float8 激活,可在 CPU/GPU/MPS 设备运行,兼容 torch.compile,并已集成进 transformers 库,可通过 QuantoConfig 直接调用。
Hugging Face 发布 WebSight 数据集,v0.1 版含 823,000 对合成截图/HTML 对,v0.2 升级为 200 万对、使用真实截图并改用 Tailwind CSS;基于该数据集微调出 Sightseer 模型,可将网页截图转为带匹配图像的 HTML 代码。资源包括数据集、技术报告(arXiv:2403.09029)和 Colab 示例。
Hugging Face 与 Intel 联合发布基于 Optimum Intel 和 IPEX 的 CPU 优化 embedding 模型(如 BGE-small/base/large int8 静态量化版本)。
Hugging Face 联合加州大学洛杉矶分校研究人员发布 ConTextual 数据集,包含 506 条需联合图文线索进行上下文敏感推理的指令,覆盖时间读取。
Hugging Face 与 Argilla 推出基于 Spaces 和 Argilla 集成的协作数据集构建工作流,支持用户通过 Hugging Face 账户秒级参与标注;该流程已用于生成 10k_prompts_ranked 数据集,含 10,000 条带用户评分的 prompt;现开放首批社区共建计划,提供免费存储、增强 CPU Space 及联合推广支持。
Hugging Face 在博客中发布支持 Intel® Gaudi® 2 AI 加速器的文本生成 Pipeline,兼容 Llama-2-7b、13b 和 70b 模型。
BigCode 发布 StarCoder2 系列开源代码大语言模型,含 3B、7B 和 15B 三种尺寸,全部基于新发布的 The Stack v2 数据集训练。
Hugging Face 发布 TTS Arena,一个受 LMSys Chatbot Arena 启发的语音合成模型评测平台,支持用户提交文本、听取两个模型生成的语音并投票选择更自然者,结果以类似 Elo 的算法生成公开排行榜;首发模型包括 ElevenLabs、MetaVoice、OpenVoice、Pheme、WhisperSpeech 和 XTTS。
Mistral AI 发布对话助手 le Chat,支持 Mistral Large、Mistral Small 和原型模型 Mistral Next,提供多语言交互、系统级可调审核机制,并同步推出面向企业的自部署版本 le Chat Enterprise。
Mistral AI 发布旗舰大语言模型 Mistral Large,支持32K上下文窗口、原生多语种(英法西德意)、函数调用与JSON格式输出,已通过la Plateforme和Azure AI Studio开放使用。
Hugging Face 博客系统介绍AI生成内容水印技术,涵盖可见与不可见水印原理,对比生成时嵌入(如IMATAG、Stable Diffusion XL Turbo集成)与生成后添加(如Truepic。
Hugging Face 发布教程,介绍如何在 GPU 和 Cloud TPU 上对 Google DeepMind 开源的 Gemma(2B/7B)模型进行参数高效微调(PEFT)。
Haize Labs 联合 Hugging Face 发布红队抗性基准(Red-Teaming Resistance Benchmark),系统评估前沿大语言模型对高质量人类构造的对抗提示的鲁棒性。
Hugging Face 博客系统介绍了 Matryoshka 嵌入模型,解释其通过在嵌入向量前部集中关键信息以支持任意截断的特性;说明了如何用 Sentence Transformers 框架训练(MatryoshkaLoss)和推理(truncate_dim 参数)。
Google 发布开源大语言模型 Gemma,含 gemma-2b、gemma-2b-it、gemma-7b、gemma-7b-it 四个开放模型变体,上下文窗口为 8K tokens。
Upstage 与 Hugging Face 联合推出 Open Ko-LLM Leaderboard,一个专为韩语大语言模型设计的开放评测平台,包含 Ko-ARC。
Hugging Face 在 PEFT 库中新增支持多种 LoRA 适配器动态合并方法,包括 concat、linear、svd、ties、dare 和 magnitude_prune。
Hugging Face 博客介绍如何用 Mixtral-8x7B-Instruct-v0.1 等开源 LLM 生成合成数据,训练出在投资者情绪识别任务上与 GPT4 性能相当(94% 准确率。
OpenAI 探索大规模视频数据上的生成模型训练,联合训练文本条件扩散模型于可变时长、分辨率和宽高比的视频与图像;采用在视频和图像潜在码时空块上运行的 Transformer 架构;最大模型 Sora 可生成一分钟高保真视频;结果表明扩大视频生成模型是构建物理世界通用模拟器的可行路径。
OpenAI 正在测试 ChatGPT 的记忆功能,使其能记住用户讨论的内容以提升后续对话帮助性,用户可完全控制该记忆。
Hugging Face 在 Text Generation Inference(TGI)1.4.0 版本中推出 Messages API,提供与 OpenAI Chat Completion API 兼容的接口。
SegMoE 是一个从零构建混合专家(MoE)扩散模型的新框架,已深度集成至 Hugging Face 生态并支持 diffusers;本次发布 SegMoE-4x2。
Hugging Face 博客宣布上线 NPHardEval 排行榜,该基准由密歇根大学与罗格斯大学研究人员开发,包含900道覆盖P、NP完全与NP难复杂度类的算法题,每月自动更新;采用加权准确率(WA)与失败率(FR)双指标评估,所有题目均基于可计算问题自动生成与验证,排除数值计算以专注逻辑推理;代码、数据集与排行榜已开源至 GitHub 和 Hugging Face。