Hugging Face 发布统一工具调用 API ↗
Hugging Face 在 Transformers 库中推出跨模型族的统一工具调用 API,支持 Mistral、Cohere、NousResearch 和 Llama 等模型。
AIHOT 精选行业资讯,关注 AI、产品与技术的新进展。
AIHOT · 精选摘要,保留原始来源 · 2026年11月4日 09:00
Hugging Face 在 Transformers 库中推出跨模型族的统一工具调用 API,支持 Mistral、Cohere、NousResearch 和 Llama 等模型。
Hugging Face 宣布收购 Seattle 创业公司 XetHub,该公司由前 Apple ML 基础设施团队成员创立,专注为 AI 开发提供可扩展的 Git 式数据与模型协作方案。
Mistral AI 宣布在 La Plateforme 上开放 Mistral Large 2 和 Codestral 等旗舰及专业模型的定制能力,支持基础提示词。
OpenAI 推出 API 结构化输出功能,模型输出现在可严格遵循开发者提供的 JSON Schema。
Hugging Face 官方博客发布截至 2024 年 8 月 6 日的 Hub 安全功能概览,涵盖面向所有用户的细粒度 Token、双因素认证(2FA)、提交签名(GPG)。
Hugging Face 与 Albumentations AI 合作推出 TextImage Augmentation,一种针对文档图像的多模态数据增强技术,支持在保留文本语义前提下对图像中的文本行进行随机插入、删除、交换及停用词替换,并同步修改对应图像区域;提供完整安装命令、IDL/PDFA 数据集适配说明、可视化示例及合成数据生成用法。
DeepSeek API 上线硬盘缓存技术,价格降低一个数量级。详情见官方文档。
Google 发布 Gemma 2 2B(2.6B 参数轻量版,支持端侧部署)、ShieldGemma(基于 Gemma 2 的开源安全分类器系列,含 2B/9B/27B 三版本,用于输入输出内容审核)和 Gemma Scope(面向 Gemma 2 2B 与 9B 的开源稀疏自动编码器套件,用于模型可解释性分析)。
Hugging Face 博客介绍如何使用 Quanto 工具对 Diffusers 库中的 Transformer 架构扩散模型(如 PixArt-Sigma。
Hugging Face 官方宣布面向 Enterprise Hub 组织推出 NVIDIA NIM API(Serverless)推理服务,支持 Llama 3 和 Mixtral 等开源大模型,基于 NVIDIA DGX Cloud 和 H100 GPU,采用 OpenAI 兼容 API,按请求耗时计费;服务已于 2025 年 4 月 10 日停用。
PyTorch 2.4 正式发布,主要更新包括:torch.compile 支持 Python 3.12;AOTInductor 新增 freezing 功能以支持 MKLDNN 权重序列化并提升 CPU 性能。
Mistral AI 发布 Mistral Large 2(版本号 24.07,API 名 mistral-large-2407),具备 128k 上下文窗口。
Meta 发布 Llama 3.1 系列模型,含 8B、70B 和 405B 三种参数规模,均提供 base 和 instruct-tuned 版本,支持 128K token 上下文。
Hugging Face 在博客中发布基于 WWDC'24 新 Core ML 特性(Swift Tensor、Stateful Buffers、4-bit 块量化等)将 Mistral-7B-Instruct-v0.3 转换为可在 Mac 上运行的 Core ML 模型的完整方案。
Mistral AI 与 NVIDIA 合作发布 Mistral NeMo 12B 模型,支持 128k tokens 上下文窗口,采用 FP8 量化无损推理。
Hugging Face 在 Text Generation Inference(TGI)v2.1.1 中推出 Multi-LoRA 服务功能,支持单次部署一个基础模型(如 mistralai/Mistral-7B-v0.1)。
Hugging Face 发布 Docmatix 数据集,包含 2.4 百万张图像和 950 万组问答对,源自 130 万份 PDF 文档,规模是此前 DocVQA 数据集的 240 倍;使用 Phi-3-small 生成问答对并过滤 15% 幻觉样本;在 Florence-2 上微调后 DocVQA 性能提升 20%。
Mistral AI 发布 Codestral Mamba 模型,基于 Mamba 架构,参数量为 7285403648,支持最高 256k tokens 的上下文检索,专为代码与推理任务优化,可在 la Plateforme(codestral-mamba-2407)试用,原始权重已开源至 HuggingFace,采用 Apache 2.0 许可证。
Mistral AI 发布数学专用大语言模型 Mathstral 7B,基于 Mistral 7B 构建,在 MATH 基准达 56.6%,MMLU 达 63.47%。
Hugging Face 官方博客发布教程,演示如何利用 distilabel 生成合成数据、微调 BGE 基座嵌入模型(plaguss/bge-base-argilla-sdk-matryoshka)。
Hugging Face 发布 SmolLM 系列小语言模型,包含 135M、360M 和 1.7B 三种参数量,基于自研高质量数据集 SmolLM-Corpus(含 Cosmopedia v2。
Numina 与 Hugging Face 合作,基于 DeepSeekMath-Base 7B 构建 NuminaMath 7B TIR 模型,在首届 AI 数学奥林匹克(AIMO)进展奖 Kaggle 竞赛中以 29/50 成绩夺冠。
Hugging Face 在 Dataset Hub 实验上线基于开源工具 Presidio 的自动 PII 检测报告功能,用于识别数据集中的电子邮件等敏感个人信息;该功能面向数据集使用者和所有者,辅助判断是否需进一步过滤或验证 PII 清洗效果。
Hugging Face 宣布 TRL 库正式支持视觉语言模型(VLM)的直接偏好优化(DPO),并以 Idefics2-8b 为例,详细演示了使用 openbmb/RLAIF-V-Dataset 数据集进行 DPO 微调的全流程。