实践技巧 · Hugging Face Blog
Hugging Face 博客详解 SDXL 推理优化方法 ↗
Hugging Face 博客介绍了针对 Stable Diffusion XL（SDXL）的多项推理优化技术，包括 fp16 量化、PyTorch 2.0 的 SDPA 注意力。
TIAOTECH / NEWS
保持好奇。与变化同行。
AIHOT 精选行业资讯，关注 AI、产品与技术的新进展。
AIHOT · 精选摘要，保留原始来源 · 2026年11月5日 09:00
实践技巧 · Hugging Face Blog
Hugging Face 博客详解 OpenAI 2019 RLHF 代码库的 N 个实现细节 ↗
Hugging Face 团队对 OpenAI 2019 年开源的 RLHF 代码库 openai/lm-human-preferences 进行了完整复现与技术深挖。
实践技巧 · Hugging Face Blog
Hugging Face 推出 Text Embedding Inference 服务以部署开源文本嵌入模型 ↗
Hugging Face 在 Inference Endpoints 上推出 Text Embedding Inference（TEI）服务，支持高效部署开源文本嵌入模型。
AI 产品 · OpenAI News
DALL·E 3 接入 ChatGPT Plus 和企业版 ↗
DALL·E 3 现已在 ChatGPT Plus 和企业版中上线，OpenAI 表示已构建安全缓解栈以支持更广泛发布，并同步更新了溯源研究进展。
实践技巧 · Hugging Face Blog
Hugging Face 发布 Gradio-Lite：纯浏览器内运行的无服务器 Gradio ↗
Hugging Face 发布 Gradio-Lite（@gradio/lite），一个基于 Pyodide 的 JavaScript 库，使 Gradio 应用无需服务器即可在浏览器中直接运行。
科技产品 · PyTorch Releases
PyTorch 2.1 发布：支持自动动态形状编译与分布式检查点 ↗
PyTorch 2.1 正式发布，主要新增特性包括：torch.compile 支持自动动态形状以减少因张量尺寸变化导致的重复编译；torch.distributed.checkpoint 支持多 rank 并行保存/加载及拓扑变更下的 resharding。
实践技巧 · Hugging Face Blog
Hugging Face Diffusers 支持使用 JAX 在 Google Cloud TPU v5e 上加速 Stable Diffusion XL 推理 ↗
Hugging Face 官方宣布 Diffusers 库新增对 JAX + Cloud TPU v5e 的支持，实现 Stable Diffusion XL（SDXL）的高性能低成本推理。
实践技巧 · Hugging Face Blog
Hugging Face 推出 chat_template 机制解决聊天模型输入格式错配问题 ↗
Hugging Face 在 tokenizers 中引入 chat_template 属性，用 Jinja 模板保存模型训练时使用的对话格式，避免因输入格式不匹配导致的静默性能下降；支持通过 tokenizer.apply_chat_template() 直接应用，并提供 ChatML 等三种典型模板示例。
实践技巧 · Hugging Face Blog
Hugging Face 教程：使用 Inference API 部署 AI Comic Factory ↗
Hugging Face 发布教程，指导用户如何 Fork 并配置 AI Comic Factory Space，通过设置 LLM_ENGINE 和 RENDERING_ENGINE 为 INFERENCE_API。
实践技巧 · Hugging Face Blog
Hugging Face 在 TRL 库中集成 DDPO 算法以强化扩散模型对齐 ↗
Hugging Face 博客介绍如何通过新集成的 DDPOTrainer 使用 Denoising Diffusion Policy Optimization（DDPO）方法对 Stable Diffusion 模型进行强化学习微调。
实践技巧 · Hugging Face Blog
Hugging Face 发布非工程师版 LLaMA 2 聊天机器人搭建教程 ↗
Hugging Face 发布面向非工程师的教程，演示如何通过 Spaces、AutoTrain 和 ChatUI 三步无代码构建基于 LLaMA 2 7b 的聊天应用。
AI 模型 · Mistral AI
Mistral AI 发布 Mistral 7B 开源大语言模型 ↗
Mistral AI 官方宣布发布其首个开源大语言模型 Mistral 7B，该模型在所有标准英文和代码基准上均超越当前可用的最高至 13B 参数的开源模型；采用 Apache 2.0 许可，支持无限制使用；模型基于自研 MLops 栈与数据处理流程开发，适用于摘要、结构化、问答等任务，推理速度快、成本低。
AI 模型 · Mistral AI
Mistral AI 发布 Mistral 7B 大语言模型 ↗
Mistral AI 发布 Mistral 7B（7.3B 参数）大语言模型，采用 Grouped-query attention 和 Sliding Window Attention。
研究论文 · Hugging Face Blog
Hugging Face 发布 Llama 2 在 Amazon SageMaker 上的部署基准评测 ↗
Hugging Face 针对 Llama 2（7B/13B/70B）在 Amazon SageMaker 上的部署，测试了60种配置（含不同实例类型、并发请求数与GPTQ量化），测量延迟（ms/token）和吞吐（tokens/sec），并按成本效益、最高吞吐、最低延迟三类场景给出具体推荐；所有代码、原始数据和表格均开源。
AI 产品 · OpenAI News
ChatGPT 新增多模态能力：支持看、听、说 ↗
ChatGPT 新增多模态能力，支持视觉输入（看）、语音输入（听）和语音输出（说）。
AI 产品 · Hugging Face Blog
Hugging Face 推出 PRO 用户专属推理 API 服务 ↗
Hugging Face 宣布为 PRO 用户推出 Inference for PROs 服务，提供对 Llama 3、Mixtral、Code Llama、Stable Diffusion XL 等精选模型的专属 HTTP API 端点及更高调用频率限制。
实践技巧 · Hugging Face Blog
Hugging Face 博客详解大语言模型生产部署的三大优化技术 ↗
Hugging Face 官方博客《Optimizing your LLM in production》系统讲解了提升大语言模型推理效率与内存效率的三种关键技术。
AI 模型 · Hugging Face Blog
Hugging Face 发布 Würstchen：支持 1024×1024 至 1536×1536 分辨率的高效扩散图像生成模型 ↗
Hugging Face 发布 Würstchen 扩散图像生成模型，采用两阶段压缩（Stage A+B 为 Decoder，Stage C 为 Prior）。
实践技巧 · Hugging Face Blog
Hugging Face 博客详解如何用 PyTorch FSDP 微调 Llama 2 70B ↗
Hugging Face 博客介绍了在双节点共 16 块 A100 80GB GPU 上使用 PyTorch FSDP 微调 Llama 2 70B 的完整实践。
实践技巧 · Hugging Face Blog
Hugging Face 官方详解 Transformers 原生支持的量化方案 ↗
Hugging Face 博客系统梳理了 🤗 Transformers 中原生支持的 bitsandbytes 和 auto-gptq 两种量化方案，涵盖适用场景。
AI 产品 · Hugging Face Blog
Hugging Face 发布企业级开源代码助手 SafeCoder ↗
Hugging Face 发布 SafeCoder，一个基于开源 StarCoder 模型（15.5B 参数，80+ 编程语言，8192-token 上下文窗口）的企业级代码助手。
AI 模型 · Hugging Face Blog
Hugging Face 发布 Stable Diffusion XL 的 T2I-Adapter 控制模型 ↗
Hugging Face 博客宣布为 Stable Diffusion XL（SDXL）推出 T2I-Adapter 系列控制模型，支持 sketch、canny。
AI 模型 · Hugging Face Blog
TII 发布 Falcon 180B 大语言模型 ↗
TII 发布 Falcon 180B，参数量 1800 亿，基于 3.5 万亿 tokens 在 RefinedWeb 数据集上单 epoch 预训练，是当时最大开源语言模型。
实践技巧 · Hugging Face Blog
Hugging Face 博客详解 AudioLDM 2 推理加速：四步将生成耗时从 14 秒降至 1 秒 ↗
Hugging Face 博客介绍如何通过 Flash Attention、float16 半精度、torch.compile 和 DPMSolverMultistepScheduler 四种优化手段，将 AudioLDM 2 文本生成音频（10.24 秒）的推理时间从约 14 秒降至不到 1 秒，同时保持音质；还演示了 CPU offload 等内存优化技巧以支持长音频生成。