GPT-4 API 正式开放通用访问,Completions API 旧模型将于 2024 年初停用 ↗
GPT-4 API 进入通用可用阶段;GPT-3.5 Turbo、DALL·E 和 Whisper API 同样开放通用访问;Completions API 的旧模型将于 2024 年初停用。
AIHOT 精选行业资讯,关注 AI、产品与技术的新进展。
AIHOT · 精选摘要,保留原始来源 · 2026年11月4日 09:00
GPT-4 API 进入通用可用阶段;GPT-3.5 Turbo、DALL·E 和 Whisper API 同样开放通用访问;Completions API 的旧模型将于 2024 年初停用。
OpenAI 发布 ChatGPT 和 Whisper API。
Hugging Face 推出 Open CoT Leaderboard,通过计算链式推理前后的准确率差值(Δ = accuracy with CoT – accuracy w/o CoT)评估大语言模型生成有效推理链的能力;覆盖 LogiQA、LSAT 等多项选择类推理任务,采用 Classic 和 Reflect 两种提示策略及六种解码配置,当前已评测 30 个开源模型。
Hugging Face 发布 Jack of All Trades(JAT),一个基于 Transformer 的通用智能体模型,支持视频游戏、机器人控制、导航指令理解等序列决策任务。
Hugging Face 发布开放医疗大语言模型排行榜,基于MedQA、MedMCQA、PubMedQA及MMLU医学子集(临床知识、解剖学、专业医学等)进行准确率评估。
Meta 发布 Llama 3 开源大语言模型,包含 8B 和 70B 两种参数规模,各分 base 和 instruct-tuned 版本,共 4 个主模型;另发布基于 Llama 3 8B 微调的安全模型 Llama Guard 2。
Mistral 发布 Mixtral 8x22B 开源大语言模型,采用稀疏 MoE 架构,激活参数 39B(总参数 141B),支持 64K tokens 上下文窗口。
Zama 团队在 Hugging Face Endpoints 上推出支持全同态加密(FHE)的隐私保护推理服务,用户可通过一键部署预编译模型(如 concrete-ml-encrypted-decisiontree)并调用加密推理接口。
Gradio 推出 reload 模式,允许开发者在不重启服务器的情况下实时加载代码变更;该模式通过自研重载逻辑实现更快响应和选择性重载(如跳过模型加载),文中以基于 Hugging Face Inference API 的文档问答应用为例,完整演示了从 UI 调整到逻辑集成的开发过程。
Hugging Face 博客介绍基于 LiveCodeBench 的新编程大模型评测排行榜,该基准由加州大学伯克利分校、MIT 和康奈尔大学研究人员开发,从 LeetCode、AtCoder 和 CodeForces 等平台按时间收集题目,支持代码生成、自修复、代码执行和测试输出预测四类场景,均采用 Pass@1 指标,并通过题目发布日期实现防污染的时序评测。
Hugging Face 发布 Idefics2,一个参数量为 8B、采用 Apache-2.0 许可的开源多模态视觉语言模型,支持任意图文交错输入与文本生成,具备增强的 OCR 能力和原生分辨率图像处理能力;它在 MMMU 等基准上表现优于同尺寸模型,并集成于 🤗 Transformers;配套开源指令微调数据集 The Cauldron 和完整训练数据清单。
OpenAI 宣布在亚洲设立首个办公室,并发布针对日语优化的 GPT-4 定制模型。
Hugging Face 推出 Deploy on Google Cloud 新集成,支持在 Vertex AI 或 GKE 上一键部署 Hugging Face Hub 上带 "text-generation-inference" 标签的开源基础模型(如 Zephyr Gemma)。
Google 推出 CodeGemma 系列开源代码大语言模型,包含 2B 基础版(专注代码补全)、7B 基础版(代码+自然语言混合训练)和 7B 指令微调版(支持代码对话),均基于 Gemma 预训练检查点并额外训练 500B tokens,上下文窗口为 8K。
Hugging Face 宣布与云安全公司 Wiz 合作,集成其 Vulnerability Management 和 CSPM 能力以强化平台安全;Wiz 研究团队发现其沙箱计算环境存在 pickle 任意代码执行风险,相关问题已全部修复;Hugging Face 同时推广 Safetensors 作为 pickle 的安全替代方案,并持续推动开源 AI 社区安全实践。
MotherDuck 与 Numbers Station 推出 DuckDB-NSQL-7B 模型,基于 Llama-2-7b 微调,专用于 DuckDB 的 text-to-SQL 任务。
Hugging Face 在博客中介绍如何使用 🤗 Optimum Intel 对 SetFit 模型进行后训练静态量化(INT8),在 Intel Xeon CPU 上实现最高 7.8 倍推理吞吐提升。
Hugging Face 宣布推出 Deploy on Cloudflare Workers AI 集成,支持在 Cloudflare 边缘数据中心以 serverless 方式调用 Llama 2 7B。
Pollen Robotics 团队发布开源库 pollen-vision,提供 OWL-VIT、Mobile SAM 和 RAM 等零样本视觉模型的统一接口,支持基于 RGB 图像和文本输入的 3D 物体定位(x, y, z 坐标),适用于 Reachy 人形机器人抓取未知物体任务;库可在消费级 GPU(如 RTX 3070)上实时运行,已开源至 GitHub。
Hugging Face 博客介绍了嵌入向量的二值化(binary)和 int8 标量量化方法,通过在 4100 万维基文本上的真实检索场景演示,量化可实现最高 45 倍检索加速。
Lighthouz AI与Hugging Face联合推出Chatbot Guardrails Arena,一个面向AI聊天机器人隐私防护能力的压力测试平台;用户可与两个匿名。
Hugging Face 博客演示如何利用 Optimum Intel 和 Intel OpenVINO 对 Microsoft Phi-2 模型进行 4-bit 权重量化。
GaLore 是一种面向大语言模型训练的内存优化技术,通过梯度低秩投影显著降低优化器状态内存占用(训练中优化器状态内存减少超 82.5%),支持在 NVIDIA RTX 4090 等消费级 GPU 上训练 Llama 架构的 7B 参数模型。
Hugging Face 发布 Cosmopedia,一个面向 LLM 预训练的开源合成数据集,含超3000万文件、250亿 tokens,由 Mixtral-8x7B-Instruct-v0.1 生成。