Meta 发布 CyberSecEval 2:面向大语言模型的网络安全风险综合评测框架 ↗
Meta 发布 CyberSecEval 2,一个开源的 LLM 网络安全风险评测框架,包含五类测试:不安全编码实践生成、提示注入攻击易感性、协助网络攻击请求的合规性、代码解释器滥用倾向、自动化进攻性网络安全能力。所有代码开源,支持社区运行并提交结果至排行榜。
AIHOT 精选行业资讯,关注 AI、产品与技术的新进展。
AIHOT · 精选摘要,保留原始来源 · 2026年11月4日 09:00
Meta 发布 CyberSecEval 2,一个开源的 LLM 网络安全风险评测框架,包含五类测试:不安全编码实践生成、提示注入攻击易感性、协助网络攻击请求的合规性、代码解释器滥用倾向、自动化进攻性网络安全能力。所有代码开源,支持社区运行并提交结果至排行榜。
Hugging Face 宣布在其 Inference Endpoints 服务中新增对 AWS Inferentia2 实例的支持,覆盖超 10 万公开模型。
Hugging Face Spaces 推出 Dev Mode 功能,支持一键连接 VS Code 或 SSH 直接编辑 Space 代码,无需 git 推送和容器重建;该功能目前处于 beta 阶段,仅对 PRO 订阅用户开放。
Hugging Face 与 Microsoft 在 Microsoft Build 大会宣布深化战略合作,Azure Model Catalog 中的 Hugging Face Collection 新增 Llama 3。
Hugging Face 与戴尔联合发布 Dell Enterprise Hub,提供在戴尔硬件上本地训练和部署开源大语言模型(如 Llama 3、Mixtral、Gemma)的一站式体验。
Hugging Face 宣布与 AMD 合作完成 AMD Instinct MI300 系列 GPU(含 MI300X)在 Hugging Face 平台的全栈集成。
deepseek-chat 模型升级为 DeepSeek-V2-0517,IFEval Prompt-Level 准确率从 63.9% 提升至 77.6%,API 端 system 区域指令跟随能力优化,增强沉浸式翻译和 RAG 体验;JSON 解析率从 78% 提升至 85%,引入正则表达式后达 97%。
Hugging Face 在 🤗 Transformers 中集成 KV Cache 量化功能,支持 int2/int4 等低精度格式,显著降低长上下文生成的内存占用。
Ilya Sutskever 将离开 OpenAI,Jakub Pachocki 被宣布为新任首席科学家。
Hugging Face 与 Technology Innovation Institute 联合发布开源阿拉伯语大语言模型排行榜(OALL),整合 AlGhafa。
Hugging Face 与 LangChain 联合发布 partner package langchain-huggingface,提供 HuggingFacePipeline。
Google 发布 PaliGemma,一个由 SigLIP-So400m 图像编码器与 Gemma-2B 文本解码器组成的开源视觉语言模型家族,已在 Hugging Face Hub 开源。
OpenAI 宣布推出 GPT-4 Omni(GPT-4o),其新旗舰模型可实时跨音频、视觉和文本进行推理。
OpenAI 发布最新旗舰模型 GPT-4o,并将更多功能向 ChatGPT 免费用户开放。
OpenAI 发布 GPT-4o,并在 ChatGPT 中向免费用户开放更多功能。
Hugging Face 官方发布 Transformers Agents 2.0,新增 ReactCodeAgent 和 ReactJsonAgent 两类支持迭代的智能体。
Hugging Face 发布专用于希伯来语大语言模型的开放排行榜,包含希伯来语问答、情感分析、Winograd指代消解和英希互译四项任务,全部采用少样本提示格式;评测基于HeQ、Hebrew Sentiment、希伯来语Winograd翻译版和NeuLabs-TedTalks语料构建,通过Inference Endpoints与lighteval自动执行。
Hugging Face 上线 Artificial Analysis 发布的 LLM 性能排行榜,覆盖超 100 个服务端 LLM API,综合评估质量(MMLU/MT-Bench/HumanEval/Chatbot Arena)。
OpenAI 封禁了与俄罗斯“Doppelganger”行动相关的账号,该行动利用 AI 生成针对乌克兰的多语种社交媒体评论、翻译和网站文案。
Hugging Face 在其 Inference Endpoints 上推出支持 ASR(Whisper)、说话人分离(Pyannote)和推测解码(distil-whisper 助理模型)的模块化自定义推理处理器。
OpenAI 封禁了与中国有关的“Spamouflage”行动关联的账号,该行动利用 AI 研究社交媒体活动、生成帖子并调试一个此前未公开的网站。
Hugging Face Leaderboards and Evals 团队与 Dottxt 合作发现,LLM 评测结果对 prompt 格式极其敏感,微小变化可导致同一模型在 MMLU 上得分波动达 10 分以上。
Hugging Face 发布 StarCoder2-15B-Instruct-v0.1,首个完全自对齐的开源代码大模型,使用 StarCoder2-15B 自生成 50k 指令-响应对进行微调,HumanEval 得分 72.6,超越 CodeLlama-70B-Instruct;全部数据生成与训练流程开源,支持自由商用与再分发。
PyTorch 2.3 正式发布,核心更新包括在 torch.compile 中支持用户自定义 Triton 内核(避免性能下降和图中断),以及在 PyTorch Distributed 中提供原生张量并行(Tensor Parallelism)功能,已验证可用于 100B 参数大语言模型训练。