研究发现AI可篡改人类记忆并植入虚假事件 ↗
麻省理工学院媒体实验室帕蒂·梅斯等研究者通过多组实验发现,AI修改的图像、AI生成的事故摘要及AI辅助对话可显著提升受试者产生错误记忆的概率,且其对虚假记忆的自信程度反而更高;后续实验显示,即使提前告知摘要由AI生成,受试者仍难抵抗误导,人工监督可能失效。
AIHOT 精选行业资讯,关注 AI、产品与技术的新进展。
AIHOT · 精选摘要,保留原始来源 · 2026年11月1日 09:00
麻省理工学院媒体实验室帕蒂·梅斯等研究者通过多组实验发现,AI修改的图像、AI生成的事故摘要及AI辅助对话可显著提升受试者产生错误记忆的概率,且其对虚假记忆的自信程度反而更高;后续实验显示,即使提前告知摘要由AI生成,受试者仍难抵抗误导,人工监督可能失效。
开发者发布开源项目 Trmnl-cards,通过刷入定制固件将 Xteink X4 电子墨水屏设备变为每5分钟轮播一张高价值宝可梦卡牌的微型展示框;支持自托管服务器,使用 TCGdex 卡牌数据与 TCGplayer 市场价格,轮播周期约5天;项目代码托管于 GitHub,含 Python 本地服务脚本和 Cloudflare Worker 部署版本。
女演员吴越被AI伪造形象和声音为“花姐美肤日记”账号推广化妆品,该账号还伪造邓亚萍出镜;山姆会员商店声明称遭数千条AI生成的虚假营销信息攻击,内容编造其从未上架的商品为“下架好物”;涉事商家称推广系达人自主行为,仅杨迪为官方推荐官;律师指出商家未尽审核义务或担连带责任,AI伪造肖像与声音带货已涉嫌侵犯肖像权、声音权乃至诈骗犯罪。
Strot 是一个开源 Python 库,将 LLM 的意图(如工单分类)编译为自包含的本地决策模型,LLM 仅在 compile 阶段调用一次(支持 Anthropic Claude Opus 4.8),运行时零 LLM 调用、零边际成本,在 CPU 上以约 60ms 延迟输出带置信度的类型安全 JSON 决策;默认集成 SupersonicLabs/Julia-1(144M)本地模型,支持切换为 OpenAI 或 Anthropic 等托管服务;项目已开源至 GitHub,许可证为 MIT,核心模型采用 Apache-2.0。
Anthropic 用自研版本控制系统 Scion 替代 Git,将每日代码变更从 2500 项提升至超 3 万项,检出耗时从分钟级降至秒级,基础设施资源占用缩小约 200 倍;哥伦比亚大学与 Google DeepMind 等提出 BTTF,将芯片波形转为 SQLite 数据库供 Agent 查询,在 4.2 GB 波形实验中 SQL 执行准确率达 95.33%;GitHub 用微调 ModernBERT 分类器替代通用 LLM 进行密钥扫描,模型服务成本下降超 98%,Post-push 扫描中位时间下降 86%。
Meta 发布 Muse Wonder 和 Muse Wonder Full,宣称其在 SWE-Marathon(57.5 分)和 DeepSWE 1.1(79.0 分)等 Coding Agent 基准上表现优异;但 BridgeMind 的熔岩灯 3D 编程测试中仅生成红色圆柱体,暴露其在视觉与空间推理尤其是 3D 任务上的已知短板;Meta 官方 Model Card 已承认该缺陷,Alexandr Wang 表示未针对 3D 演示显式训练;文章指出成绩受 Harness 架构、推理预算(如 xhigh 档位)及系统能力影响,高分不单反映模型本身推理能力。
Croft 是一款开源数据管道工具,支持从 API 和文件拉取数据,用 SQL 或 TypeScript 进行转换,并按计划保持数据更新;所有数据存于单个 DuckDB 文件,每张表自动生成类型,Claude Code 可驱动其运行;免费、开源、无需 Python。
AI 实验室 HUMXN 推出免费居家服务项目,为获取管道、电工等技术工人在真实住宅环境中的作业视频数据,用于训练 AI 机器人;项目首批落地明尼阿波利斯、芝加哥和迈阿密三城;IT之家指出该模式区别于 Meta、英伟达、OpenAI 等被指控未经许可抓取数据的做法,属直接付费采购真实场景训练数据。
该论文指出在小型语言模型中,嵌入表占参数和文件体积主导(如 Gemma 3 270M 中嵌入表占 168M/268M 参数且常以 16 位保留),提出用一次性生成的 512 位冻结码表(16 MB,无训练参数)替代可学习嵌入表;在相同数据上从头训练同结构模型,冻结表在 LAMBADA、HellaSwag、PIQA 上持平或优于可学习表,仅 ARC-Easy 落后;搭配三值 BitNet b1.58 后整模为 46 MB,在 LAMBADA 和 PIQA 上持平浮点模型,CPU 推理达 615–740 token/s、内存仅 62 MB,是 llama.cpp 中 8-bit GGUF 浮点模型速度的 5–6 倍、内存的 1/7;冻结表在罕见词上胜出 1.7–2.3 nats,支持训后增 10,000 新词(代价仅 3%,而可学习表崩溃 43%);全部权重、数据与评测结果均已开源。
该论文提出基于PDDL形式语义的测试框架,检验大语言模型智能体的规划能力;任务以自然语言给出,但底层由隐藏PDDL模型判定动作适用性、目标达成与规划存在性;实验覆盖5个领域(含2个新领域)、4个模型、6种提示策略和3种智能体架构,结果显示最佳配置离线解决78%可解任务,但在线仅40%;不可解任务识别率低于10%,更重的提示策略token消耗达直接提示的5–22倍且无明显收益;规划性能差异主要源于模型本身而非提示或架构。
该论文指出,递归自蒸馏(即用模型自身输出持续训练下一代)会导致渐进式对齐退化:即使初始模型安全、提示无害、用户反馈善意,Qwen3和Phi-4在SORRY-Bench与StrongREJECT基准上仍随迭代轮次增加而对多样化有害查询表现出持续加剧的不安全响应;作者还通过梯度法找到若干良性提示即可触发该现象,证明恶意提示非必要条件。
论文提出Structured Authority Injection(SAI)协议,通过类型化、模式校验的Model Context Protocol(MCP)工具调用注入人类指令,并在每轮LLM提示前维护带排序的权威上下文;定义Constraint、Priority、Strategy三类覆盖及其显式优先级顺序,不依赖模型微调或权重访问;在九个LLM和八个故障场景评估中,降低了指令歧义与权威衰减,最强模型提示开销降低最高达38%。
OpenNavo 开发者为 macOS 应用管理工具新增基于 ClamAV 的本地病毒查杀功能,支持快速扫描、全盘扫描与自定义目录扫描,集成至下载监视和 Homebrew 安装流程,并提供隔离区、误报标记、启动项管理及系统防护状态体检;病毒库从 ClamAV 官方服务器获取,默认每 4 小时检查更新;扫描全程在本机运行,不上传文件,内存占用约 1 GB;项目按 GPL-3.0-only 开源,支持 macOS 13+,兼容 Apple 芯片与 Intel。
dbaazz 开发并开源 wxa-runner 工具,支持在普通 Chrome(含无头模式)中直接运行微信小程序,基于官方基础库渲染,行为与真机一致;提供秒级刷新、URL 直达页面、自动化授权跳过等能力,适用于日常调试和 CI 自动化测试,不支持蓝牙等强硬件依赖功能;项目地址 https://github.com/open-wxa/wxa-runner
900.cool 提供免费网页发布服务,支持复制粘贴 HTML、拖拽上传文件夹或 ZIP、自定义访问地址、在线编辑管理;作者实测用于快速分享单页 HTML,无需创建仓库、提交代码或等待构建。
谷歌团队提出并开源Harness²框架,通过任务级递归(Propose–Probe–Compose)与改进级递归(Experience Reflector+Harness Improvement Library)解决RSI在开放世界中因缺乏标准答案和过度拟合导致的失效问题;在WorkBuddy-Bench、JobBench和LAB三个职业基准上,GLM-5和Gemini 3.5 Flash经单步改进后得分显著提升,且经验库支持跨任务迁移;论文已发布于arXiv:2610.14224v1,项目支持OpenCode与Codex。
花旗、美国银行、摩根大通等限制AI Agent访问账户,达美航空禁止Agent订票,电商平台限制Agent购物,主因并非单纯安全顾虑,而是担忧AI Agent自动挪资导致1.6万亿美元无息存款外流、升舱等追加销售失效、广告与交叉销售被绕过;Booking拒绝而Expedia合作,Yelp则要求数据授权,反映平台正从封杀转向争夺AI Agent入口权、数据权与变现权。
SGLang v0.5.22 正式发布,新增支持 Clef / Clef Flash、PPLX-Decider v1/v1.1、EmbeddingGemma 2、HunyuanImage-3.0-Instruct、Kandinsky 6/SR、Wan-Animate-2、SANA-Video 2.0 等 LLM/VLM 和 Diffusion 模型;DeepSeek-V4.1 在 H200 上吞吐提升至 2.3x,支持 AMD MI350X/MI355X;Qwen3.8-Flash-Next 在 B200 上解码提速 12%;新增 InstantTensor 加载器使模型加载提速 10x;全面优化 Speculative Decoding、CUDA Graph、Attention Backends、MoE、Quantization、PD/CP 并行及 HiCache 等核心模块;要求 Python 3.11+,提供 NVIDIA/AMD/Intel 多平台 Docker 镜像。
moonrailgun 发布开源项目 open-doubao-phone,基于 Android 17 和 AOSP 构建,支持通过语音或文本触发 AI 智能体操作手机应用,优先使用无障碍模式,fallback 到视觉大模型;支持自定义模型(需具备视觉识别能力),集成 jev 加速判断,桌面端可下发任务与配置;官网提供真机演示视频,项目托管于 GitHub。
Vonode 推出 ARM 架构支持(实验版),已在树莓派 4B(2GB)+ Debian 13 64 位系统实测通过,Wi-Fi 通话注册、打电话、收发短信功能正常;提供 Docker Compose 一键部署脚本,自动识别 amd64/arm64 架构,并支持 --dry-run 模式;App 1.4.1 已上架,主要修复来电接听和订阅切换节点的稳定性问题。
文章分析手机端侧模型正从3B向30B级MoE架构快速扩张的现象,指出高通联合阶跃星辰、无量火和江波龙在第六代骁龙8超级至尊版平台完成30B MoE模型本地推理验证;vivo预研蓝心30B MoE;面壁智能发布35B-A3B开源模型MiniCPM-V 4.7并在iPhone 17 Pro Max实机运行。
DeepSeek AI 于 2026 年 8 月开源 DeepSeek Harness(dsh),一款采用 MIT 许可证、以 TypeScript 编写的智能体运行时框架,核心特点是「一切皆插件」,所有 Agent 能力(模型、工具、技能、会话、沙箱、存储、智能体循环、调度、UI 等)均通过底层插件系统 Cordis 提供。
流量喵 macOS 菜单栏工具发布新版本,新增进程读写排行(支持按日/7天/30天/累计统计及 CSV 导出)、磁盘 SMART 状态查看(含温度、累计主机写入、通电时间、耐久度已用)、菜单栏实时读写显示(读取在上、写入在下,开关独立),并保留原有网络流量统计功能;Swift/SwiftUI 原生开发,MIT 开源,数据本地存储。
Marc Maurer 发布 Mac 工具 Point and Yap,按 Control 键两次后可边指向屏幕内容边语音输入,所有信息(含指向位置和语音)通过 MCP 协议发送至编码智能体;工具免费、开源、完全本地运行。