跳到正文
10月16日周五
  1. Apple Machine Learning Research66

    Apple 用 MLX 与 RDMA 在 Mac Studio 上实现本地及分布式大模型推理

    Apple 发布 MLX 新版本,展示在 Mac Studio 上本地运行前沿大模型:四台 M5 Ultra 组成的集群运行 816B 参数的 Muse Spark Open 时生成速度超过 36 tokens/s,单机 M5 Ultra 相比 M3 Ultra 的 TTFT 最高快 4.6 倍、生成速度提升 1.6 倍。

    推荐理由:Apple 官方给出 MLX 在 Mac Studio 集群上跑近万亿参数模型的实测数据,可据此判断本地大模型推理的可行边界。

  2. The Decoder78

    Black Forest Labs 发布开源权重图像模型 FLUX 3 Image Klein,8 GB 显存即可运行

    Black Forest Labs 发布 FLUX 3 Image Klein,这是一个 5.6B 参数的开源权重模型,支持文生图、图像编辑以及最多十张参考图生成,支持原生 4K 输出、像素级编辑和用于元素定位的边界框。

    同一新闻,精选展示《Black Forest Labs 发布 FLUX 3 Image Klein:5.6B 开源权重模型》

  3. NVIDIA Newsroom62

    NVIDIA 发布 RTX Spark,面向创作者、玩家与 AI 智能体的 Windows PC

    NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并将于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。

    推荐理由:NVIDIA 官方公布 RTX Spark 的定位与全球发布活动安排,并汇总多家媒体对本地 AI 与游戏表现的早期评价。

10月15日周四
  1. NVIDIA Newsroom74

    NVIDIA 扩展 Nemotron 家族,发布 Nemotron 3.5 Super VL 与 Bolt 系列模型

    NVIDIA 发布开放模型 Nemotron 3.5 Super VL,1200 亿参数,主打多模态智能体任务,官方称其吞吐量最高可达同类模型的 5 倍,精度接近 NVIDIA 最大推理模型而参数量约为其五分之一。

    推荐理由:NVIDIA 一次放出三款覆盖数据中心到端侧的开放权重模型,并列出各行业后训练案例,可据此判断开放模型在企业智能体部署中的位置。

  2. PyTorch Blog60

    ExecuTorch 推出 Arm Cortex-M CPU 后端,PyTorch 模型可直接跑在 MCU 上

    PyTorch 官方博客发布 ExecuTorch 的 Arm Cortex-M 后端,让 PyTorch 模型无需转换格式即可直接运行在 Cortex-M CPU 上,并通过 CMSIS-NN 加速,覆盖 Scalar、DSP 和 MVE/Helium 全部能力档位。

    推荐理由:ExecuTorch 新增 Cortex-M 后端,给出各能力档位与 MLPerf Tiny 实测数据,可据此评估 MCU 端部署路径。

  3. RadarAI78

    The Verge 实测 Eiliko 机器人玩具:68000 台设备数据可被任意访问并可远程劫持

    The Verge 记者 Sean Hollister 与黑客 Sammy Azdoufal 实测发现,Energize Lab 的 Eiliko 机器人玩具将用户对话、用户画像、儿童照片和音频存放在无防护的服务器上,可访问约 68000 台设备、1300 万条对话,其中超 31000 份儿童档案来自美国。

    推荐理由:记者联合黑客实测 Eiliko 机器人玩具,展示约 68000 台设备数据可被访问并远程劫持其 LLM 的过程。

  4. arXiv cs.AI24

    P2Skill:面向云-端 LLM 推理系统的隐私保护技能蒸馏

    P2Skill 是一种基于提示词的技能蒸馏方法,让本地小模型自主执行四项技能,由云端 LLM 根据执行失败迭代优化技能,使本地 SLM 泛化到记忆化的 PII 模式之外,最终技能在设定边界内按最低验证泄露率选取。该方法无需隐私专用微调或学习型辅助检测器。在真实用户查询上,三种本地 SLM 中表现最佳者搭配 P2Skill 时,传输的标注标识符少于所有将文本发往云端的现有隐私保护方法。

  5. arXiv cs.AI29

    AnolisVLA:面向移动操作的轻量级视觉-语言-动作模型,采用深度状态空间模型

    AnolisVLA 是一款采用深度状态空间模型处理多模态序列的轻量级视觉-语言-动作模型,用于语言引导的机器人操作。在同等参数规模下,其任务成功率、推理速度和 GPU 显存占用均优于 SmolVLA;在移动操作中,任务成功率比 30 亿参数的 π₀.₅ 高出 21 个百分点,推理速度约为其 3 倍。

  6. arXiv cs.AI15

    面向太空应用的 FPGA 神经网络加速器综述

    一篇 48 页综述分析了面向太空任务的 FPGA 神经网络加速器研究现状,指出 FPGA 因灵活性、成本效益和抗辐射潜力受到关注,可用于自主运行、传感器数据分析和数据压缩等星上任务。该文梳理了现有文献的趋势与空白并提出未来研究方向,已于 2026 年 10 月 7 日在线发表于 ACM Computing Surveys。

  7. arXiv cs.AI31

    面向边缘智能体:LLM 智能体执行中边缘-云协作的系统性分析

    研究者提出 EC2-Bench,一个面向长程 LLM 智能体执行的边缘-云协作基准,包含可执行的数字工作空间任务,并统一评估任务性能、资源占用与隐私暴露。实验发现,协作执行在性能、资源与隐私间取得较好平衡;边缘模型越强,协作表现越接近纯云端,且策略间性能差距缩小,但隐私暴露仍高度依赖策略。边缘能力增强后,首选协作方式从云端外部控制转向边缘主导。

  8. arXiv cs.AI22

    基于 FPGA 的脉冲神经网络实现时空模式学习与分类

    研究者提出一种 FPGA 实现的多层脉冲神经网络(SNN),推理与训练均在同一硬件上完成,采用时间前向训练算法规避 BPTT 的内存与延迟开销。在 MNIST 及五个多元时间序列分类数据集上,全片上训练的 SNN 精度与使用 BPTT 训练的 SNN 或 LSTM 相当。相比 CPU 和 GPU 实现,该 FPGA 设计吞吐量提升 2.5 至 6 倍,每样本能耗低一个数量级。

  9. arXiv cs.AI24

    PEAM:面向个性化、高效、自主移动网络配置的端侧通信智能体

    PEAM 是一款基于端侧 LLM 的通信智能体,可自主生成毫秒级执行的个性化网络配置规则。它先用手工标注的真实用户数据微调端侧 LLM,再分规则生成与规则执行两阶段运行,并构建用户画像以持续优化规则。基于微调后的 4B 模型,PEAM 网络配置决策正确率达 99.13%,生成规则有效率 92.50%,分别较传统专家规则方法高出 4.41% 和 84.50%。

  10. arXiv cs.AI34

    小模型该坐驾驶座吗?云编写智能体程序中本地模型作为解释器的研究

    研究提出一种中间架构:云端模型编写的程序通过普通函数调用,将关于用户数据的有界问题交给本地小模型回答,从而在数据不出设备的前提下完成运行时内容解释。在 AppWorld 上,该方案在全部六种骨干模型与测试分区组合中均提升纯代码智能体的成功率,最高提升 14.9pp,缩小了与云端 ReAct 循环的差距。

  11. arXiv cs.MA24

    每区一智能体:部分可观测下多区 HVAC 的边缘去中心化主动推理控制

    研究提出一种去中心化控制器,为每个区域分配一个独立的主动推理智能体,通过最小化期望自由能规划并在线学习区域动态,智能体之间不交换消息。在 Sinergym 办公楼 EnergyPlus 仿真中,15 个智能体在五个未见天气年份上实现最低建筑峰值 88.3 kW(比基线低 3% 至 17%),同时系数 0.929,优于 0.936 至 0.994 的基线。