ANEForge:用 Python 直接调用 Apple Neural Engine
论文提出 ANEForge,一个无需 CoreML 即可直接编程 Apple Neural Engine 的 Python 包,将惰性张量图编译为单个 ANE 程序,并通过与 Apple 内部框架相同的 ANE daemon 和内核驱动栈派发。
论文提出 ANEForge,一个无需 CoreML 即可直接编程 Apple Neural Engine 的 Python 包,将惰性张量图编译为单个 ANE 程序,并通过与 Apple 内部框架相同的 ANE daemon 和内核驱动栈派发。
AVALON 是一个面向"人熟悉、机器人未见"室内场景的拓扑导航框架,机器人无需事先实地遍历或站点专项训练,仅需平面图、地点线索和初始拓扑-里程计对齐即可部署。
研究者发现端侧 TEE 保护 LLM 推理中单向矩阵变换混淆存在"解确定性"漏洞,使 GroupCover 和 ArrowCloak 等代表性方法防护近乎失效,攻击准确率超过全屏蔽黑盒基线 2.4 倍并可恢复近乎完整模型。
FedSumUp 在客户端部署可学习的有损压缩器,生成紧凑且可视化可解释的表征,通过控制信息容量降低隐私泄露并让用户直接评估隐私-效用权衡。
PocketTSLM 将 OpenTSLM SoftPrompt 部署到消费级智能手机,通过把编码后的时间序列窗口作为嵌入向量注入而非文本 token 化,实现完全端侧推理,推理过程中不传输任何健康数据。
研究提出 CARE-SD 四模块架构,用于本地小语言模型的自我披露分析,在 82 份网络安全访谈上测试 Llama 1B、Qwen 1.5B 和 Llama 3B。该架构将 Llama 3B 的 Macro-F1 从 0.80 提升至 0.88,并将无依据论断减少 60%,3B 模型在类别 Macro-F1 上追平 20B 参考模型。
HyCo 将服务器模型原生多 token 预测(MTP)头的深度草拟放到设备端执行,替代分支则交给一次 SLM 前向,服务器只返回该头所需的隐藏状态、输入嵌入和 KV 条目。
少样本 LoRA 端侧个性化会降低虚拟助手的开放集(OOS)拒绝能力:在五个公开意图分类基准上,OOS 拒绝 AUROC 平均下降 0.055–0.258,而域内准确率保持不变。
苹果研究团队公布 Minions 系统研究,将闲置 Mac 的 Apple Silicon GPU 聚合为可动态调度的"虚拟 GPU 云",用于大规模机器学习推理。
Artificial Analysis 发布首批 AA-AgentPerf-Local 结果,测试搭载 NVIDIA RTX Spark N1X 的笔记本运行本地智能体工作负载。
P2Skill 是一种基于提示词的技能蒸馏方法,让本地小模型自主执行四项技能,由云端 LLM 根据执行失败迭代优化技能,使本地 SLM 泛化到记忆化的 PII 模式之外,最终技能在设定边界内按最低验证泄露率选取。该方法无需隐私专用微调或学习型辅助检测器。在真实用户查询上,三种本地 SLM 中表现最佳者搭配 P2Skill 时,传输的标注标识符少于所有将文本发往云端的现有隐私保护方法。
研究提出一种面向 OS 集成 AI 的特征边界审计方法,结合六类隐私失效面分类、五维控制评分表与相邻数据及权限路径记录,并依据公开文档对 Apple Foundation Models、Apple Private Cloud Compute、Android AICore/Gemini Nano 和 Microsoft Recall 进行分析。
AnolisVLA 是一款采用深度状态空间模型处理多模态序列的轻量级视觉-语言-动作模型,用于语言引导的机器人操作。在同等参数规模下,其任务成功率、推理速度和 GPU 显存占用均优于 SmolVLA;在移动操作中,任务成功率比 30 亿参数的 π₀.₅ 高出 21 个百分点,推理速度约为其 3 倍。
一篇 48 页综述分析了面向太空任务的 FPGA 神经网络加速器研究现状,指出 FPGA 因灵活性、成本效益和抗辐射潜力受到关注,可用于自主运行、传感器数据分析和数据压缩等星上任务。该文梳理了现有文献的趋势与空白并提出未来研究方向,已于 2026 年 10 月 7 日在线发表于 ACM Computing Surveys。
FALLNEST 通过归一化梯度与嵌入匹配的合成时频浓缩,将大规模不平衡 IMU 数据集蒸馏为类别均衡的微型合成训练集。该方法引入 7 通道输入、类别均衡 K-Means 初始化、梯度裁剪与多视角傅里叶域增强,使类别均衡来自浓缩集本身而非重采样。
该论文提出基于 AWS IoT Core 与 AWS IoT Greengrass v2 的云边混合架构,在边缘本地执行机器学习推理并选择性同步云端。
研究者提出 YOUDrive,一种视觉-语言-动作规划器,通过将每位教师的行为蒸馏为任务向量,在推理时缩放和组合这些风格方向,无需重训练主干即可连续控制驾驶风格。
研究者提出 Elastic V-JEPA(EV-JEPA),一个模型训练一次即可在从智能眼镜到服务器的异构设备上部署,宽度可重构并原生支持跨设备切分。其核心 Transition-Aware Triplet Training(T3)每步选取窄、宽两种宽度并训练三条路径,使同一权重同时学会单设备与跨设备执行。
SAGE 是一个面向智能眼镜的硬件感知受保护 VLM 推理框架,将原始图像与未受保护的视觉 token 留在可信设备上,并把受保护表示压缩为 256 维 INT8 数据包后再传输。
研究者提出 EC2-Bench,一个面向长程 LLM 智能体执行的边缘-云协作基准,包含可执行的数字工作空间任务,并统一评估任务性能、资源占用与隐私暴露。实验发现,协作执行在性能、资源与隐私间取得较好平衡;边缘模型越强,协作表现越接近纯云端,且策略间性能差距缩小,但隐私暴露仍高度依赖策略。边缘能力增强后,首选协作方式从云端外部控制转向边缘主导。
研究者提出一种 FPGA 实现的多层脉冲神经网络(SNN),推理与训练均在同一硬件上完成,采用时间前向训练算法规避 BPTT 的内存与延迟开销。在 MNIST 及五个多元时间序列分类数据集上,全片上训练的 SNN 精度与使用 BPTT 训练的 SNN 或 LSTM 相当。相比 CPU 和 GPU 实现,该 FPGA 设计吞吐量提升 2.5 至 6 倍,每样本能耗低一个数量级。
SchemaWeaver 是一种端侧移动智能体 AI 技术,在 LLM 工具调用的解码阶段引入 schema 引导的并行解码,每次解码生成多个 token 以降低延迟。它无需训练或修改 LLM 即可通用接入移动端推理引擎,在主流移动 SoC 和 LLM 系列上实测工具调用延迟最高降低 3.9 倍。
一套完全离线的语音到语音翻译流水线可在 Jetson Nano(4 GB)上运行,无需重训练即可自我纠正弱翻译:Whisper-tiny 做 ASR,Opus-MT 做翻译,多语言 BERT 余弦相似度作为质量估计(QE)门控,置信度低于阈值 τ 时触发二次翻译。
研究提出 Token-Group Quantization,一种硬件友好的激活 PTQ 框架,通过轻量预测器从 pre-scan 特征推断分组,静态近似 post-scan 分组 oracle,避免运行时统计收集与动态裁剪更新。
研究提出 PLACID 级联流水线,用完全本地部署的 2B-10B 小参数模型实现临床缩略语消歧,避免将受保护健康信息传至外部服务器。通用指令模型检测缩略语准确率约 0.988,但扩展能力仅约 0.655;接入领域医学生物模型后扩展准确率提升至约 0.81。
PEAM 是一款基于端侧 LLM 的通信智能体,可自主生成毫秒级执行的个性化网络配置规则。它先用手工标注的真实用户数据微调端侧 LLM,再分规则生成与规则执行两阶段运行,并构建用户画像以持续优化规则。基于微调后的 4B 模型,PEAM 网络配置决策正确率达 99.13%,生成规则有效率 92.50%,分别较传统专家规则方法高出 4.41% 和 84.50%。
研究提出一种中间架构:云端模型编写的程序通过普通函数调用,将关于用户数据的有界问题交给本地小模型回答,从而在数据不出设备的前提下完成运行时内容解释。在 AppWorld 上,该方案在全部六种骨干模型与测试分区组合中均提升纯代码智能体的成功率,最高提升 14.9pp,缩小了与云端 ReAct 循环的差距。
研究提出一种去中心化控制器,为每个区域分配一个独立的主动推理智能体,通过最小化期望自由能规划并在线学习区域动态,智能体之间不交换消息。在 Sinergym 办公楼 EnergyPlus 仿真中,15 个智能体在五个未见天气年份上实现最低建筑峰值 88.3 kW(比基线低 3% 至 17%),同时系数 0.929,优于 0.936 至 0.994 的基线。
Anthropic 发布博客警告,小型 AI 模型可能距离自我复制能力只有数月。研究人员将 Google 的 26B 参数 Gemma 4 拆分到 15 台 Android 电视盒上运行,并在模拟 Android 网络中测试 AI 蠕虫,其中只有智谱(Z.ai)的 GLM-5.2 成功传遍整个网络,被传播的模型则是 Meta 的 8B 参数 Llama 3.1-8B。
Anthropic Frontier Red Team 研究警告,小型 AI 模型可能距在智能烤箱、杂牌 Android TV 盒子等商用 IoT 设备上自我复制只差数月。
Anthropic 研究人员 William Zhou 和 Daniel Freeman 测试发现,小型 AI 模型已能在廉价消费设备上部分完成自主复制,其中 GLM-5.2 在五次运行中有四次可靠感染全部八个测试节点。
Anthropic 于当地时间周一发布实验结果称,再过数月小型 AI 模型或将具备在商用物联网设备上自我复制的能力,涉及智能烤箱、杂牌安卓电视盒子等设备。实验发现参数量 300 亿以下的小模型可完成复制流程中的多项步骤,但难以独立跑完整链路;在移除部分安全校验的简化环境下,GLM-5.2 及更强模型能实现端到端完整自我复制。
一项公开实验用 1000 条文本、4 个主题测试 MiniLM 的 384 维嵌入压缩效果:完整向量同主题邻居识别率约 93%,压缩到 32 维后约 74%,随机基线为 25%,内存降低约 92%。结果表明大部分有用语义信息在激进降维后仍能保留,可用于语义搜索、端侧 AI、RAG 检索等场景。
Anthropic 发布研究称,30B 参数以下的小模型已能完成自主复制链条中的多数单独步骤,但在端到端串联时仍会出错;在简化评测中 GLM-5.2 及更强模型可完成端到端复制。
作者在 Amazon 购买多款智能设备,用 AI 模型尝试破解,多数设备被成功攻破,并据此建立了硬件破解基准 HWREBench。测试显示开源模型几乎不拒绝请求,闭源模型仅给出少量警告;GLM 5.3 完成任务花费 1.63 美元,Deepseek V4.1 Flash 花费 0.08 美元。作者指出,抗破解较好的设备通常来自知名品牌、近期更新、暴露面小,并依赖配对时生成的密钥或物理干预。
ThinkNet 是一个验证受控框架,结合仅训练集归一化、验证引导的进化搜索与验证门控推理,为留出被试选择紧凑解码器与推理策略。在四分类 BCI Competition IV-2a 的九折 LOSO 评测中,验证选出的紧凑解码器以 4.9K 参数、19 KB FP32 权重实现 44.35±15.41% 准确率和 0.99 ms 的 Orin CUDA 单批推理。
DeltaLLM 是一个免训练的边缘 LLM 预填充注意力加速框架,通过因果注意力感知的 K-only delta 公式在 GQA 下实现 Delta-Key 跨查询头复用,并配合向量化结构化稀疏在线 softmax(VSSOS)将细粒度分数稀疏转为列级跳过。
针对 SDFT 依赖强上下文学习能力、在小模型上失效的问题,研究者提出合成自蒸馏(SynthSelf),将分布内改写任务外包给同族、略大的对齐模型,并结合离策略监督与拒绝采样。在 4 个能力获取数据集和 14 个保持性基准上,SynthSelf 在 3 种小模型规模下均优于包括离策略与在策略蒸馏在内的 6 种方法。
研究者提出 RL-NAS 框架,用强化学习驱动的神经架构搜索为音视频语音增强(AVSE)寻找紧凑架构,仅评估 35 个候选模型即找到参数量 2.9M 的模型,相比基线 22M 缩小约九倍。该架构实现 14.5 dB 的 SI-SNR 提升,仅比基线低 0.7 dB,在商用移动 CPU 上实时因子降低 4.3 倍,搜索效率较随机搜索高 92%。
一个基于笔记本电脑的本地智能体 AI 框架,用本地 LM 通过 think、act、observe、update、continue 循环与轻量 JSON 编码自适应生成边缘案例场景,并以第二个独立 LM 按领域标准评审精炼。精炼场景在仿真中运行并采集指标,据此对相似场景做利用、或生成新场景做探索,再通过指标聚类与主题分析定位功能缺口及其触发条件,形成可追溯的安全保障证据。