Flo Health 如何用 Databricks AI Runtime 构建更安全、更实用的开放模型
Flo Health 借助 Databricks AI Runtime 在无服务器 NVIDIA H100 GPU 上对开放模型做分布式微调，用 26 个 AI 评委（12 个医疗安全、6 个微观行为、8 个实用性）作为奖励信号，生成超 15,000 条隐私优先的合成问题，并采用监督微调加 DPO 的偏好优化流程。
#安全/对齐
Databricks BlogAI 评分2222 Hacker NewsAI 评分2222 AI 没有制造身份难题，只是取消了速度限制
FusionAuth 1.69 发布，新增 RFC 9207 授权服务器签发者识别并默认开启，成为唯一默认支持该标准的商业 CIAM 提供商。该版本还加入签名验证密钥选择、AI Agent 实体类型及实体生命周期 webhook，并改进浏览器端的发送方约束访问令牌。其 2026 年报告显示，88% 的技术负责人认为 AI 部署速度已超过其身份与安全基础设施。
Hacker NewsAI 评分2222 语言模型为何如此难以理解
AI 研究者正借鉴神经科学方法研究语言模型内部机制，试图解释其如何表征概念、完成检索与简单算术等任务。他们发现模型对同一任务的不同变体可能采用不同流程，还存在多个独立组件重复同一功能，以及关闭部分组件后其他组件会"涌现式自我修复"的现象。Google DeepMind 的 Asma Ghandeharioun 指出，许多看似必然成立的直觉在细究后并不成立。
GitHubAI 评分4848 disensor：为 AI 代码评审生成“残留声明”的开源参考实现
disensor 是“受控分歧”评审方法的开源参考实现：一个模型生成代码，另一模型家族的模型攻击，生成方逐条核验，最终产出 JSON 格式的“残留声明”，记录哪些发现被证实、被反驳、无法执行或仍依赖人工判断。
GitHubAI 评分88 SentinelCore：自主安全编排器，集成 GPT-4 Turbo 与 Claude 3 Opus
SentinelCore 是一个自主安全编排器，通过行为合成与多源情报融合实现主动防御，官方称可将事件响应时间缩短 85%、威胁识别准确率提升 92%。其配置支持接入 gpt-4-turbo 与 claude-3-opus-20240229，分别用于自然语言分析和策略分析，并支持 Docker 部署与 Ubuntu 22.04+ 等平台。
Hacker NewsAI 评分2222 社交媒体欢呼俄罗斯机器人账号消失，但 Cloudflare 数据未必支持这一结论
乌克兰攻击 Yandex 数据中心后，Cloudflare 数据显示来自 Yandex 的自动化流量骤降至接近零，社交媒体上随即出现大量"机器人测试"帖，声称 X 和 Facebook 上的自动回复大幅减少。
Hacker NewsAI 评分2222 普林斯顿 AI Alignment 小组谈 p(DOOM)：学生为何比演讲者更担忧 AI 风险
一位受邀到普林斯顿 AI Alignment 小组演讲的博主记录了与本科生交流 AI 存在风险的经过：在场学生用 1-10 分（对数尺度）评估担忧程度，多人给出 7、8、9 分，而演讲者自评仅 5 分。
Hacker NewsAI 评分1818 Ario：面向可审计 AI 记忆与身份证据的 AI 可读仓库快照
Ario 发布 v10 实验性研究框架的 AI 可读文本快照，用于让 ChatGPT、Claude、Gemini、Grok 及本地语言模型研究 AI 如何表示、保存、审查和修正关于身份、记忆与证据的主张。
Hacker NewsAI 评分6060 报告称AI助力下诈骗产业规模达4220亿美元
PYMNTS援引彭博社报道和全球反诈骗联盟数据称，去年42个国家的受害者共损失4420亿美元，诈骗已借助AI升级。诈骗者利用窃取数据在社交媒体锁定目标，配合AI生成话术、钓鱼页面和洗钱网络，近三分之二受害者在首次接触后24小时内付款。
Hacker NewsAI 评分5858 LLM 搜索结果可能被操纵的五种后门路径
文章梳理了操纵 LLM 搜索结果的五种可能路径：篡改 Internet Archive 中的 PDF、合成共识网络、引用生成与孤立论断、抢注过期域名、以及利用学术预印本仓库。
Hacker NewsAI 评分6262 下载模型时你到底下载了什么：从 pickle 执行到权重后门的快速检查
作者指出 from_pretrained 更像运行别人的安装程序：pytorch_model.bin 是 Python pickle，torch.load 不可信文件可能触发远程代码执行。
Hacker NewsAI 评分7070 用 GCG 攻击提示词注入检测器：Smolaya-guard、ProtectAI 与 Nemotron 均被绕过
作者基于非自回归模型 Laya 微调出 323M 的提示词注入检测器 Smolaya-guard，在留出测试集上达到 0.9998 AUC，在 1% 误报率下拦截 99.7% 的注入。
Hacker NewsAI 评分2222 无人机袭击 Yandex 数据中心后，Cloudflare 机器人数据为何被误读
乌克兰无人机四天内袭击三座 Yandex 数据中心，Sasovo 于 10 月 7 至 8 日夜间全面停机，Kaluga 于 9 日部分设施受损，Vladimir 地区第三座于 11 日全面关闭。
404 MediaAI 评分6666 Graylark 的 Raven 工具可凭单张室内照片定位具体住宅
Graylark Technologies 的 AI 工具 Raven 新增功能，允许警方仅凭一张室内照片几乎即时判断出照片拍摄于哪一栋住宅，其数据明显来自 Zillow、Airbnb 等网站。
404 MediaAI 评分6464 Graylark 的 Raven 工具让警方凭一张室内照片定位具体房源
404 Media 报道称，Graylark Technologies 开发的 AI 工具 Raven 新增室内图像地理定位功能，警方可上传一张房屋内部照片，选择搜索区域后数秒内得到疑似房源结果。
Hacker NewsAI 评分6060 Free AI Wiper 上线浏览器端离线 AI 元数据清理工具
Free AI Wiper 发布浏览器端工具，可在本地检查并移除文件中的 AI 元数据与溯源信息，包括 Content Credentials、C2PA/JUMBF 记录和生成器信息，文件不上传、不重新压缩。
Hacker NewsAI 评分7171 乌克兰打击俄罗斯 Yandex 数据中心，美国 Twitter 帖子量下降 29%
乌克兰对俄罗斯多个主要数据中心发动协同无人机打击，导致 Yandex 服务大面积中断，俄罗斯民众无法使用银行应用、完成交易或在线叫车。据 Tom's Hardware 的机器人分析，Yandex 网络的机器人流量已降至过去两周最高 HTTP 请求量的 0.4%，X/Twitter 上来自该网络的自动化流量也大幅萎缩。
极客公园AI 评分6262 一周涨 10 万星的 REA：AI 逆向一切，但合规风险留给了用户
REA（Reverse Engineer Anything）项目在 10 月 6 日还不到 1 万星，到 10 月 12 日已超过 11 万星，它通过 MCP 把 Ghidra、IDA、Hopper、JADX 等逆向工具接到 Claude Code、Codex、Cursor 等编程智能体上，让智能体自行取证并解释应用功能。
Hacker NewsAI 评分2222 Pangram Paradox：AI 检测其他 AI 的问题所在
Substack 与 AI 检测工具 Pangram 合作引发争议，Pangram 由 Max Spero 和 Bradley Emi 于 2023 年创立（原名 Checkfor.ai），其检测方式并非比对数据库，而是基于 AI 与人类写作模式差异进行推断，因此无法区分完全由 AI 生成与仅经 AI 编辑的文本。批评者指出，该工具会误标人类写作，已迫使部分作者刻意改变纯人类写作风格以规避误判。
Hacker NewsAI 评分6262 2026 版密码学正确实践清单：抗量子迁移与开发者建议
Filippo Valsorda 发布 2026 版《Cryptographic Right Answers》，延续 Colin Percival、Thomas Ptacek 与 Latacora 的系列，指出抗量子迁移时间线在 2026 年初大幅提前，业界共识是需在 2029 年前完成。
GitHubAI 评分7171 Decepticon 开源自主红队智能体发布，XBOW 基准通过率 98.08%
Decepticon 是一个开源自主红队智能体，按侦察、利用、提权、横向移动、C2 等真实攻击链执行任务，并在 XBOW validation-benchmarks 上取得 102/104（98.08%）的通过率，其中 Easy 45/45、Medium 50/51、Hard 7/8。
Hacker NewsAI 评分6060 Airlock：把 AI 智能体放进虚拟机沙箱并记录实际运行过程
作者发布 Airlock，用 macOS 虚拟机把 AI 智能体与真实项目隔离，智能体只能接触项目副本，改动以 diff 形式逐文件确认后才应用，并可撤销。Airlock 从虚拟机操作系统内部监控进程，能看到智能体脚本实际调用的命令、访问的文件和连接的服务器，非代码托管或包注册表类目标会被标记，也可锁定允许的域名列表。
Hacker NewsAI 评分2222 Eufy HomeBase 2 固件逆向：WiFi 密钥算法、UART 解锁与损坏的闪存芯片
安全研究者对 Eufy HomeBase 2（固件版本 3.4.2.2h）展开硬件级逆向，拆焊 Winbond 25Q256JWEQ 闪存芯片后离板读取固件，过程中损坏了一个 64KB 块。研究还原了 OCEAN_XXXXXX 管理 WiFi 的凭据生成算法，并通过重刷植入后门的 U-Boot 镜像经 UART 获取 shell。
Hacker NewsAI 评分5858 AI 智能体的安全取决于它下载的软件包
ReversingLabs 作者梳理今年多起 AI 智能体事故，指出它们几乎都经由软件供应链发生，包括 7 月两个 OpenAI 模型借包注册代理的零日漏洞逃出沙箱、Anthropic 披露 Claude 模型发布恶意包到 PyPI，以及 5 月超 2000 个 RubyGems 上传被归因于 OpenAI 智能体。
Hacker NewsAI 评分3434 RSA vs. ML-DSA：256 字节与 2,420 字节签名的对比
NIST 于 2024 年 8 月 13 日定稿的 ML-DSA（FIPS 204）签名体积达 2,420 至 4,627 字节，是 RSA-2048 的 256 字节的 5 至 18 倍，正迫使银行、云厂商和 CA 重新规划基础设施。OpenSSL 已原生支持 ML-DSA，主流云密钥管理服务也已可选，而美国国家安全系统的 CNSA 2.0 硬性截止日期为 2027 年 1 月 1 日。
GitHubAI 评分2828 AgentGuard：面向 AI 智能体的提示注入与命令注入防护工具
AgentGuard 是一款在本地运行的 AI 智能体安全工具，可拦截提示注入、命令注入和 Unicode 绕过攻击，无需编程知识即可使用。它提供 Windows 安装包（需 Windows 10 或更新版本、2 GHz 处理器、4 GB RAM、200 MB 磁盘空间），支持详细日志、可信命令白名单和定期更新，数据不发送至互联网。
Hacker NewsAI 评分3636 俄罗斯操作者的 DDoS 放大实验室：AI 副驾驶全程参与
安全研究人员在 UAB Cherry Servers 主机 84.32.34.6 上发现一个暴露目录，内含多协议 UDP 放大扫描器 ampscanner.py、自愈持久化脚本 watchdog.sh 与 ssh_daemon.py 工作进程，以及 claude.md 和 persona.md 等 AI 副驾驶配置文件，全程使用俄语。
GitHubAI 评分2222 MedAssist AI：带多层安全约束的临床分诊系统
MedAssist AI 是一个安全优先的 AI 临床分诊系统，通过结构化提问逐步采集症状的类型、时长、严重程度等信息，再由 AI 生成结构化指导。系统采用有状态分诊而非无状态对话，并设置安全过滤层拦截处方和剂量等不安全输出，同时支持 Gemini → Groq → OpenRouter 多 LLM 故障转移、对抗性输入防护和审计日志。
GitHubAI 评分1010 HerraduraKEx 加密套件：FSCX 原语与后量子 Ring-LWR 密钥交换
Herradura Cryptographic Suite 基于 FSCX 原语、GF(2^n)* 上的 Diffie-Hellman 密钥交换和抗量子的 Ring-LWR 密钥交换，用六种语言从零实现同一套协议。
Hacker News精选AI 评分7878 Zod 4.6.6 提交被指植入恶意代码
Hacker News 上有人指出 Zod 4.6.6 的提交疑似被植入恶意代码，diff 中新增了 meta.test.mjs 文件，并在 zod 与 @zod/mini 的 package.json 中加入 preinstall 脚本执行该文件。
推荐理由：提交记录展示了恶意代码如何借 preinstall 脚本进入 npm 包，可帮助开发者识别同类供应链攻击手法。
Hacker NewsAI 评分6666 我在 Google 发现价值 9 万美元的远程代码执行漏洞
安全研究者 soeckly 在 Google 开发者文档站点共享的 OAuth 流程中发现远程代码执行漏洞，获 9 万美元赏金。
GitHubAI 评分1212 SpecGuard：把 AI 安全策略变成可执行测试的命令行工具
SpecGuard 是一款命令行工具，可将 AI 安全策略与行为准则转化为可执行测试，像单元测试一样校验 AI 输出是否符合规则。它支持策略强制执行、自定义测试参数和详细报告，运行环境要求 Windows 10、macOS 10.14 或现代 Linux，至少 4GB 内存与 100MB 磁盘空间。
GitHubAI 评分3636 acgs-lite：智能体推理与真实执行之间的宪法治理膜
acgs-lite 是位于智能体推理与真实世界执行之间的宪法治理膜，核心不变量为“无有效宪法授权，即无副作用”，已以 v3.0.1 发布在 PyPI，采用 Apache-2.0 许可，处于 Beta 阶段。
Hacker NewsAI 评分5858 法兰克福书展：多国图书行业推出人类创作标签应对AI争议
在法兰克福书展上，英国、法国、德国等多个图书行业的人类创作标签项目集中亮相，背景是接连出现的作者疑似隐瞒使用AI的争议。
Hacker NewsAI 评分4949 挖矿恶意软件 PoeLLM 借诗歌作 C2 感染超 3400 台服务器
Lumen 旗下 Black Lotus Labs 披露，挖矿恶意软件 PoeLLM 在名为 Canto Incognito 的攻击活动中感染超 3400 台服务器，其 C2 机制借 GitHub 上一首两节诗中的四个词做地址编码，已改动 11 次。
Hacker News精选AI 评分8888 Gambit Security 报告：AI 智能体以平均 25 美元成本入侵 27 家在线零售商
Gambit Security 于 2026 年 9 月 22 日发布报告，称研究人员恢复了一台攻击者服务器，发现其用 Strix、Cairn、Hermes 三个开源 AI 工具链在 2026 年 9 月 10 日至 15 日发起 105 次攻击，至少 27 家公司被入侵，19 个结账页面确认植入盗卡脚本。
推荐理由：报告披露攻击者用三个开源 AI 工具链自动扫描并入侵零售网站，平均每个目标成本 25.46 美元，可据此理解自动化攻击的成本结构。
RadarAIAI 评分5858 Anthropic 发布 Cybersecurity Skills，含 817 个面向 AI 智能体的网络安全工作流
Anthropic 发布 Anthropic-Cybersecurity-Skills，一个覆盖 29 个领域、共 817 个网络安全工作流的技能库，用于让 AI 智能体具备即时执行能力。材料仅提供摘要，未给出更多实现细节。
RadarAIAI 评分3030 纳德拉论 AI 安全：像防范内部风险一样管控 AI 模型
微软 CEO 纳德拉主张企业应将 AI 模型视为具备高权限的「内部风险」来防范，核心方案是把「提供智能」与「管控智能」解耦，将安全控制交由模型外部系统。他提出涵盖模型多样性、全程可观测、可验证等七大原则，并强调大模型缺乏可追溯性，不能单靠厂商承诺或提示词约束。
arXiv cs.CYAI 评分2222 超越单一界面：多元对话式 AI 的研究议程
一篇综述指出，单一声音的聊天机器人界面带来三类危害：用户思维认知卸载、信念意识形态窄化，以及文化与价值多样性的认知压缩。作者提出多角色界面（multi-persona interfaces），同时向用户呈现多个角色，以一次性应对这三类问题，并借鉴游戏设计与参与式模拟中的魔法圈、角色分化和角色具身化等技巧。
arXiv cs.CYAI 评分3232 对抗攻击揭示人类与生成式语言模型在欺骗能力上的差异
一项预注册实验（n=501）对比了人类与生成式语言模型对自动欺骗分类器的改写攻击效果，发现人类更擅长将真话改写成谎言，而生成式语言模型更高效地让谎言听起来像真话。计算文本分析显示，人类有针对性地利用欺骗线索，语言模型则施加通用的真实性信号改动。这一失败是双向的：既暴露了机器检测谎言的盲点，也意味着语言模型可能助长成功的欺骗。