跳到正文
Hacker News· Luc·· 3 小时前AI 评分58

Survival LLM 发布:可在本机离线运行的 AI 应急助手与资料库

Survival LLM: AI assistant and emergency library that runs on your own computer

AI 导读

Survival LLM 发布一款免费开源的本地 AI 助手与应急资料库,模型和资料都存放在用户电脑上,断网后仍可回答食物保存、烧伤处理、净水等问题,并列出答案所依据的文章。

正文 · AI 翻译

Survival LLM 是一款免费的 AI 助手和应急资料库,完全在你自己的电脑上运行。问它如何在停电时安全保存食物、处理烧伤或净化水,它会依据可信来源作答,并向你准确展示每个答案的出处。

免费且开源。在有网络时完成设置;之后便无需联网。

Survival LLM answering a question about fridge food safety, with the cited Ready.gov article open beside it

功能简介

无需联网即可使用

AI 模型和资料库都存放在你的电脑上。你提出的任何问题都不会离开这台电脑。

展示来源

每个答案都会列出它参考的文章。点击其中一篇即可自行阅读,并高亮显示确切的段落。

专为应急而设计

医学参考资料、FEMA 和 CDC 指南、生存手册、操作指南、维修指南,以及约 93 万篇维基百科文章。

选择你的版本

应用在各处都相同。打开时,它会检查你电脑的内存,并下载适配的 AI 模型。内存越大,模型越智能。

你的电脑使用的 AI 模型我们的应急测试模型下载大小
内存 128 GB 或以上的 MacNVIDIA Nemotron 3.5 Super22 题中答对 21 题80 GB
内存 32–96 GB 的 MacQwen3.8 27B22 题中答对 21 题18 GB
内存 32 GB 或以上的 Windows PCNVIDIA Nemotron 3.5 Lightning22 题中答对 19 题25 GB
内存 16–31 GB 的 Mac 或 PCIBM Granite 4.2 8B22 题中答对 14 题6 GB

“答对”是指在我们对早期版本资料库的测试中,针对 22 道停电和急救问题,盲评下答对了官方指南的要点(我们如何测试)。较小的模型更容易出错,因此应用始终会显示来源供你核对。

再加上资料库:完整内容需下载 9 GB(安装后占 19 GB),或不含维基百科和 iFixit 的版本为 1.3 GB(安装后占 3 GB)。所需可用磁盘空间:模型大小加 5 GB,安装完整资料库期间还需约 27 GB(较小版本为 10 GB)。需要搭载 macOS 14 Sonoma 或更新版本的 Apple Silicon Mac(M1 或更新机型),以及 64 位 Windows 10 或 11。

三步完成设置

设置耗时 20 分钟到约 2.5 小时,取决于你的电脑和网速。你只需点击约 5 分钟,其余时间都在下载。

  1. 下载 Survival LLM:Mac 或 Windows 版本,然后解压。在 Windows 上,右键点击 zip 文件并选择全部解压缩。
  2. 打开它。在 Mac 上,双击 Survival LLM。在 Windows 上,打开解压后的文件夹并双击 Survival LLM.bat。
  3. 按照设置流程操作。应用会在自己的窗口中打开,并下载 AI 引擎(已内置于 Mac 应用中)、适配你电脑的 AI 模型以及资料库。请在有网络时让它完成。

首次打开时,你的电脑会发出警告,因为该应用并非通过应用商店销售。
Mac:点击完成,打开系统设置 > 隐私与安全性,向下滚动到“Survival LLM 已被阻止”,点击仍要打开并输入密码确认。此操作只需执行一次。
Windows:点击更多信息,然后点击仍要运行。

资料库内容

开放许可(部分仅限非商业使用)和公有领域参考资料的纯文本副本,可在不到一秒内完成搜索:

  • 约 93 万篇维基百科最常阅读的文章
  • WikiMed 医学百科
  • MedlinePlus(美国国家医学图书馆)
  • UK Medicines A to Z(公共部门信息)
  • WikEM 急诊医学
  • Ready.gov(FEMA)应急指南
  • CDC 旅行者健康
  • 美国军事医学与生存手册
  • 用于估算微死亡风险的风险参考:生命表与美国死亡率数据
  • wikiHow 操作指南
  • iFixit 维修指南
  • Appropedia(适用技术)
  • 关于家居维修、烹饪、园艺、户外活动和业余无线电的问答(Stack Exchange)

每个来源保留各自的许可证,并在每篇文章中显示;请参阅含许可证的完整列表。

值得了解

它可能会出错

AI 模型会犯错,小模型出错更频繁。每个回答都会显示它所使用的文章,方便你核查。

私密

无需账号,不做追踪。你的问题永远不会离开你的电脑,而且设置完成后,断网也能使用。

你自己的文件

添加 PDF、Word 文档、电子书和笔记,比如你的发电机手册或你家的应急计划,AI 也会搜索它们。这些文件始终留在你的电脑上。

更新

在应用底部检查更新,一键即可安装新版本,并保留你的模型、资料库和文件。

电池

在一台 MacBook Pro 上,我们测得它回答问题时功耗约为 100 W,每个问题耗时 5 到 40 秒:满电大约能回答 100 到 300 个问题。小型发电机或移动电源就能轻松带动它。

来源:Hacker News · brangus.io