smolmaxxing：让老旧电视盒子和 iPad 本地跑起 AI 大模型

smolmaxxing 项目基于 llama.cpp 重写底层计算代码，让 1G 内存的电视盒子和旧 iPad 等老旧设备本地运行 AI 对话。项目通过删除不常用词汇节省空间，并采用硬盘暂存加预读取策略实现模型快速读取。实验显示第三代小米电视盒子运行效果优秀。