仅14MB!树莓派5纯CPU也能跑AI:离线指令毫秒级响应
9月23日消息,莓派秒级近日开发者Cactus Compute发布了一款名为Needle 2的离令毫轻量级AI模型。
该模型体积仅为14MB,线指响专门针对树莓派5(Raspberry Pi 5)的莓派秒级处理器环境进行了深度优化,能够在无需AI加速扩展板的离令毫情况下,将自然语言指令实时转换为预设的线指响函数调用。
树莓派官方博客介绍,莓派秒级Needle 2并非传统的离令毫通用聊天机器人,而是线指响专注于设备端指令执行的专用模型,当用户输入点亮LED灯时,莓派秒级系统仅需78毫秒即可完成从识别到执行的离令毫全过程,几乎做到了即时响应。线指响
在性能与资源占用方面,莓派秒级Needle 2也展示了极致的离令毫效率。在树莓派5(8GB内存版)的线指响实测中,该模型运行时的内存占用仅约为28MB,即便运行完整的Python演示程序,总内存消耗也仅为46.4MB。
这种轻量化设计使得模型能够完全脱离云端API和网络环境,在边缘侧实现纯本地的智能化控制。
硬件特色与接口调用上,Needle 2通过Python标注系统与底层硬件深度绑定。开发者只需在现有的函数代码上添加特定目印,模型即可自动抓取函数名称、描述及参数类型,并构建调用规范。
例如查询处理器温度的指令响应时间为149毫秒,系统会准确返回摄氏度数值,整个过程完全在本地处理器内完成。
但需要注意的是,该模型在逻辑判断上表现得相当克制,对于无法匹配到预设函数的无关提问(如“法国首都是哪里”),Needle 2会在92毫秒内返回空值,而非强行作答。
目前Needle 2的模型权重已在Hugging Face平台发布,相关代码也遵循Apache 2.0协议在GitHub开源。
相关文章

不用再冒险读MSR!AMD SEV状态新增只读接口:SEV/SEV
9月23日消息,据报道,Linux内核即将引入一个新的只读sysfs文件,让AMD SEV客户机可以直接报告已启用的安全功能。新接口位于/sys/devices/system/cpu/sev/sev_2026-09-27
据记者Shams Charania报道,自由球员约翰·科林斯已经同意与底特律活塞签下一份3年5100万美元的合同。上赛季,科林斯在快船场均得到13.6分5.3篮板1.0助攻,投篮命中率55.2%,三分2026-09-27
7月6日消息,据报道,三星电子DS部门总裁金容宽在近日一场内部会议上表示,DS部门今年的营业利润将超过三星自进入半导体业务以来过去40年的累计利润总和。而分析师目前预计三星2026年全年营业利润约为32026-09-27
经典地图浮雕加持!荣耀WIN H9三角洲行动联名游戏本外观曝光:7月10日发售
7月6日消息,荣耀WIN游戏本H9《三角洲行动》职业赛事联名款已定档7月10日全球限量发售,荣耀官方今日公布了这款笔记本的外观。官方实拍图显示,荣耀WIN游戏本H9《三角洲行动》职业赛事联名款采用A面2026-09-27
摩托罗拉Signature 27预热:首批搭载高通第六代骁龙8超级至尊版
9月23日消息,在骁龙峰会上,摩托罗拉打造的年度旗舰Signature 27正式亮相。该机将在今年晚些时候正式发布,成为摩托罗拉新一代高端旗舰的代表作。据悉,摩托罗拉Signature 27首批搭载高2026-09-27
尼克斯冠军班底离队第一人!替补中锋胡克波尔蒂1年340万签约76人
根据ESPN名记Shams报道,尼克斯总冠军班底离队首人出炉,自由球员胡克波尔蒂以1年340万美元签约76人,他是尼克斯过去两个赛季的替补中锋球员。胡克波尔蒂在过去两个赛季效力尼克斯时,他合计出战792026-09-27
最新评论