文章摘要
Apfel是一款免费AI工具,可将苹果Mac设备内置的AI模型从Siri中解放出来,提供命令行工具、OpenAI兼容服务器和聊天界面三种使用方式。它完全在设备端运行,无需API密钥或订阅费用,支持本地处理4096个token的上下文,适合各种单轮任务和简短对话。
文章总结
标题:apfel——释放Mac内置AI的免费工具
核心功能
apfel是一款免费工具,能够解锁Apple Silicon Mac内置的大型语言模型(LLM)。该模型原本仅限Siri使用,而apfel通过命令行工具(CLI)、兼容OpenAI的HTTP服务器及交互式聊天界面,让用户自由调用本地AI能力。
关键特性
- 完全本地运行:所有计算均在设备端完成,无需联网或API密钥。
- 零成本:无订阅费、按量计费或额外硬件要求。
- 兼容OpenAI:可作为本地替代服务(端口11434),支持流式响应、工具调用等功能。
- 多场景适配:
- UNIX工具:支持管道操作、JSON输出及文件附件。
- 交互式聊天:自动管理上下文,支持系统提示词。
- HTTP服务器:适配任何OpenAI客户端库。
技术背景
- 硬件依赖:需搭载Apple Silicon的Mac,运行macOS Tahoe(26+)并启用Apple Intelligence。
- 底层架构:基于苹果的
FoundationModels框架,通过Swift 6.3封装LanguageModelSession实现功能扩展。 - 性能限制:上下文窗口为4096 tokens(输入输出合计),适合单轮任务或短对话。
使用示例
- 基础问答:
bash $ apfel "奥地利的首都是哪里?" 维也纳。 - OpenAI兼容模式:
python from openai import OpenAI client = OpenAI(base_url="http://localhost:11434/v1") response = client.chat.completions.create(model="apple-foundationmodel", messages=[...])
实用工具脚本
项目提供多个开箱即用的脚本,如:
- cmd:自然语言生成Shell命令。
- explain:解释代码或错误信息。
- mac-narrator:以纪录片风格播报系统活动。
安装方式
- 推荐:通过Homebrew一键安装:
bash $ brew install Arthur-Ficial/tap/apfel - 源码编译:需Xcode及macOS 26.4 SDK支持。
项目生态
- apfel-gui(开发中):SwiftUI图形界面,支持语音交互与请求调试。
- apfel-clip(规划中):菜单栏工具,快速处理剪贴板文本。
社区反响
GitHub发布11天内获292星,两次热度高峰(单日123星和80星),反映开发者对本地AI工具的强烈需求。
评论总结
评论总结:
- 技术功能询问
- 询问Notes.app处理大容量笔记本的存储性能:"Notes.app handles big notebooks without choking on storage?"
- 关注CLI工具是否受上下文窗口限制及日志文件处理:"Are they limited by the context window as well? What's your experience with log file sizes?"
- 模型能力评价
- 肯定AFM模型的性能但指出其对话功能局限:"AFM models are very impressive, but they're not made for conversation"
- 对小模型表现表示惊喜,期待苹果系统集成:"It's a very small model but...impressed. Have we been sleeping on Apple's models?"
- 系统兼容性问题
- 询问模型是否仅支持Tahoe系统:"Any know if these only installed on Tahoe? I'm running Sequoia still..."
- 安全风险警示
- 警告网络服务端口暴露的安全隐患:"The danger is when they expose that...including the browser"
- 指出跨域资源共享可能带来的数据泄露风险:"Some such projects use CORS to allow read back as well"
- 应用场景探讨
- 询问作为子代理与大型模型配合的可能性:"Anyone tried using this as a sub-agent for...Claude/Codex?"
- 关注该工具的具体适用任务类型:"what kind of tasks it would be useful for?"
- 项目资源分享
- 提供GitHub项目链接:"Github: https://github.com/Arthur-Ficial/apfel"