> 385毫秒的平均工具选择。 > 13个MCP服务器上的67个工具。 > 14.5GB的内存占用。 > 零网络调用。 LocalCowork是一个在MacBook上运行的AI代理。开源。 🧵
构建一个本地 AI 代理听起来很不错,直到你尝试整天使用它。困难的部分不是让模型理解你,而是让它选择正确的工具,并且足够快地执行,以便体验感觉互动。 因此,我们在笔记本电脑上对 LFM2-24B-A2B 进行了测试,构建了一个名为 LocalCowork 的开源桌面代理。
一切都在本地运行: > 模型 > 工具 > 数据 没有云。没有 API 密钥。没有任何东西离开机器。
我们在一个现实的环境中评估了该模型: > 67 个工具 > 13 个 MCP 服务器 任务包括安全扫描、文档处理、文件系统操作和系统实用程序。所有这些都在一台配备 36GB 内存的 Apple M4 Max 笔记本电脑上运行。 在此配置下,LFM2-24B-A2B 在每个工具选择响应上平均约为 385 毫秒,同时占用约 14.5 GB 的内存。 这意味着: > 没有外部 API 调用 > 没有供应商子处理器 > 没有数据离开设备
119