热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
> 385毫秒的平均工具选择。
> 13个MCP服务器上的67个工具。
> 14.5GB的内存占用。
> 零网络调用。
LocalCowork是一个在MacBook上运行的AI代理。开源。
🧵

构建一个本地 AI 代理听起来很不错,直到你尝试整天使用它。困难的部分不是让模型理解你,而是让它选择正确的工具,并且足够快地执行,以便体验感觉互动。
因此,我们在笔记本电脑上对 LFM2-24B-A2B 进行了测试,构建了一个名为 LocalCowork 的开源桌面代理。
一切都在本地运行:
> 模型
> 工具
> 数据
没有云。没有 API 密钥。没有任何东西离开机器。
我们在一个现实的环境中评估了该模型:
> 67 个工具
> 13 个 MCP 服务器
任务包括安全扫描、文档处理、文件系统操作和系统实用程序。所有这些都在一台配备 36GB 内存的 Apple M4 Max 笔记本电脑上运行。
在此配置下,LFM2-24B-A2B 在每个工具选择响应上平均约为 385 毫秒,同时占用约 14.5 GB 的内存。
这意味着:
> 没有外部 API 调用
> 没有供应商子处理器
> 没有数据离开设备

119
热门
排行
收藏
