AI模型正日趋商品化,众多初创公司争相构建运行其上的软件层。Osaurus是这一领域的最新进入者——一款仅支持苹果设备的开源LLM服务器,让用户在本地或云端AI模型之间自由切换,同时将文件、记忆和工具全部保留在自有硬件上。
Osaurus起源于桌面AI助手项目Dinoki,其联合创始人Terence Pae此前曾在特斯拉和Netflix担任软件工程师。Dinoki用户曾提出疑问:为何在使用AI助手的同时还需支付API调用费用?这促使Pae开始思考本地运行AI的可能性。
如今Osaurus可灵活连接本地托管的AI模型或OpenAI、Anthropic等云服务提供商。用户可自由选择不同AI模型的优势组合,同时将模型的记忆、用户文件和工具等保留在本地Mac上。Osaurus被称为AI harness——一种连接不同AI模型、工具和工作流程的控制层。
Osaurus以开源项目形式公开开发,用户可在GitHub上查看完整代码。对于注重隐私和本地数据控制的用户而言,Osaurus提供了在Mac上构建个性化AI工作流的新选择。
来源:TechCrunch
