Ollama

Ollama 用一条命令在你自己的机器上跑开源模型，并暴露一个大多数客户端库无需改动就能对话的本地 HTTP API。它的意义不在性能而在姿态：数据始终不出这台机器，从而一次性解掉那一整类“敏感材料能不能用 AI”的问题。它也是对着模型做开发最省钱的方式——在你还在把提示词写错的阶段，没有按 token 计费的成本。配上本地知识库，整个闭环可以完全离线。