博客

做完 AIMA 管理层和售后层之后我发现还差一块。Ollama 太傻、llama.cpp 精度被自己的格式吃了、vLLM 又太重。市面上没有现成的解，那就自己来。

HappyHorse 一夜登顶视频生成排行榜，但没人知道它是谁的。域名被抢注、HuggingFace 被占位、来源众说纷纭。比这些热闹更值得聊的，是文生视频私有化需求背后的硬件和商业逻辑。

Mac 的权限设计是给人用的，Linux 是给程序用的。Agent 不是应用，是基础设施。把 Agent 跑在 Mac 上，就像把服务器塞进笔记本壳里——能跑，但哪里都别扭。

之前写了成本和权力。这篇补上法律。云是租给你的，端是卖给你的。当AI Agent开始自主决策，这个区别就不只是商业选择了。

边端设备别去卷大模型了。用GPU跑TTS，用NPU跑OCR，塞一堆辅助小模型进去，做成Mac mini加强版，扔在角落24小时跑着。像路由器一样，无聊才对。

一台AI服务器买回来调好，三个月后价值可能只剩一半。我们开源了AIMA——一个Go二进制，57个MCP工具，用YAML知识库驱动异构硬件上的AI推理部署。

算力直接转化为生产力，绕过人力。少数人掌握全部AI算力不再是科幻。边端AI设备不只是省钱方案——它是普通人在权力结构中的制衡筹码。

当AI从对话走向智能体，算力需求百倍增长。但边缘设备真正的挑战不是买不起，而是用不好——TCO陷阱正在吞噬这些设备的潜在价值。