本地大模型实践(四):OpenHands——AI 全栈软件工程师的理想与现实
2024 年,一个叫 Devin 的 AI 工具横空出世,宣称自己是“第一个 AI 软件工程师”,能自主完成从需求到部署的全流程。后来演示被发现有水分,社区称之为“Devin 的谎言”。但 Devin 点燃了一个方向——AI 不只是辅助写代码,而是能自主完成整个软件工程流程。OpenHands 就是这个方向的开源实现,76.5k GitHub Star...
一个开发出身的DevOps工程师
2024 年,一个叫 Devin 的 AI 工具横空出世,宣称自己是“第一个 AI 软件工程师”,能自主完成从需求到部署的全流程。后来演示被发现有水分,社区称之为“Devin 的谎言”。但 Devin 点燃了一个方向——AI 不只是辅助写代码,而是能自主完成整个软件工程流程。OpenHands 就是这个方向的开源实现,76.5k GitHub Star...
上一篇聊了终端里的 OpenCode,但很多开发者的日常工作重心在 IDE 里。VS Code 侧边栏、内联补全、文件树——这些都是日常开发的高频触点。如果你在找一个 GitHub Copilot 的开源替代品,那 Cline 就是目前最值得关注的一个——63.1k GitHub Star,Apache 2.0 开源,同样是 IDE 插件形态,同样支持...
上一篇文章我们在内网搭好了 AI 基础设施——Ollama 跑模型、vLLM 提性能、Open WebUI 给界面。有了这套底层能力之后,第一个实际问题就是:开发人员用什么工具来接入 AI 能力?公网上有 Cursor、有 Claude Code、有 GitHub Copilot,但如果你在内网,或者不想把代码交给第三方,这些工具都用不了。这时候你需要...
当你所在的公司因为数据合规、安全策略或网络隔离而无法使用公网大模型时,AI 能力是不是就此止步了?答案是否定的。通过 Ollama、vLLM 和 Open WebUI 这三个开源工具的组合,你可以在内网搭建一套完整的本地 AI 基础设施——让团队在不联网的环境下,拥有不输公网体验的大模型推理能力。
一个用户反馈:“我的订单提交了三次,每次都转圈 10 秒然后提示失败。”你打开日志,发现订单服务报错了——“调用库存服务超时”。你去查库存服务,库存服务说:“不是我慢,是支付服务回调慢。”你再去查支付服务……这就是分布式系统查问题的日常。一个请求经过了 10 个微服务,你没法靠翻日志来串起整个链路。这篇文章,聊聊链路追踪怎么帮你解决这个“请求到底去哪了...
凌晨三点,手机响了。你迷迷糊糊拿起来一看——“CPU 使用率超过 80%”。你打开监控看了一眼,业务完全正常,流量高峰而已。你叹了口气,把告警静音,继续睡。第二天,你又收到 30 条类似的告警。第三天,你把通知关了。恭喜你,你的告警系统已经“脑死亡”了。不是告警不够多,而是告警不够好。这篇文章聊聊怎么设计让人愿意认真对待的告警。
你有没有盯着一个 dashboard 看了五分钟,最终得出结论“好像……问题不大?”然后关掉了。如果有,那你的指标监控可能得了“仪表盘肥胖症”——数据很多,信息很少。指标监控的核心不是把能收集的数据全展示出来,而是找到那些“出了事第一个会变”的数字,然后盯紧它们。这篇文章,我们就来聊聊怎么用 Prometheus 和 Grafana 做出“看了有用”的...
线上出问题了。你第一反应是什么?我相信绝大多数开发者的答案是:看日志。但现实往往是——日志散落在十几台服务器上,你得一台一台 SSH 上去 grep;或者日志只有最近两天的,三天前的已经被滚动覆盖了;更糟的是有的日志写了但其实根本没人在输出。日志不是没有,是“你没有好好管它”。这篇文章,我们来聊聊怎么让日志真正成为你的帮手而非摆设。
你有没有遇到过这种情况:用户反馈说“系统好慢”,你打开服务器看了看 CPU 和内存,都正常。然后你就卡住了——不是没问题,是你不知道问题在哪。这就是没有监控的典型困境。监控不是什么遥不可及的高端技术,它就是给系统做一次“体检”,让你知道它在干嘛、状态怎么样、有没有生病。
1、AI 有一个“健忘症”问题 你有没有过这种体验:和 AI 聊得好好的,代码写得正顺,突然它开始“胡言乱语”——用了你已废弃的旧 API、忘了你之前说的项目结构、或者建议了一个跟你现有架构完全不搭的方案。 这不是 AI 变傻了。是它的上下文窗口有限。 上下文窗口,就是 AI“一次能记住多少东西”的上限。想象 AI 只有一块小黑板——你每说一句话...