运维负责人
商米科技
执掌 GPU 算力平台、大模型推理服务与模型网关。这一次,「基础设施」的含义变成了:让算力像水电一样,拧开就有。
「告警压掉一个数量级、午夜电话变成清晨报表」——AIOps 在他手里不是概念,是成果。而这位带团队的负责人,上周还在亲手给 GPU 集群跑压测。
智能告警降噪、自动化止损、全链路可观测——这些他不是从报告里学来的,是一条条告警熬出来的。二十年里,行业换了三个名字——运维、SRE、AI 基础设施——季兴始终站在同一个位置:系统与混乱之间。
他信奉「两手抓」:一手带团队、定架构,一手敲命令、写博客。在他看来,管理者的判断力,来自指尖还没褪掉的键盘茧。这篇特稿里没有神话,只有一个把基础设施当作长期作品来打磨的人。
从 2006 年机房里的网线与螺丝刀,到今天的算力平台与模型网关。同一双手,换了三代基础设施。
在 A100 · L20 · 4090 · Apple Silicon 四种异构算力上部署 DeepSeek / Qwen 推理服务——哪块卡便宜好用,答案写在压测报告里。
商米科技
执掌 GPU 算力平台、大模型推理服务与模型网关。这一次,「基础设施」的含义变成了:让算力像水电一样,拧开就有。
建可观测体系,做告警降噪与自动化止损。目标很朴素:让午夜的电话变成清晨的报表,让 on-call 不再是一种惩罚。
从零搭建设备接入平台,EMQ 集群最终撑起 500 万设备并发连接。分片、调优、容灾演练——把「掉线」两个字从用户词典里划掉。
Linux、网络与机房。从几台服务器的作坊起步,一路运维到上千台规模的机群——学会的第一课是:任何不写文档的操作,都会在凌晨回来找你。
用 Mac Studio(M3 Ultra)搭建本地大模型方案,获 Apple 官方认可并拍摄宣传片。当运维方案被镜头收录,机房的故事第一次有了片头曲。
相关博文 →EMQ 集群支撑 5,000,000 设备并发连接。连接不是一个数字,是五百万个随时可能同时断线重连的雪崩点——架构、内核参数与容量规划,一个都不能糊弄。
相关博文 →在 A100 / L20 / 4090 / Apple 芯片上部署 DeepSeek / Qwen 推理服务。不迷信旗舰卡,只相信每 token 成本——量化、并行与调度,逐张卡试出来。
相关博文 →以 LiteLLM 统一模型网关,用 LangGraph 构建可控 Agent,把 Claude Code 沉淀为团队的工程实践——让 AI 落进流水线,而不是停在演示里。
相关博文 →