探索 AI Systems 与 LLM 推理,构建自己日常使用的开发工具。
Building practical tools around LLM inference, GPU experiments, and local-first knowledge.
- LLM inference — 通过 SGLang 开源贡献,理解推理系统与多模态工作流。
- GPU experiments — 用 Go 构建可观察、可追溯的实验执行工具。
- Local-first tools — 把知识管理、文件传输和 AI 工作流做成可运行的工具。
| 项目 | 解决的问题 | 技术 |
|---|---|---|
| ForgeGrid | 为分散的 GPU 实验提供统一任务入口、资源匹配、租约和执行记录。 | Go |
| ChillWiki | 让本地 Markdown 知识库具备来源追溯、图谱导航、检索评估和反馈机制。 | Python · Markdown |
| bigbang / lan-drop | 在局域网设备间传输文件,提供浏览器界面与原生 Android 客户端。 | Go · Kotlin |
| DeepSeek Harness Desktop | 为 DeepSeek Harness 提供非官方 macOS 启动器,管理本地服务并打开独立工作窗口。 | Swift · JavaScript |
| 可 | 一个只向 Codex 对话回复「可」的 macOS 悬浮按钮。 | Swift |
参与 SGLang 的 diffusion 相关改进。以下 PR 已合并:
- #34494 — Forward multimodal token type IDs in image encoding:在图像编码中传递多模态 token type IDs。
- #34242 — Warn when BCG disables Cache-DiT:在 BCG 禁用 Cache-DiT 时增加警告。
个人网站 · Website
邮箱 · Email:chilltong9277@gmail.com
欢迎在相关项目的 Issues 中交流使用体验、问题和改进建议。

