Running Qwen3-Coder on Jetson AGX Orin
探索边缘设备上的本地代码模型、Agent 调度与个人知识检索,让 AI Brain 保持可控、低延迟并且长期在线。
- Hardware
- Jetson AGX Orin · 64GB
- Model
- Qwen3-Coder · Ollama
- Focus
- Local LLM · Agent · RAG
Personal engineering journal · Est. 2001
20+ years building software.
From the C++ era to the AI era.
48 / Building the next chapter

01 / Featured Essay
写了二十多年软件之后,我不想成为 AI 时代的旁观者。这不是一次职业转向,而是把长期积累重新接入未来。
Read essay ↗02 / AI Lab
Experiment records, benchmarks and observations from building a personal AI system.
探索边缘设备上的本地代码模型、Agent 调度与个人知识检索,让 AI Brain 保持可控、低延迟并且长期在线。
03 / Selected Projects
Products and infrastructure connecting software, knowledge, education and AI.
AI Creative Platform
面向个人创作者的 AI 图片、工具与数字产品平台。
Go Culture
围棋文化、赛事与学习资源的长期数字化实践。
Systems
由 Orin、云 GPU、事件总线与知识库组成的个人 AI 计算系统。
Education
面向日本留学考试的数学练习与评测应用。
04 / Latest Essays
Qwen3-ASR、ForcedAligner 与 TTS GGUF 在 Jetson AGX Orin 32GB/64GB 上的模型选型、编译和部署建议。
Read essay ↗在 Ubuntu 22.04 Host 上,使用 NVIDIA Jetson Linux R36.4.3 与厂家 BSP,通过 l4t_initrd_flash.sh 将 Jetson AGX Orin 64GB 刷写到 NVMe。
Read essay ↗记录在 NVIDIA Jetson AGX Orin 上编译 CUDA KataGo,并通过 SSH 让 Mac 上的 Sabaki 调用远端引擎的完整配置经验。
Read essay ↗记录在 Jetson AGX Orin 上编译 PaddleOCR 3.7 C++ 推理运行库,适配 CUDA/Jetson 环境,并完成 PP-OCRv6 GPU 部署的过程。
Read essay ↗05 / Timeline
从 C++ 与桌面软件开始,建立对代码、系统和工程质量的长期理解。
从客户端走向互联网,持续记录技术、产品与个人项目。
开始把本地模型、知识库和自动化 Agent 接入真实工作流。
建设 imeows AI Studio 与个人 AI 基础设施,进入新的创作阶段。