5分钟上手Open-AutoGLM,小白也能玩转AI手机助手
你有没有想过,以后动动嘴就能让手机自己干活?不用点开APP、不用手动输入、不用反复切换页面——只要说一句“帮我订明天下午三点的咖啡外卖”,手机就自动打开美团、筛选门店、下单支付,全程零手动。这不是科幻电影,而是Open-AutoGLM正在实现的真实能力。
Open-AutoGLM是智谱AI开源的手机端AI Agent框架,它把大模型+视觉理解+自动化操作三者真正打通。它不只“会说话”,更“会做事”:能看懂你手机屏幕上的每一个按钮、文字和图标,能听懂你用大白话下的指令,还能像真人一样点击、滑动、输入、截图,一步步完成任务。
最关键是——它对新手极其友好。不需要懂模型原理,不用配GPU服务器,甚至不用写一行复杂代码。本文就带你用5分钟完成从零到第一次成功执行指令的全过程。全程无术语堆砌、无配置陷阱、无隐藏步骤,连安卓调试都没接触过的朋友,照着做也能跑通。
1. 先搞懂它到底是什么:一个能“看见+思考+动手”的AI助手
1.1 它不是另一个聊天机器人
市面上很多AI工具只能回答问题,比如你问“附近有什么火锅店”,它给你列个清单。但Open-AutoGLM不一样——它能直接帮你打开美团、搜索、点进店铺、加购、下单。它的核心能力是闭环的:
- 看:通过截图实时理解当前手机界面(按钮在哪、文字说什么、当前在哪个APP)
- 想:把你的自然语言指令拆解成可执行动作(先点放大镜→再输“火锅”→再点搜索→再选第一家)
- 做:用ADB(Android调试桥)真实操控手机,就像你亲手操作一样
这背后不是靠预设脚本,而是靠视觉语言模型(VLM)+任务规划器协同工作。你可以把它理解成给手机配了一个“数字分身”,而你只需要用中文发号施令。
1.2 小白最关心的三个问题
-
需要安卓手机吗?
是的,但也可以用电脑上的安卓模拟器(后面会教你怎么5分钟装好),完全不用真机。 -
要自己训练模型吗?
不需要。本文用的是智谱官方提供的云端API服务,你只需提供一个免费API Key,模型、显卡、部署全由他们搞定。 -
会不会很复杂?要配环境变量、改代码、调参数?
核心流程只有4步:装Python → 配ADB → 下代码 → 运行命令。每一步都有明确提示,失败时有对应排查方法。我们跳过所有理论,直奔“能跑起来”这个目标。
2. 准备工作:3分钟搞定全部依赖
2.1 装Python(30秒)
访问 python.org/downloads,下载最新版Python(推荐3.12.x)。安装时务必勾选 “Add Python to PATH” ——这是避免后续命令报错的关键一步。
装完后按 Win + R 输入 cmd 回车,在黑窗口里输入:
python --version
如果显示类似 Python 3.12.7,说明成功。
2.2 配ADB工具(2分钟)
ADB是控制安卓设备的“遥控器”。去Android官网下载平台工具,解压到一个简单路径,比如 C:\adb。
然后配置环境变量(Windows):
- 按
Win + R输入sysdm.cpl→ 点“高级” → “环境变量” - 在“系统变量”里找到
Path→ 点“编辑” → “新建” → 粘贴你刚解压的路径(如C:\adb) - 点确定保存
验证是否成功:新开一个cmd窗口,输入:
adb version
看到版本号(如 Android Debug Bridge version 1.0.41)就OK了。
小贴士:Mac用户只需在终端运行
export PATH=$PATH:~/Downloads/platform-tools(把路径换成你自己的),并把这行加到~/.zshrc里永久生效。
2.3 启动安卓环境(1分钟)
没有真机?别担心。我们用免费的Android Studio模拟器,它比真机还稳定。
- 去 developer.android.com/studio 下载Android Studio
- 安装时两个选项都勾上(Android SDK + Android Virtual Device)
- 装完打开 → 点右下角
More Actions→Virtual Device Manager - 点
Create Device→ 选Phone分类 → 选Pixel 4或Medium Phone→ 下一步默认 → 完成
启动模拟器后,它会自动进入安卓桌面。这时在模拟器里:
- 打开「设置」→ 搜索
Developer options→ 开启 - 再搜
USB debugging→ 开启 - 搜
Keyboard→ 找到ADB Keyboard并设为默认输入法
最后回到电脑cmd,输入:
adb devices
如果看到一串设备ID(如 emulator-5554 device),说明模拟器已连通
3. 部署与运行:2分钟让AI开始干活
3.1 下载并安装Open-AutoGLM
打开cmd(确保在任意路径),依次执行:
git clone https://github.com/zai-org/Open-AutoGLM
cd Open-AutoGLM
pip install -r requirements.txt
pip install -e .
如果提示
git不是内部命令,请先去 git-scm.com 下载安装Git,或直接去GitHub页面下载ZIP包解压后进入文件夹操作。
3.2 获取智谱API Key(30秒)
访问 open.bigmodel.cn,登录后:
- 右上角点「控制台」→ 「API Key」→ 「创建新Key」
- 命名如“auto-glm-test”,复制生成的Key(形如
sk-xxx)
Key是你的凭证,请勿外泄。测试用完可随时在后台删除。
3.3 发出第一条指令(30秒)
回到cmd,确保你在 Open-AutoGLM 文件夹内,运行:
python main.py \
--base-url https://open.bigmodel.cn/api/paas/v4 \
--model "autoglm-phone-9b" \
--apikey "sk-你的API-Key" \
"打开小红书搜索‘北京烤鸭’"
把 sk-你的API-Key 替换成你刚复制的Key,回车。
你会看到:
- 模拟器自动截屏 → 上传 → AI分析界面
- 控制台打印思考过程:“识别到小红书图标 → 点击 → 等待加载 → 找到搜索框 → 输入‘北京烤鸭’ → 点击搜索”
- 模拟器屏幕上真实执行每一步操作
成功!从敲命令到看到搜索结果,全程不到1分钟。
4. 实用技巧与避坑指南:让体验更稳更顺
4.1 指令怎么写才有效?
Open-AutoGLM听的是“人话”,不是编程指令。好指令 = 明确动作 + 具体对象 + 可执行上下文
| 好例子 | ❌ 差例子 | 为什么 |
|---|---|---|
| “打开微信,给张三发消息:今天会议改到三点” | “调用微信API发消息” | 它不认API,只认APP名和操作 |
| “在淘宝搜‘无线耳机’,选销量第一的,加入购物车” | “执行电商任务” | 太模糊,没告诉它用哪个APP、搜什么、怎么选 |
| “打开设置,关掉蓝牙” | “禁用蓝牙模块” | 它操作的是UI,不是系统底层 |
小技巧:第一次用某个APP前,先手动打开一次,让它“记住”图标位置;后续指令成功率更高。
4.2 常见问题速查表
| 问题现象 | 可能原因 | 一句话解决 |
|---|---|---|
adb devices 显示 offline | 模拟器USB调试未开启,或ADB版本太旧 | 重启模拟器 → 重开USB调试 → 更新ADB |
| 运行后无反应,卡在“waiting for screenshot” | 智谱API Key错误,或网络不通 | 检查Key是否复制完整;换用手机热点试试 |
| 模型一直找APP图标但找不到 | 模拟器桌面太干净,没安装目标APP | 手动在模拟器里装一个美团/小红书/抖音(APK包网上可搜) |
报错 Connection refused | 云服务地址写错了 | 确保是 https://open.bigmodel.cn/api/paas/v4,不是 /v1 或其他 |
所有报错信息都会在控制台明确提示,比如
Invalid API key或Device not found,按字面意思排查即可,无需猜。
4.3 进阶玩法:不只“执行”,还能“反馈”
Open-AutoGLM支持带返回值的调用。比如你想让AI看完小红书笔记后,告诉你“这家店人均多少、评分几颗星”,可以这样写:
python main.py \
--base-url https://open.bigmodel.cn/api/paas/v4 \
--model "autoglm-phone-9b" \
--apikey "sk-xxx" \
"打开小红书,搜索‘上海迪士尼’,截图第一页,告诉我门票价格和开放时间"
它会执行操作,再基于截图内容提取文字并总结。这对信息采集、竞品调研、客服辅助等场景非常实用。
5. 总结:你刚刚跨过了AI落地的第一道门槛
5.1 我们到底完成了什么?
- 用不到5分钟,让一台“空白”的安卓模拟器,拥有了听懂中文、看懂界面、自动操作的能力
- 零GPU、零模型部署、零Linux命令基础,纯靠Windows/macOS图形化环境 + 4条命令
- 第一次指令就成功执行,不是“Hello World”,而是真实打开APP、搜索、呈现结果
这背后的意义远不止于“好玩”:它证明了AI Agent的门槛正在快速降低。未来,你不需要成为开发者,也能定制自己的AI助理——帮老人操作手机、帮孩子检查作业、帮销售自动填表、帮设计师批量截图……所有重复性界面操作,都可以交给它。
5.2 下一步你可以做什么?
- 尝试更复杂的指令:比如“对比京东和拼多多上iPhone15的价格,截图价格页并告诉我差多少”
- 换真机试试:用旧安卓手机(Android 7.0+),开启USB调试,插线即用
- 接入你自己的APP:只要APP有标准UI,它就能操作(目前支持主流国产ROM)
- 查看源码里的
phone_agent/agent.py,你会发现核心逻辑只有200行,修改成本极低
技术从来不是少数人的玩具。当你第一次看着手机自己点开小红书、打出“北京烤鸭”、按下搜索键——那一刻,你已经站在了AI真正走进生活的起点。
获取更多AI镜像
想探索更多AI镜像和应用场景?访问 CSDN星图镜像广场,提供丰富的预置镜像,覆盖大模型推理、图像生成、视频生成、模型微调等多个领域,支持一键部署。




被折叠的 条评论
为什么被折叠?



