网易首页 > 网易号 > 正文 申请入驻

不用越狱不用Mac,一块ESP32就能让AI替你操作iPhone

0
分享至

想让AI替你操作iPhone,你会想到什么办法?越狱、写一堆底层代码、折腾开发环境——听起来就像一场硬仗。

但有人换了个思路:不碰手机系统,直接让一块现成的微控制器去"动手"。做这件事的人叫 Henry Yuan,他给出的方案核心是一块 ESP32。


先让AI"看见"屏幕

AI要操作手机,第一步得知道屏幕上现在是什么。这一步靠的是 AirPlay 屏幕镜像,配合 UxPlay 实现。

画面拿到之后,再用一条 Gstreamer 管线,把屏幕内容以 JPEG 流的形式喂给你选定的AI代理。也就是说,AI看到的不是抽象指令,而是实时的屏幕画面。

这一步解决的是"感知"问题——AI得先看得见,才谈得上下一步动作。

再让AI"动手"

控制部分交给一块 ESP32-S3,它在这里扮演的是 USB-HID 设备,同时模拟 USB 鼠标和键盘。

配合 iOS 上开启的 AssistiveTouch(辅助触控),AI代理就获得了对设备输入的控制权。点哪里、滑哪里、输入什么,都由它来执行。

至于具体该做哪些动作、怎么组合才能达成目标,那就完全取决于AI代理自己判断了——用作者的话说,这显然是非常依赖具体使用场景的。

绕开门槛,才是这套方案的价值

听起来有点绕,但这条路有它的好处。

它不需要你有 Apple 开发者账号,不需要 Xcode,甚至根本不需要一台 Mac。

你可以直接让AI代理在手机上折腾起来,省掉那些繁琐的前置成本。对于想快速试水、又不想被开发环境卡住的人来说,这个组合的门槛低得多。

换个角度看,这套方案真正有意思的地方不在于技术多复杂,而在于它把"AI操作手机"这件事,从软件层的攻坚,变成了硬件层的一次取巧。

一块几十块钱的板子,加上现成的镜像工具,就绕过了原本需要账号、工具链和特定电脑才能进入的门。

如果你手上正好有一块 ESP32-S3,又对让AI接管手机这件事好奇,这条路或许值得一试。至于AI拿到控制权之后会做出什么,那就看你给它定什么目标了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突发!华为跌48%,小米跌55%,OPPO 跌66%,vivo跌71%,手机涨价潮的后果终于来了!

突发!华为跌48%,小米跌55%,OPPO 跌66%,vivo跌71%,手机涨价潮的后果终于来了!

财经要参
2026-10-15 07:57:48
女大学生“印堂发黑”,找工作五年处处碰壁,网友直言:你这面相,很难成功啊

女大学生“印堂发黑”,找工作五年处处碰壁,网友直言:你这面相,很难成功啊

品读时刻
2026-10-15 09:08:46
泽连斯基:美国未站在历史正确的一边,乌克兰将恢复打击俄罗斯炼油厂,乌方应美国请求实施“能源停火”期间遭俄导弹袭击,未收到美国预警

泽连斯基:美国未站在历史正确的一边,乌克兰将恢复打击俄罗斯炼油厂,乌方应美国请求实施“能源停火”期间遭俄导弹袭击,未收到美国预警

政知新媒体
2026-10-15 14:09:09
“吴兴两人赴泰国旅游意外死亡”,官方通报

“吴兴两人赴泰国旅游意外死亡”,官方通报

界面新闻
2026-10-15 17:37:40
深圳:APEC会议周,全市实行灵活工作安排

深圳:APEC会议周,全市实行灵活工作安排

大风新闻
2026-10-15 12:38:21
一南宁飞杭州航班上婴儿哭闹不止,川航空姐轮流哄娃一小时,整架航班无一人抱怨,网友:“都可以理解的,孩子还小”

一南宁飞杭州航班上婴儿哭闹不止,川航空姐轮流哄娃一小时,整架航班无一人抱怨,网友:“都可以理解的,孩子还小”

大风新闻
2026-10-15 12:18:04
「老房子」也要豹变

「老房子」也要豹变

豹变
2026-10-15 08:00:05
宁愿不出席APEC,也不向中国服软?日媒已证实:高市尚未申报参会

宁愿不出席APEC,也不向中国服软?日媒已证实:高市尚未申报参会

最美的开始
2026-10-15 11:01:47
很快换总统?

很快换总统?

中国新闻周刊
2026-10-15 12:35:06
5万人口小城狂欢!欧冠黑马又赢了:短短1年 斩落4家豪强

5万人口小城狂欢!欧冠黑马又赢了:短短1年 斩落4家豪强

叶青足球世界
2026-10-15 10:53:45
长实集团就“李嘉诚去世”传闻发声:其暂不打算公开露面回应

长实集团就“李嘉诚去世”传闻发声:其暂不打算公开露面回应

南方都市报
2026-10-15 14:52:29
取消住房公积金,释放11万亿的大血包

取消住房公积金,释放11万亿的大血包

百味朱砂
2026-10-15 10:50:50
谈成了,中俄谈成了!

谈成了,中俄谈成了!

故事终将光明磊落
2026-10-15 09:35:28
研究预测:约2/3民办高校或将退出

研究预测:约2/3民办高校或将退出

麦可思研究
2026-10-14 19:46:25
一小男孩被曝衣衫不整跟随母亲游荡 官方:孩子母亲多次拒绝救助,有关部门将成立工作专班

一小男孩被曝衣衫不整跟随母亲游荡 官方:孩子母亲多次拒绝救助,有关部门将成立工作专班

红星新闻
2026-10-15 15:51:23
共和党的失败已成定局,特朗普将自己送进了坟墓

共和党的失败已成定局,特朗普将自己送进了坟墓

修明札记
2026-10-15 13:06:20
A股:今天,股市跳水了,但是,这次情况不同了!

A股:今天,股市跳水了,但是,这次情况不同了!

明心
2026-10-15 11:24:06
徐艺洋官宣当妈!晒一家三口海边合照好温馨,此前曾多次被曝生娃

徐艺洋官宣当妈!晒一家三口海边合照好温馨,此前曾多次被曝生娃

扒虾侃娱
2026-10-15 16:47:35
悲催!心脏三院院士在西安参会猝死,满屋同行无力施救,网友:这是自己刀,削不了自己把儿吗

悲催!心脏三院院士在西安参会猝死,满屋同行无力施救,网友:这是自己刀,削不了自己把儿吗

火山詩话
2026-10-14 20:21:36
毛星火建议拆除胡适雕像,罪恶愚昧何以再次呼风唤雨?

毛星火建议拆除胡适雕像,罪恶愚昧何以再次呼风唤雨?

胖胖说他不胖
2026-10-15 10:00:12
2026-10-15 18:36:49
晚风寄温柔
晚风寄温柔
有态度网友ytd
27文章数 17关注度
往期回顾 全部

科技要闻

核弹院士彭先觉:可控核聚变 不必再等50年

头条要闻

男子捉奸收2.5万被判敲诈后获释 申请423万国赔获受理

头条要闻

男子捉奸收2.5万被判敲诈后获释 申请423万国赔获受理

体育要闻

五大联赛第二射手,开着11年前的二手车

娱乐要闻

蒋劲夫晒体脂率引关注,家暴史再被扒

财经要闻

洋餐饮的中国生意:红利消退后的集体交权

汽车要闻

不止大空间/纯电增程任选 小鹏MONA L05来了

态度原创

家居
手机
旅游
教育
军事航空

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

OPPO手机重回16:9!全新阔直板工程机偷跑:6.35英寸2K屏加持

旅游要闻

北京西山推出亲子、摄影两条赏红路线

教育要闻

高一的重要性

军事要闻

朝鲜潜射两种导弹

无障碍浏览 进入关怀版