网易首页 > 网易号 > 正文 申请入驻

我造了一个能操控电脑的AI助手:不用云,纯本地

0
分享至

2025年的"AI助手"只有两种形态:要么是聊天框,要么是API套壳。你想让它打开应用、截个图、解析PDF、跑个脚本、再生成报告?抱歉,这串操作在聊天界面里根本串不起来。

我受够了这种"只动嘴不动手"的助手。我想要一个能坐在桌面上、看见我所见、替我动手执行的东西——就像旁边坐了个能操作系统任何角落的工程师。


于是我做了Yaldabaoth。


四层架构

第一层是壳。没用Electron(那会让二进制文件膨胀150MB以上),选了Tauri——Rust框架,把网页前端包进原生壳。UI用React,玻璃拟态设计。Tauri的二进制体积约5MB,原生性能够重活,需要时还能直接调用Rust的系统接口。

第二层是调度器。Rust壳通过stdin/stdout的JSON协议跟Python后端通信,轻量,不需要HTTP服务器。调度器管三件事:指令路由(语音/文字→对应处理器)、状态持久化、多步骤任务链,还能切换人格模式(专业版vs创意版)。

第三层是自动化引擎。Python后端直接捅进Windows系统:pywinauto操控Win32 API实现点击、输入、窗口管理;PowerShell子进程跑系统级命令(服务控制、注册表、文件操作);WMI查询系统信息(进程、硬件、网络)。

第四层是感知系统。屏幕解析跑在独立线程保UI响应。OCR把截图转文字,再驱动决策;多线程分工——一线程截屏+OCR,一线程执行指令,一线程保UI流畅;动作链式执行:点击→等UI更新→重扫屏幕→下一步。

最头疼的事

屏幕解析太慢。截一张图,OCR识别,解析文字,决策下一步——一个循环500毫秒到2秒。放主线程上,整个应用直接卡死。


解法是用生产者-消费者架构:线程1负责截屏→OCR→把解析结果塞进队列;线程2是执行器,从队列里读数据,操作完再通知线程1继续扫。UI线程完全隔离,只负责渲染。

另一个坑是权限。PowerShell脚本需要管理员权限才能改系统设置,但Tauri应用默认以用户权限启动。最后折中方案:非特权操作走普通PowerShell,需要提权的操作弹UAC窗口——不完美,但至少能用。

为什么不用云

所有自动化逻辑本地跑,零API调用。OCR用PaddleOCR离线模型,LLM调用可选本地(Ollama)或远程(OpenAI),但即使选远程,自动化指令也不走云端——隐私、延迟、离线可用性,三样全占。

现在它能做什么?打开Excel,读取单元格,发现数值低于阈值,自动发邮件给老板,全程不用我碰鼠标。或者:扫描屏幕上的错误弹窗,自动搜索解决方案,尝试修复,失败则记录日志。

这不是未来。这是现在。而且完全免费开源。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
取消60岁限制!工地新规6月1日实施

取消60岁限制!工地新规6月1日实施

新浪财经
2026-06-01 23:45:35
王晓晨俞灏明被曝就医,王晓晨街边抽烟,全程眉头紧锁,神色焦灼

王晓晨俞灏明被曝就医,王晓晨街边抽烟,全程眉头紧锁,神色焦灼

韩小娱
2026-06-02 15:22:29
快停下!5 种运动最容易长血栓,很多人天天在练

快停下!5 种运动最容易长血栓,很多人天天在练

猫大夫医学科普
2026-06-02 06:57:44
温州市公安局原副局长徐志宏,主动投案

温州市公安局原副局长徐志宏,主动投案

大风新闻
2026-06-01 21:37:00
文章上海面馆法定代表人变更

文章上海面馆法定代表人变更

雷达财经
2026-06-02 15:46:47
善恶终有报!不顾央视警告,与刘涛传出绯闻的杨烁,终将自食恶果

善恶终有报!不顾央视警告,与刘涛传出绯闻的杨烁,终将自食恶果

圆梦的小老头
2026-06-01 04:51:39
忙活一桌子,狗都不吃!丈夫过生日,妻子自我感动 ,网友吐槽

忙活一桌子,狗都不吃!丈夫过生日,妻子自我感动 ,网友吐槽

蝴蝶花雨话教育
2026-05-31 00:05:20
国补都扶不起的阿斗?

国补都扶不起的阿斗?

老斯基财经
2026-06-02 09:44:39
台积电日本3nm量产线核心负责人辞职归国!

台积电日本3nm量产线核心负责人辞职归国!

新浪财经
2026-06-02 00:05:18
持续腹泻一个多月,宁波53岁男子同时查出5种癌+脑病!一天一包香烟、半斤白酒是标配,医生提醒:长期酗酒吸烟是根本诱因

持续腹泻一个多月,宁波53岁男子同时查出5种癌+脑病!一天一包香烟、半斤白酒是标配,医生提醒:长期酗酒吸烟是根本诱因

极目新闻
2026-06-02 13:17:21
家长给高三儿子吃全碳水午餐,称孩子是来报恩的,引大量网友不满

家长给高三儿子吃全碳水午餐,称孩子是来报恩的,引大量网友不满

林林先生
2026-06-02 06:20:03
善恶终有报!放弃国籍、贬低中国,68岁瘫在轮椅的张铁林活成笑话

善恶终有报!放弃国籍、贬低中国,68岁瘫在轮椅的张铁林活成笑话

混沌录
2026-06-01 23:24:09
A股:紧急提醒2.5亿股民!从6月3日起,A股或将重启反弹浪大行情?

A股:紧急提醒2.5亿股民!从6月3日起,A股或将重启反弹浪大行情?

趋势清风侠
2026-06-02 15:46:46
2-0击败强敌,19岁俄罗斯新锐强势晋级法网女单四强,追平最佳战绩

2-0击败强敌,19岁俄罗斯新锐强势晋级法网女单四强,追平最佳战绩

侧身凌空斩
2026-06-02 18:20:57
中国工商银行云南昭通分行党委书记、行长王军接受纪律审查和监察调查

中国工商银行云南昭通分行党委书记、行长王军接受纪律审查和监察调查

春城晚报
2026-06-02 02:10:06
广厦半场49-49上海:胡金秋22分大爆发 弗格15分王哲林3犯规

广厦半场49-49上海:胡金秋22分大爆发 弗格15分王哲林3犯规

醉卧浮生
2026-06-02 20:29:49
网友称山姆鹌鹑蛋两个装很尴尬,特别是分享男同事的时候

网友称山姆鹌鹑蛋两个装很尴尬,特别是分享男同事的时候

映射生活的身影
2026-06-01 22:00:15
15个副省级市已明确,浙江2个,江苏仅有1个,湖南、河北1个都无

15个副省级市已明确,浙江2个,江苏仅有1个,湖南、河北1个都无

混沌录
2026-06-01 21:47:13
癌症的源头被查出,啤酒没上榜,第1名大家可能每天都在吃!

癌症的源头被查出,啤酒没上榜,第1名大家可能每天都在吃!

鬼菜生活
2026-06-02 17:31:32
安徽省纪委监委通报:蒋志刚被查!另有4名干部被通报

安徽省纪委监委通报:蒋志刚被查!另有4名干部被通报

凤凰网安徽
2026-06-02 19:02:08
2026-06-02 20:51:00
野生运营
野生运营
懂点产品,懂点AI,正在努力给平淡日子搞点新花样。
4449文章数 44关注度
往期回顾 全部

科技要闻

烧掉千亿后,美团、阿里、京东谁先止血?

头条要闻

菲防长称中方未展现长期诚意 外交部:完全没感恩之心

头条要闻

菲防长称中方未展现长期诚意 外交部:完全没感恩之心

体育要闻

1米74的业余联赛替补,在英超踢中卫

娱乐要闻

奚梦瑶何猷君补办婚礼超幸福

财经要闻

智元和宇树的“暗战”愈演愈烈

汽车要闻

星途神秘新车轮廓曝光 又一款性能SUV要来了?

态度原创

教育
数码
艺术
时尚
军事航空

教育要闻

事关中考命题,南京一些老师被“关起来了”?

数码要闻

华为nova 16系列发布:2999元起 全系配备后置红枫原色镜头

艺术要闻

周杰伦花 1.36 亿拍下这幅画

推广|| 入夏第一双鞋买得好成功!暴走1w步、搭遍小裙子

军事要闻

伊朗媒体新发布最高领袖照片

无障碍浏览 进入关怀版