当AI接管手机，如何回应用户的隐私期待？

AI大模型的快速发展为手机终端注入新的活力。过去一年，各大厂商密集发布AI手机新品，宣称AI手机可以成为“贴身助理”，替你点咖啡、发微信等，但安全与挑战也随之而来。

对于手机厂商而言，隐私保护与数据安全是摆在眼前的必答题。日前，在对外经贸大学举办的“边缘计算新纪元：端侧大型语言模型的应用、风险与治理前瞻”研讨会上，多位专家学者分享了对这一主题的看法。

南都记者注意到，AI变身“贴心助理”的同时，如何回应用户的隐私期待，是不少专家关心的问题。有专家建议，需建立严格的双重授权与合理期待机制来平衡技术发展与风险防范。还有研究者呼吁，构建以信任为核心的交互边界框架，充分尊重用户的知情权，为用户提供“不用于模型训练优化”等选择，提升用户对数据使用的理解和控制。

另一个备受关注的议题是，数据安全责任分配。当AI智能体成为新的流量入口，用户数据的控制权也在发生转移，终端厂商掌握了更多的主动权。一旦AI智能体能无缝访问各类App，那么App服务提供者将失去与用户的直接接触点，这也使得数据安全和隐私保护的责任边界变得复杂模糊。

端侧大模型的隐私挑战：

用户期待与实际风险有差距

当AI接管手机，是什么样的场景？

理想状态下，通过一句话指令，AI手机可以帮你打开一众App，实现点咖啡、发微信消息等自动操作。但AI提供便捷和贴心服务的前提，建立在大量的数据收集和使用基础上。为了让AI“更懂你”，用户需要让渡更多的个人隐私数据。过程中，如何避免数据隐私泄露问题至关重要。

北京大学法学院副院长、长聘副教授戴昕认为，端侧大模型治理的核心难题在于，绝大多数用户缺乏与“个人助理”互动的经验，无法准确形成在这一场景中有关个人信息使用的合理预期。

中国人民大学法学院教授、未来法治研究院副院长丁晓东也提到，端侧大模型对个人信息保护构成重大挑战，主要体现在用户期待与实际风险之间的巨大差距。大模型部署在硬件层面要实现智能化，必然需要调用相关信息作为支撑。比如，部分手机厂商调用了无障碍权限。

南都此前测评发现，部分手机厂商调用了无障碍服务、一键识屏、模拟点击等高敏感权限，这使得用户手机屏幕上的所有内容都有可能被读取——包括文字、图片、聊天记录、交易信息等。测评还发现，在用户可能不知情的情况下，个别AI手机智能体自动调用开启了无障碍权限。

“普通用户可能把手机视为一个上锁的笔记本，而无障碍权限的开启相当于将所有抽屉一次性全部打开，这远超出了用户的合理预期。”丁晓东说。

为应对端侧大模型带来的隐私与数据安全挑战，丁晓东认为，需建立严格的双重授权与合理期待机制来平衡技术发展与风险防范。具体而言，第一重授权是应用厂商层面。端侧大模型必须首先获得应用厂商的明确授权或许可。第二重授权是用户层面，且应采用“选择加入”而非“默认启用”的机制。此外，还需要建立合同之外的保障，通过合理信赖、侵权防范或个人信息保护机制建立用户合理期待。

还有多位专家提及，应赋予用户更多的控制权。清华大学人工智能国际治理研究院助理研究员宋雨鑫认为，智能体执行过程具有一定自主性和随机性，使个人信息收集使用最小必要原则的适用面临困难。

为此，她建议构建以信任为核心的交互边界框架。在安全交互层面上，更强调用户权益保护，为用户提供更多数据使用选择权，如限制第三方分享、敏感信息搜集确认、删除对话数据、不用于模型训练优化等。

AI与App争夺流量入口，

数据安全责任边界尚待厘清

当用户依靠AI手机智能体调用其他App时，预示着流量入口的迁移。一些App厂商担心，一旦AI代理能够无缝访问各类应用，那么它们将失去与用户的直接交互点。

此前有业内人士告诉南都记者，AI智能体的自动化操作，可能会波及第三方App的停留时长、广告推荐等获利模式，将原本的流量入口从App迁移至智能体，减少用户关注和使用App的频率。

AI与App争夺流量入口的背后，不仅关乎利润分配和商业模式的重构，也涉及数据权责分配问题。中国信通院互联网法律研究中心主任何波认为，AI手机在为用户带来便捷智能体验的同时，改变了移动互联网时代的数据生态，打破了应用间数据相互隔离的格局，强化了终端厂商和模型服务提供商对数据的控制能力，多元主体竞争博弈下数据安全和隐私保护的责任问题变得更加复杂模糊。

在何波看来，多主体数据收集和处理会引发责任认定困境。在端云协同的技术路线下，数据流转涉及手机厂商、应用开发者、第三方服务提供商等多个主体，任何单一主体都难以完全掌握和控制整个服务链条上的数据处理情况。

而当前，各方在数据收集、使用、共享过程中尚未形成明确的责任边界。中国社会科学院法学研究所副研究员唐林垚认为，在端云协同生态中，终端厂商、应用开发者和云服务商都属于数据处理者，风险出现时可能相互推诿。他建议细化权限分类和动态告知义务，出台明确的端侧数据安全标准，并通过细腻度更高的法律规则实现责任划分。

安全和发展是一体两翼。南都记者注意到，在探讨数据治理挑战的同时，与会专家也肯定了端侧大模型在提升处理能力、改善用户体验方面的积极价值。何波认为，大模型的快速发展为智能终端产业注入了新的活力。近一年以来，AI手机、AI PC密集发布，大模型在终端侧的部署应用已成为新的发展趋势。AI终端正处在“渗透初期”，随着技术的不断完善，AI终端将驱动消费电子新一轮的增长曲线。

在确保安全的前提下，如何促进AI手机行业健康持续发展？何波建议，统筹近期和中远期的关系，综合运用技术和制度政策等多种手段促进规范发展。

具体而言，他认为近期可针对已暴露的突出问题（如数据隐私保护），通过开展专项检测行动，将端侧大模型纳入现有个人信息保护监测体系、加强安全测评等技术手段进行治理。中远期则可考虑通过立法方式，对端侧大模型的功能发展进行规范，包括制定新法和修订现有法律。

端侧大模型所带来的既是“充满光明的未来”，也面临“布满荆棘的路途”。对外经济贸易大学法学院教授张欣提到，2024年被誉为“AI手机元年”，这一背后体现的是产业技术与应用的跨越式发展。如何共同探索端侧大模型在移动智能终端的未来发展方向，厘清各种技术路径的潜在收益与风险，凝聚产业生态共识，备受关注。

采写：南都记者李玲