AI手机越智能隐私风险越大？专家热议端侧AI数据安全

　　2023年起，从苹果到三星的手机厂商争相推出AI手机。DeepSeek大模型的火爆更是掀起了新一轮合作热潮，国内多家手机厂商陆续宣布接入，为疲软的手机行业注入一剂强心针。

　　在AI手机里，我们看到了一种近乎“全自动生活”的可能：一句指令可以点咖啡、自动导航路线、AI群发微信红包。但在享受科技红利的同时，隐私焦虑也在升温。

　　2月15日，21世纪经济报道、南财合规科技研究院主办学术交流会“AI手机隐私危机：新秩序中的安全挑战与抉择”，探讨AI手机时代面临的隐私挑战，推动手机终端厂商、大模型提供者、开发者、政策制定者与消费者寻求共识，探索解决方案。

　　AI如何装进手机：两张地图

　　要理解AI手机如何运作，必须从两张“技术地图”开始：端侧AI与云侧AI。

　　端侧指的是AI在手机等终端设备上进行计算和处理，响应快、隐私保护能力强、网络依赖性低。中国法学会网络与信息法学研究会常务副秘书长周辉在会上指出，端侧AI理论上能够最大限度地减少数据传输，避免用户敏感信息被上传至云端。如果管理到位，这是一种“更私密”的解决方案。

　　南财合规科技研究院院长、21世纪经济报道总裁虞伟提及，在此前实测中发现，尽管手机厂商都宣称自己的端侧AI大模型能力，但普遍的AI功能仍依赖云侧大模型。端云协同中，用户与模型交互数据密切，较多涉及个人隐私。而模型数据黑箱化，数据处理方多元，交互数据如何流动、是否涉及第三方？数据链路不够透明。

　　在当前的AI手机开发中，端侧、自研AI的端云配合，还是第三方AI的端云配合三条技术路线的优劣势各不相同。

　　尚隐科技有限公司CEO张仁卓指出，纯端侧的模式能完全在本地处理用户的数据，安全性是比较可控。但其风险是，在第三方App介入时，隐私保护的边界往往模糊不清，也容易引发数据滥用或过度采集的问题。而且受限于算力问题，端侧AI往往难以独立完成所有任务。张仁卓表示，当前的主流模式依然是端云配合，即将数据处理分散到本地与云端。

　　AI如何代操作：一把钥匙

　　无论技术路线如何，要让AI智能体操作手机，部分厂商依赖一把万能钥匙：无障碍权限。

　　北京汉华飞天信安科技有限公司总经理彭根介绍，无障碍权限原本是为方便残障人士使用手机而设置的特殊功能，它涵盖视觉、听觉、肢体残疾辅助等多方面功能，比如可以监控屏幕内容，模拟用户点击、滑动、输入等操作，从而帮助残障人士也能使用手机。

　　为了帮残障人士“打破障碍”，无障碍权限能够打破各个App之间的沙箱隔离机制，具有极高的权限，彭根称之为手机里的“上帝模式”。

　　可以想象，“上帝模式”也容易被不法分子滥用为窃取用户信息的工具。例如，恶意程序能够利用该权限监控用户屏幕，窃取银行密码、短信验证码等信息。同时，还能够在用户不知情的情况下静默安装恶意软件，伪造用户行为(如自动刷单、点赞)，带来极大的安全风险。

　　AI隐私风险：三个背景

　　中国信通院互联网法律研究中心主任何波表示，人工智能是引领这一轮科技革命和产业变革的战略性技术，相关产业正在向多智能融合新阶段发展，成为发展新质生产力的重要引擎。AI手机作为创新应用的探索和尝试，是值得肯定和鼓励的。

　　何波指出，AI手机隐私保护并非“法律裸奔地带”，现有监管法律法规对此已有相关规定。例如，《网络安全法》《数据安全法》《个人信息保护法》明确规定了处理个人信息的要求，包括知情同意规则，最小必要原则等；今年1月1日生效的《网络数据安全管理条例》进一步对涉及自动化工具、生成式人工智能等新兴技术的数据处理活动作出了特殊规定，这些都可以作为AI手机的监管依据。但与此同时，AI手机涉及主体众多，数据在不同主体间流动，导致各环节责任难以区分，也确实存在监管挑战。

　　何波还提到，AI手机作为一个新应用新事物，对很多普通用户而言目前还难以清晰认知到可能带来的安全风险，尤其是在用户信息被抓取和隐私权限被开启时。此外，虽然现在的隐私政策更加细致了，但对普通用户而言也更加复杂难懂了。

　　“与此前以App为抓手的隐私保护不同，AI手机行业生态更为复杂，涵盖手机终端、第三方大模型、APP以及云服务等参与方，各方在数据安全上的责任关系仍不明确，挑战更大。”虞伟指出。

　　此外，AI智能体逐渐成为智能生活的核心中枢，如何在AI能力超越人类的情况下，始终让AI Agent以服从人类命令为前提工作，保持人类的主体地位？当我们与AI越走越近，或许更应该思考以人为本的路径。这一传统上未完全回应的问题，亟待在制度和伦理层面进行思考。