AI伴侣类应用迅猛发展 当心虚拟情感背后的“甜蜜”危机

　　当前AI伴侣类应用迅猛发展，有的主打情感陪伴，提供情绪价值；有的融入角色扮演元素，让用户能够与虚拟伴侣展开各种互动。AI伴侣通过不断学习对话内容，深入了解用户的聊天风格、情绪变化和价值取向，成为“量身定制”的理想伴侣。然而这看似“深情”的背后，却可能是“甜蜜”危机。近日，江苏省消费者权益保护委员会指出，AI伴侣类应用可能存在隐私泄露、内容安全、消费陷阱和情感依赖等风险。

　　AI伴侣的诞生，为存在情感需求的群体提供了情感寄托的空间，在一定程度上缓解了孤独感与焦虑情绪，但其潜藏的风险不容忽视，尤其是隐私安全问题。江苏省消保委表示，部分AI伴侣应用在运行期间，存在过度收集用户信息的现象，聊天记录、地理位置、软件使用习惯等数据均可能被收集，甚至有应用在未经用户明确同意的情况下，私自读取其他软件信息、浏览记录及访问相册。一旦发生隐私泄露，消费者的个人权益、财产、生活等都将受到严重影响。并且，AI伴侣模型训练数据来源广泛，部分数据收集与筛选不严，部分应用存在传播不良信息的风险，这些有害内容会对用户的身心健康构成威胁。

　　AI伴侣的“陪伴”并非免费，应用里的收费模式多种多样，包括会员订阅制、虚拟物品销售、功能付费解锁、付费剧情和任务等等。部分应用的收费规则不仅缺乏透明度，还存在诱导消费行为，通过不断推出新的付费项目、设置限时优惠等手段，刺激用户进行非理性消费。沉溺这种“陪伴”更不可靠，AI伴侣模拟人类情感交流，引起情感共鸣，然而其给予的反馈内容并不是真实的情感体验，而是基于预设算法生成的回应。用户长期依赖这类虚假情感反馈，可能会对真实人际关系中的情感互动产生误解，进而降低自身在现实生活中识别和处理真实情感的能力。

　　江苏省消保委建议监管部门加大对此类应用市场的监管力度，定期对AI类应用的数据安全、算法合规性、内容合法性等进行检查，对发现的问题及时责令整改，对严重侵犯消费者权益、违反法律法规的行为依法予以查处。应用开发者需建立健全数据安全管理体系，明确数据收集、存储、使用、共享等环节的安全标准和责任，定期对数据存储系统进行安全检测和漏洞修复，加强员工的数据安全培训，增强数据保护意识，多方面保障用户数据安全。同时要建立严格的内容审核机制，对AI伴侣输出的内容进行全面审核，确保其不包含任何误导性、歧视性或不良价值观的信息，加强对AI模型的训练和优化，使其能够输出积极、健康情感反馈和建议，引导用户树立正确的价值观。

　　消费者在选择AI伴侣应用时，务必仔细审阅隐私政策，了解数据处理规则。优先考虑规则透明、数据保护强、口碑好的应用。在使用过程中，根据需求授权数据权限，避免授权敏感权限如地理位置、通讯录、浏览记录等。若发现存在被过度收集个人信息的情况，应及时停用并反馈。