摘要：随着人工智能技术的发展，“AI伴侣”逐渐兴起。AI伴侣的诞生，为存在情感需求的群体提供了情感寄托的空间，在一定程度上缓解了孤独感与焦虑情绪。但随着AI伴侣的普及，其潜藏的风险不容忽视，尤其是用户隐私安全问题。一旦发生隐私泄露，用户的个人生活、工作将受到严重影响
江苏女性的暖心家园
学习
妇女权益保障法
随着人工智能技术的发展，“AI伴侣”逐渐兴起。AI伴侣的诞生，为存在情感需求的群体提供了情感寄托的空间，在一定程度上缓解了孤独感与焦虑情绪。但随着AI伴侣的普及，其潜藏的风险不容忽视，尤其是用户隐私安全问题。一旦发生隐私泄露，用户的个人生活、工作将受到严重影响。
此外，这种看似贴心的虚拟情感寄托模式，可能悄然演变成用户逃避现实问题的“避风港”，切不可过度沉溺其中，忽视现实生活中构建与维系真实人际关系的重要意义。今天，小编将从几个方面为您揭示AI伴侣背后的风险。
01
隐私泄露风险
部分AI伴侣应用在运行期间，存在过度收集用户信息的现象。诸如用户的聊天记录、地理位置、软件使用习惯等数据，均被纳入收集范畴。甚至有应用在未经用户明确同意的情况下，私自读取其他软件信息、浏览记录及访问相册。
依据我国《个人信息保护法》第十七条，个人信息处理者在处理个人信息前，应当以显著方式、清晰易懂的语言向个人如实告知相关事项，然而部分应用并未严格遵循。一旦这些数据在存储、传输环节保护不力，可能会引发隐私泄露的问题，被不法分子用于精准诈骗、恶意营销等违法活动，损害用户财产安全与个人权益。
02
消费陷阱风险
部分应用的收费规则缺乏透明度，例如一些功能在付费前未明确告知使用期限和后续收费标准，用户在付费后才意识到存在不少限制。同时，还存在诱导消费行为，通过不断推出新的付费项目、设置限时优惠等手段，刺激用户进行非理性消费。以获取虚拟物品为例，虽然单次花费看似不多，但为了集齐特定系列或提升虚拟伴侣等级，用户往往在不知不觉中投入不少金钱，从而造成不必要的经济负担。
03
内容安全风险
由于AI伴侣模型训练数据来源广泛，且部分数据收集与筛选不严，这就导致其存在传播不良信息的风险，诸如暴力、极端思想等有害内容。此类不良信息的传播，对用户尤其是心智尚未成熟的青少年的身心健康构成威胁。
我国《数据安全法》第八条规定，任何组织和个人在开展数据处理活动时，不得损害个人、组织的合法权益，更不得危害国家安全与公共利益。然而，部分AI伴侣应用在实际运营过程中，并未严格遵循该项法律要求，在数据处理环节存在漏洞与隐患，需加强整改。
04
情感依赖风险
AI伴侣旨在模拟人类情感交流，引起情感共鸣，然而其给予的反馈内容并非真实的情感体验，而是基于预设算法生成的回应。用户长期依赖这类虚假情感反馈，可能导致其对真实人际关系中的情感互动产生误解，进而降低自身在现实生活中识别和处理真实情感的能力。
而在关注AI伴侣带来的普遍性风险时，也需要重视其对女性群体可能产生的特殊影响。在虚拟情感互动中，部分AI伴侣可能通过算法预设带有性别偏见的对话模式，甚至出现物化女性、贬低人格的不当内容，这类隐性侵害极易对女性用户的人格尊严造成伤害。
法条链接
我国《妇女权益保障法》明确在女性人格权益保护等方面作出规定：
第二十条 妇女的人格尊严不受侵犯。禁止用侮辱、诽谤等方式损害妇女的人格尊严。
第二十八条 妇女的姓名权、肖像权、名誉权、荣誉权、隐私权和个人信息等人格权益受法律保护。
媒体报道涉及妇女事件应当客观、适度，不得通过夸大事实、过度渲染等方式侵害妇女的人格权益。
禁止通过大众传播媒介或者其他方式贬低损害妇女人格。未经本人同意，不得通过广告、商标、展览橱窗、报纸、期刊、图书、音像制品、电子出版物、网络等形式使用妇女肖像，但法律另有规定的除外。
这意味着，当AI伴侣以语音、文字、图像等形式输出涉及女性的侮辱性内容，或未经授权采集、使用女性用户肖像生成虚拟形象时，均已触碰法律红线。
女性用户在使用AI伴侣时，若发现对话内容含有性别歧视、人格贬低倾向，或个人肖像被擅自用于商业推广等情况，可依据《妇女权益保障法》相关条款，通过向网信、公安等部门投诉、或提起民事诉讼等途径维权。而AI应用开发者与运营者，更需以法律为标尺，在算法设计、数据训练、内容审核环节强化性别平等意识，坚决过滤侵害女性人格权益的不良内容，切实履行法律赋予的保护义务，让科技发展真正成为守护女性权益的助力而非隐患。
大家在使用各类AI应用时，也务必仔细审阅隐私政策，了解数据处理规则。优先考虑规则透明、数据保护强、口碑好的应用及平台。在使用过程中，根据需求授权数据权限，避免授权敏感权限如地理位置、通讯录、浏览记录等。若发现存在过度收集个人信息的情况，应及时停用并反馈。在使用过程中，始终保持理性的态度，不过度依赖AI伴侣。
编辑：李志宏
校对：吴元梓
审核：杨易霖
总编：陆艾涢
来源：江苏省妇女联合会