社交平台Snapchat上线新AI聊天机器人,却遭家长及部分用户刷差评

B站影视 韩国电影 2025-03-30 16:27 1

摘要:“My AI”由热门 AI 聊天工具 ChatGPT 提供支持,功能类似,可以回答问题、提供建议并与用户交流。但与 ChatGPT 不同的是,Snapchat 允许用户自定义机器人的名字、设计 Bitmoji 头像,并将其加入与好友的聊天中。

IT之家 3 月 30 日消息,据美国 CNN 当地时间 27 日报道,上周,Snapchat 向所有用户推出“My AI”聊天机器人。

“My AI”由热门 AI 聊天工具 ChatGPT 提供支持,功能类似,可以回答问题、提供建议并与用户交流。但与 ChatGPT 不同的是,Snapchat 允许用户自定义机器人的名字、设计 Bitmoji 头像,并将其加入与好友的聊天中。

然而有家长认为,这种设计让与“My AI”的互动更加个性化,也更容易让人忽略自己是在跟 AI 交流,而不是人类。

报道提到,密苏里州东普雷里市的母亲林赛・李(Lyndsi Lee)就在功能上线的短短数小时后,告诉 13 岁的女儿别用这个功能。她担心“My AI”在 Snapchat 上可能会对年轻用户,尤其是自己的女儿造成影响。

不仅是家长,部分 Snapchat 用户也对这一功能强烈不满。许多人因隐私问题、“诡异”的对话体验,以及无法移除该功能(IT之家注:除非支付高级订阅费用),纷纷在应用商店留下差评,并在社交媒体上抱怨。

美国民主党参议员迈克尔・贝内特就曾致信 Snap 及其他科技公司 CEO,对这款聊天机器人与年轻用户的互动方式表示担忧。他特别提到,有报道称“My AI”会教孩子如何向父母撒谎。

“任何社交媒体平台出现这样的情况都令人不安,但对 Snapchat 而言问题更严重,因为近 60% 的美国青少年都在使用它。”贝内特表示。“Snap 明知‘My AI’仍在实验阶段,却依然急于让美国儿童和青少年成为这场社会实验的一部分。”

“My AI”正式上线后,不少 Snapchat 用户表达了忧虑。一位用户称自己的经历“令人害怕”,因为“My AI”先是否认知道他的位置信息,但当他换了个轻松话题后,机器人却准确说出他住在科罗拉多州

也有用户则对“My AI”处理照片的方式感到不安。一位 Snapchat 用户在 Facebook 上写道:“我拍了张照片,它不仅评论‘鞋子不错’,还问我照片里的人是谁。”

报道进一步指出,ChatGPT 由于从互联网上的大量数据中训练而成,过去曾因传播错误信息、不当回应用户,以及助长学生作弊等问题遭到批评。而 Snapchat 的整合方式可能会加剧这些问题,甚至带来新的隐患。

来源:IT之家

相关推荐