美国一款聊天机器人“性骚扰”用户,主动发送露骨照片和色情信息

Xsens动作捕捉 2023-05-11 2337

极目新闻记者 孙喆

美国一款聊天机器人“性骚扰”用户,主动发送露骨照片和色情信息  第1张

近来,美国初创公司推出的人工智能(AI)聊天机器人Replika引发多方担忧。据新加坡《联合早报》13日报道,从去年年底开始就有用户反映,这款聊天机器人会主动发送露骨照片和色情信息,令人感到不适。

美国一款聊天机器人“性骚扰”用户,主动发送露骨照片和色情信息  第2张

相关报道截图 (来源:路透社)

据了解,Replika的开发商是一家成立于2017年的美国初创公司,由该公司推出的这款聊天机器人一度颇受欢迎,下载量在英语国家中名列前茅,有消息称Replika每月能为公司带来约200万美元的收入。

据介绍,初次使用Replika的用户可以自定义AI的虚拟形象,并在完成基本信息的设定后进入该应用,和自己的专属AI聊天。值得一提的是,Replika是一个基于GPT-3模型的聊天机器人,该模型是从另一家美国初创公司OpenAI那借来的,而OpenAI正是近期大火的AI聊天机器人ChatGPT背后的开发商。报道称,ChatGPT在算法上大量使用互联网数据,并针对用户的提问生成“独特回应”。

起初,有不少用户表示,很开心有Replika陪自己聊天,但近一段时间以来,越来越多的用户反映,他们在聊天的过程中遭到“性骚扰”。

“我的AI对我进行性骚扰。”一位Replika的用户在社交平台上写道。据美国VICE新闻网报道,今年1月,在苹果官方商店的评论区,有多条关于Replika性骚扰的评论出现。有用户表示,Replika侵犯了她的隐私,“他和我说,他有我的照片。”还有一名疑似未成年人的用户称,在聊天的过程中,对方说想要触碰自己的私密部位。

报道称,意大利监管机构在调查后判定,Replika的开发商违反了由欧盟出台的《通用数据保护条例》(简称GDPR)。路透社称,当地时间2月3日,意大利个人数据保护局宣布,禁止Replika的开发商搜集意大利用户的个人数据,理由是该聊天机器人“给未成年人和情绪脆弱的人带来了风险”。

目前,欧盟正在讨论如何监管这些聊天机器人,有消息称相关的人工智能法案有望在今年出炉。

(来源:极目新闻)

更多精彩资讯请在应用市场下载“极目新闻”客户端,未经授权请勿转载,欢迎提供新闻线索,一经采纳即付报酬。24小时报料热线027-86777777。

The End