当前位置: 首页 > 国内热点

难以置信(机器人聊天软件app聊天机器人 github)Snap AI聊天机器人涉嫌侵犯青少年隐私,英国展开调查

|

Snap未能充分识别和评估“My AI”对儿童和其他用户隐私的潜在风险站长之家 10月7日 消息:英国信息委员会(ICO),该国的数据保护监管机构,最近对Snap公司进行了一项调查,涉及其生成式人工智能聊天机器人"My AI"存在的潜在隐私风险,特别是对13至17岁的Snapchat用户。

调查结果表明,Snap未能充分识别和评估"My AI"对儿童和其他用户隐私的潜在风险信息委员会的约翰·爱德华兹(John Edwards)在一份声明中表示:“我们的初步调查结果表明,Snap在推出My AI之前未能充分识别和评估儿童和其他用户的隐私风险,这令人担忧。

打开凤凰新闻,查看更多高清图片图源备注:图片由AI生成然而,值得注意的是,这些调查结果尚不是最终结论,Snap将有机会在最终决定之前解决这些初步担忧如果信息委员会的初步调查结果最终导致执法通知,Snap可能必须停止向英国用户提供AI聊天机器人,直到解决隐私问题。

Snap的一位发言人在接受CNBC的电子邮件采访时表示:“我们正在密切审查信息委员会的初步决定与信息委员会一样,我们致力于保护用户的隐私”该公司还表示,在推出前,他们对"My AI"进行了严格的法律和隐私审查,以确保其符合标准的产品开发流程。

值得一提的是,这款AI聊天机器人是基于OpenAI的ChatGPT运行的,它具有一些功能,可以通知家长他们的孩子是否正在使用该机器人,并且Snap表示已经制定了通用准则,以确保机器人不会发表冒犯性言论对于信息委员会的初步调查,该机构并未提供额外评论,理由是这些调查结果仍然是初步性质的。

在此之前,该机构曾发布了一份“关于AI和数据保护”的指导文件,并在今年4月发布了一份一般通知,列出了开发人员和用户应该就AI提出的问题Snap在其最近的财报中表示,超过1.5亿人已经使用过这款AI机器人。

最近,其他生成式AI形式也面临了批评,例如Bing的图像生成AI被极端消息论坛4chan用来制作种族主义图像

TAG: sdf