当前位置: 首页 > 热门资讯

一看就会(英国的青少年问题英国青少年面临的问题)英国因青少年隐私问题对 Snap AI 聊天机器人展开调查

|

站长之家 10月7日消息: Snap 公司因其生成式人工智能聊天机器人可能对 Snapchat 用户,尤其是 13 至 17 岁的青少年,构成的潜在隐私风险而在英国面临调查。

打开凤凰新闻,查看更多高清图片图片来自 Snap英国数据保护监管机构信息专员办公室(ICO)上周发布了初步强制执行通知,指称 Snap 的聊天机器人 My AI 可能会对 Snapchat 用户,特别是 13 至 17 岁的用户,构成风险。

信息专员 John Edwards 在声明中表示:「我们的初步调查结果表明,Snap 未能在推出『My AI』之前充分识别和评估儿童和其他用户的隐私风险,这令人担忧」Snap 在 2 月份推出了生成式 AI 聊天机器人。

(尽管它直到 4 月份才登陆英国),利用 OpenAI 的 ChatGPT 大语言模型 (LLM) 技术来驱动固定在用户信息流顶部的机器人,充当可以向其寻求建议或发送快照的虚拟朋友最初,该功能仅适用于 Snapchat+ 的订阅者,Snapchat+ 是 Snap 消息平台的高级版本。

但很快 Snap 也向免费用户开放了「My AI」的访问权限,同时还增加了人工智能将快照发送回与其交互的用户的能力(这些快照是用生成式人工智能创建的)这些调查尚未得出最终结论,Snap 将有机会解决初步担忧,然后才会作出最终决定。

如果 ICO 的初步发现导致强制执行通知,Snap 可能需要停止向英国用户提供 AI 聊天机器人,直到解决隐私问题Snap 的发言人在一封电子邮件中告诉表示:「我们正在密切审查 ICO 的初步决定与 ICO 一样,我们致力于保护用户的隐私。

根据我们的产品开发标准,My AI 在公开提供之前经过了严格的法律和隐私审查流程」该技术公司表示,将继续与 ICO 合作,以确保该机构对 Snap 的风险评估程序感到满意这款运行在 OpenAI 的 ChatGPT 上的 AI 聊天机器人具有一些功能,可以在孩子使用聊天机器人时向父母发出警报。

Snap 表示,它还为其机器人制定了通用指南,要求机器人避免发表冒犯性评论ICO 没有提供额外评论,理由是这些调查是初步的该机构此前发布了「AI 和数据保护指南」,并在今年 4 月发布了一则一般通知,列出了开发人员和用户应该就 AI 提出的问题。

Snap 的 AI 聊天机器人自今年年初推出以来一直备受关注,因不当的对话而受到审查,例如建议一名 15 岁的孩子如何掩盖酒精和大麻的气味,据《华盛顿邮报》报道Snap 在其最新的财报中表示,已经有超过 1.5 亿人使用了这款 AI 机器人。

。其他形式的生成式人工智能也在最近受到批评。例如,必应的生成式 AI 图像已被极端分子讨论板 4chan 用来制作种族主义图像。

TAG: sdf