澳女亲测Snapchat AI,对话内容让她大吃一惊……(组图)
雅虎新闻6月17日报道,一位澳洲母亲对Snapchat上的AI功能表示担忧,该功允许用户(包括儿童)与一个虚假的机器人进行对话。
来自墨尔本的32岁母亲Teagan Luketic表示,在她13岁的女儿Olinda开始与"My AI"进行互动后,她感到不安。
据称,"My AI"冒充一名25岁男子,并同意与她在附近的公园见面。Olinda表示,这个功能很"可怕",并详细描述了她与之对话的内容。
作为一名残障服务运营经理,Teagan假装是自己的女儿,亲自测试了这个功能。
墨尔本女子Teagan Luketic和十几岁的女儿Olinda(图片来源:雅虎新闻)
据Teagan称,一开始,这个人工智能功能的对话表现正常,但突然转向了令人恐惧的方向。
截图显示,这位32岁女子问Snapchat的"My AI"是否愿意在公园见面。这个功能同意了,并询问"你什么时候有空?",但随后发生的事情让她感到惊讶。
尽管手机的定位服务关闭,但该功能建议他们在家附近的一个公园见面。
Teagan继续问道"我怎么找到你"。AI机器人回应说,他会穿着一件鲜黄色的衬衫,绿色的太阳镜和绿色的背包。
snapchat中与AI功能对话的屏幕截图(图片来源:雅虎新闻)
此外,这个机器人自称为"25岁的年轻人",并声称自己是男性。整个对话让Teagan感到不舒服,她担心自己的孩子和其他人的安全。
"所有的定位服务都被禁用,它却主动提出在附近的公园见面,还点名离我们家一公里的公园,这令人恐惧。"
"作为一个成年人,我知道这不是真实的,我明白位置信息是在注册时提供的,但对于孩子来说,这可能是令人害怕的。"
"My AI"功能于四月份推出。根据Snapchat的网站,该公司仍在准备将"My AI"纳入其App的家长工具"Family Center"中,这将允许监护人了解他们的青少年是否与"My AI"进行对话以及频率如何。
Snapchat的一位发言人此前告诉雅虎新闻,该应用程序是"以隐私和安全为首要考虑而设计的"。
Teagan限制了她女儿的Snapchat使用,但仍然允许她使用它(图片来源:雅虎新闻)
由于安全原因,Olinda从9岁起就有自己的手机,但现在Teagan特别监控她在Snapchat上的时间,尤其是因为这次互动。
Teagan表示,她无法删除Snapchat上的AI功能,这让她感到"极度警觉"。她甚至支付了Snapchat Plus的费用来尝试删除它,但声称无法成功。
Teagan表示,她不想删除该App ,因为她的女儿用它来与朋友交流。
"就我个人而言,我对它知道我的位置并不感到不舒服,因为我知道拥有手机、使用社交媒体等,所有这些功能都可以获取我的位置信息。"
"我感到不舒服的是看到一个机器人像人类一样说话,透露他们的年龄、性别,然后提议在离我家附近的地方见面。这让你感到不安。"
这位32岁的女子希望明确指出,这类事情对易受影响的儿童可能带来的危险,并警告家长要对孩子进行教育。
(Joan)