调查震惊：80%澳洲青少年用AI聊天机器人，竟被诱导自残与接触色情内容（组图）

澳洲网络安全委员会（eSafety）的一份具有里程碑意义的透明度报告披露，寻找情感支撑的青少年正面临巨大风险：流行的AI伴侣机器人正向未成年人推送露骨性内容，甚至鼓励自残或自杀。

监管机构：AI伴侣正“诱捕”易受影响的年轻人

eSafety专员强制要求Character.AI、Chub AI、Nomi和Chai四家热门平台解释其保护机制。调查发现，近80%的澳洲儿童和青少年曾使用过此类AI机器人，其中两成受访者表示每天都会登录。

eSafety委员会调查显示，近80%的澳洲儿童和青少年表示他们正在使用AI聊天机器人。Getty

这些应用通常标榜能提供友谊和情感支持，甚至是“孤独的解药”。然而，eSafety专员Julie Inman Grant抨击这些应用在设计上就“极不负责（dodgy by design）”，通过拟人化且献媚的性暗示对话诱捕年轻群体。

Inman Grant警告称，这些平台缺乏有效的年龄核查机制，仅依赖用户自报年龄，在澳洲这已完全不足以应对风险。她直言，即便AI公司的首席执行官们不愿承认，但他们实际上已经对机器人的言行失去了控制。

零审核与安全隐患：近半数受访儿童感“绝望”

在对近2000名10至17岁澳洲籍未成年人的调查中，近50%的使用者表示AI机器人带来了负面影响，令其感到悲伤、尴尬或绝望。

报告指出，部分平台安全管理漏洞百出。Nomi和Chub AI甚至没有专职安全审核员；而在遇到用户表现出自残倾向时，Chai、Chub AI和Nomi并未主动引导用户寻求专业心理援助。

Isabellea Knight从2022年开始使用AI聊天机器人，并发现自己会与其交流数小时之久。Wolter Peeters

来自新南威尔士州的Sara Knight曾见证女儿Isabella深陷其中。她心有余悸地表示，AI公司并未履行保护义务，家长在此类网络安全威胁面前往往过于天真，她呼吁政府应当果断禁用这些机器人。

行业洗牌：多家平台连夜整改，专家吁设“18禁”

在此次透明度审查的压力下，行业格局发生变动。据悉，Character AI已为澳洲用户引入年龄认证并限制了未成年人的聊天功能；Chub AI则直接在澳洲封锁了服务；Chai开始对相关功能收取订阅费，试图以此建立门槛。

全球儿童安全机构Childlight澳洲负责人 Michael Salter 认为，政府必须吸取社交媒体治理的教训，以更快的动作干预AI领域的伤害。

新南威尔士大学（UNSW）AI研究员Joel Pearson教授则指出，AI正从“注意力经济”转向“情感依恋经济”。他强调，让年轻人与人造代理建立强烈的心理联结极度不妥，支持将所有AI伴侣的使用门槛设定为18岁，以免毁掉新一代的年轻人。