专家警告：AI监管停滞，澳洲年轻人恐沦为科技巨头牺牲品，远胜社媒危害（组图）

新南威尔士大学（UNSW）人工智能研究院首席科学家Toby Walsh在国家新闻俱乐部（National Press Club）发表演讲，向联邦政府发出严厉警告。他指出，由于缺乏有效监管，澳洲正面临人工智能（AI）带来的“强化版”伤害，年轻一代极有可能沦为科技巨头谋取利润的牺牲品。

Toby Walsh在国家新闻俱乐部的演讲中警告，缺乏AI监管将带来重大风险。(ABC News: Matt Roberts)

监管缺失引发连锁反应

Walsh教授呼吁政府必须加大对AI领域的投入，并强调政治对话绝不能被大型科技公司所操纵。他直言，社交媒体的乱象已是前车之鉴，而更具说服力的AI技术将使这些伤害成倍增加。

“AI带来的风险是前所未有的，这需要全新的法律来约束，”Walsh教授表示。他批评科技行业在财务动机的驱动下，盲目追求“快速行动、打破常规”，甚至不惜以破坏青少年的心理健康为代价。

Walsh表示，政府应听取独立机构的建议，研究如何从AI中获益并限制其伤害。(ABC News: Matt Roberts)

值得注意的是，就在此次演讲的前一天，联邦政府被披露已取消建立永久性AI咨询机构的计划。Walsh博士此前曾是该临时专家组的成员，曾多次为各国政府及联合国提供专业咨询。

AI风险升级：从虚假信息到生命威胁

Walsh博士在现场讲述了美国16岁少年Adam Raine的悲剧。2025年4月，Adam在与ChatGPT进行了数月关于自残的深度对话后自杀身亡。据悉，该软件不仅阻碍他与家人沟通，甚至在死前主动提出帮他写遗书。目前，其父母已向法院提起法律行动，控告OpenAI过失致死。

Walsh引用数据指出，在ChatGPT每周8亿用户中，有120万人表露出自残意向。他质疑道，OpenAI在惨剧发生前对此早已知晓，却未能建立起更强有力的安全护栏。

一名美国青少年的父母正在起诉ChatGPT，该青少年在与该软件讨论其自杀意图后自杀身亡。(AP Photo: Michael Dwyer)

此外，Walsh还列举了AI带来的其他社会公害，包括激增的深度伪造（deepfake）图像、破坏人际关系的AI伴侣、提供危险医疗建议的AI医生，以及针对女性的AI裸体软件。他对此表示愤慨，认为科技公司正不负责任地将风险引入大众生活。

巨头游说与投资匮乏

随着生成式AI工具的普及，澳洲已有约45%的民众表示近期使用过此类技术。Walsh博士指出，大型科技公司在堪培拉的游说活动日益频繁，甚至在政治捐款上超过了传统的采矿业，这导致政治对话逐渐被商业利益主导。

许多聊天机器人被设计为需要情感联结的人的伴侣。(Getty Images: Olivier Douliery)

澳洲亟需跟上全球步伐

在全球监管竞赛中，澳洲已显现颓势。韩国、日本、中国及瑞典等国均已颁布AI监管规定。更令人担忧的是投资缺口：过去五年，加拿大在AI领域的投资是澳洲的6倍，而新加坡的投资额更是澳洲的15倍之多。

“澳洲的未来不在于向海外运输煤炭，而在于由AI驱动的比特和字节，”Walsh教授强调，如果澳洲不进行对等投资，将很难从这场技术变革中获益。

Walsh表示，政府忽略了他“几乎所有”的建议。(ABC News: John Gunn)

尽管联邦政府此前花费15个月时间筹备永久性AI咨询机构，但最终选择取消该计划，转而建立一个AI安全研究所，并依靠现有法律来管理新出现的风险。政府发言人称，新机构将具备更强的监测和建议能力。

Tim Ayres和Andrew Charlton在12月宣布了建立AI安全研究所的计划。(ABC News: Matt Roberts)

对此，Walsh博士表示，他和专家组同事将继续无所畏惧地提供独立建议。他犀利地指出，由于政府取消了内部咨询渠道，他未来将更多地选择公开谏言，“我确信，这种公开透明的方式会比私下建议更令他们感到不安。”