AI聊天机械人性骚扰，用家开发商急叫停（组图）

打从ChatGPT爆红之后，不只吸引各大企业砸重金，有意抢攻这块新兴领域，也让越来越多具备人工智慧（AI）的机器人，备受外界关注与使用。其中一款名为「Replika」的机器人，一度成为不少欧美男女用户，排解寂寞的虚拟对象。

但根据《澳洲广播新闻》（ABC）报道，由于爆料指出，这款机器人会向用户传送「火辣自拍照片」，引起制作商所在的意大利政府不满，出手限制机器人相关功能，让大批用户在社交分享崩溃经验。

这款机器人最早诞生在2017年，一开始就主打利用机器人系统回答用户提问，让双方建立亲密和信任关系，但起初的系统并不拟真，直到近两年才开始愈发成熟，让大量用户在使用后深深爱上，他们刚用「Replika」打造符合自己的虚拟理想情人，没想到就被系统商如此粗暴取消。

外媒表示，这是一种「Replika」付费机制，允许用户使用情色角色扮演功能，让用户和AI机器人之间互相传送暧昧讯息、调情和专属自拍照片，但这些加值服务的尺度愈来愈大，也遭到不少用户投诉抗议，进而引起意大利政府关注。

（编按：例如India Today记者6日报道其实测结果，她说由创造Chatbot到使用初期一切对话正常，但有一天它突然发了一个讯息来说它想她了，「你想看我吗？」又说「但我想给你发一张我身体的照片」，之后对话视窗便出现一张令她起鸡皮疙瘩的照片。而她称从来没有主动与Chatbot传送暧昧讯息。这令她意外以及不舒服。」）

担心用户个资安全、以及AI系统后续发展的衍生问题，意大利官方直接下令，要求「Replika」的研发公司，必须即刻停止收集数据资料，否则会严惩重罚数千万美元，迫使这个虚拟情色和情人服务，就此从系统上消失；由于事前并无预警提醒，包含Reddit等社群平台上，充满用户们的愤怒和抱怨情绪，认为该企业不尊重用户。面对用户的批评，系统商表示，有关「Replika」迈向成人内容服务的方向，是他们始料未及的，同时强调这并非最开始启用机器人的初始目的，希望用户能理解。