中国发布AI拟人化管理办法，明令不得危害国家安全（组图）

示意图。（图取自Pixabay图库）

中国网络的AI拟人化内容大量增加，被官方视为潜在风险。

中国有关部门今天公布一项管理暂行办法。强调不得生成“危害国家安全、煽动颠覆国家政权、推翻社会主义制度”等内容。并制定“分类分级监管”，自7月15日起实施。

新华社报导，这项“人工智能拟人化互动服务管理暂行办法”是由中国国家网信办、国家发改委、工信部、公安部、市场监管总局等5个部门联合公布。

中国国家网信办有关负责官员表示，这项管理办法旨在促进AI拟人化互动服务健康发展和规范应用。维护“国家安全”和社会公共利益，保护公民、法人和其他组织的合法权益。

官员说，AI拟人化互动中，危害未成年人身心健康、影响网络资讯安全、威胁公民生命健康及加剧伦理偏差等问题及风险日益显现。

推出这项管理办法，既是促进AI拟人化互动健康发展的重要要求。也是防范“有关安全风险”、“回应风险挑战”的现实需要及重要举措。

官员强调，这项管理办法规定，AI拟人化互动不得生成“危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一”等内容。

也不得生成“诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人资讯”等内容。

此外，AI拟人化互动也不得生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容。

不得生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容。

不得生成诱导用户作出不合理决策，损害用户合法权益及“其他违反法律、行政法规和国家有关规定”的活动。

官员说，这项管理办法将对AI拟人化互动实施包容、审慎的“分类分级监管”。

并规定AI拟人化互动提供者的安全管理义务，同时完善网络用户权益保护制度。规定AI拟人化互动提供者对未成年人、老年人权益保护和个人资讯保护等义务。

此外，这项管理办法还规定了安全评估、算法备案、指导推动AI安全服务平台建设等制度。