中国网路的AI拟人化内容大量增加，被官方视为潜在风险。中国有关部门今天公布一项管理暂行办法，强调不得生成「危害国家安全、煽动颠覆国家政权、推翻社会主义制度」等内容，并制定「分类分级监管」，自7月15日起实施。
新华社报导，这项「人工智能拟人化互动服务管理暂行办法」是由中国国家网信办、国家发改委、工信部、公安部、市场监管总局等5个部门联合公布。
中国国家网信办有关负责官员表示，这项管理办法旨在促进AI拟人化互动服务健康发展和规范应用，维护「国家安全」和社会公共利益，保护公民、法人和其他组织的合法权益。
官员说，AI拟人化互动中，危害未成年人身心健康、影响网路资讯安全、威胁公民生命健康及加剧伦理偏差等问题及风险日益显现。推出这项管理办法，既是促进AI拟人化互动健康发展的重要要求，也是防范「有关安全风险」、「回应风险挑战」的现实需要及重要举措。
官员强调，这项管理办法规定，AI拟人化互动不得生成「危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一」等内容，也不得生成「诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人资讯」等内容。
此外，AI拟人化互动也不得生成鼓励、美化、暗示自残自杀等损害用户身体健康，或者语言暴力等损害用户人格尊严与心理健康的内容；不得生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容；不得生成诱导用户作出不合理决策，损害用户合法权益及「其他违反法律、行政法规和国家有关规定」的活动。
官员说，这项管理办法将对AI拟人化互动实施包容、审慎的「分类分级监管」，并规定AI拟人化互动提供者的安全管理义务，同时完善网路用户权益保护制度，规定AI拟人化互动提供者对未成年人、老年人权益保护和个人资讯保护等义务。
此外，这项管理办法还规定了安全评估、演算法备案、指导推动AI安全服务平台建设等制度。