简介：价值观、隐私保护全覆盖 网信办拟为生成式AI“立规矩”
价值观、隐私保护全覆盖 网信办拟为生成式AI“立规矩”
随着人工智能技术的飞速发展，生成式AI作为一种能够生成自然语言的AI模型，已经在各个领域得到了广泛应用。然而，随着其应用的普及，也出现了一些问题和争议。为此，中国国家互联网信息办公室（以下简称“网信办”）近日发布了《生成式AI服务管理办法（征求意见稿）》（以下简称“征求意见稿”），旨在为生成式AI服务立规矩，维护国家安全、社会秩序和公共利益，保护公民、法人和其他组织的合法权益。
在价值观方面，征求意见稿明确提出，提供生成式AI服务应当坚持社会主义核心价值观，不得生成法律、行政法规禁止的内容。这一规定十分重要，因为一些不法分子可能会利用生成式AI技术的便利性，制造谣言、散布虚假信息，甚至进行网络攻击和危害国家安全。因此，必须加强对生成式AI内容的监管，确保其服务遵循正确的价值观和道德规范。
在隐私保护方面，征求意见稿要求提供生成式AI服务的企业和个人，应当依法保护用户隐私和数据安全。具体而言，应采取措施防止用户信息被非法获取、泄露、篡改或损毁，不得非法出售或向他人提供用户信息，并保障用户对个人信息享有的知情权、选择权和异议权。此外，对涉及国家秘密、商业秘密和个人隐私的数据，应依法进行加密存储和传输。
除了价值观和隐私保护外，征求意见稿还就生成式AI服务的提供提出了一系列具体要求。例如，提供者应当对生成内容进行审核把关，建立健全内容管理制度和安全保障措施；提供智能对话产品服务的，应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续；提供者还应制定突发事件应急预案和开展风险评估，在发生突发事件或安全事件时及时处置并上报。
此外，征求意见稿还提出了一些具体要求，包括提供者应履行意识形态安全主体责任，建立健全信息安全管理制度和技术保障措施，并接受网信部门和有关部门的监督检查和指导。同时，提供者还应配合有关部门开展安全评估和检查工作，并按照要求提供相关数据和资料。
值得一提的是，征求意见稿还鼓励生成式AI服务行业加强自律，建立健全行业标准、行业准则和自律管理制度。这也意味着，在政府的引导下，生成式AI服务行业将逐渐建立起更为规范和可持续的发展环境。
总之，《生成式AI服务管理办法（征求意见稿）》的发布为生成式AI服务的健康发展奠定了基础。通过加强价值观引领、强化隐私保护和落实主体责任等措施的实施，可以确保生成式AI服务的合规性和安全性，促进人工智能技术的健康发展，并为广大人民群众带来更多福祉。