AI监管新规公开征求意见，解生成式AI时代数据安全和版权之困

    随着人工智能生成服务的广泛应用，数据安全和版权问题也逐渐引起了人们的关注。近日，国家互联网信息办公室专门针对人工智能生成服务的相关问题，发布了《生成式人工智能服务管理办法（征求意见稿）》，引起了业内的广泛关注和热议。

    随着人工智能技术的不断进步，人工智能服务的应用也越来越广泛。此前，生成式人工智能曾引发过多轮争议，这些争议涉及到隐私安全、道德伦理等多个方面。

    一、隐私安全问题：生成式人工智能生成的内容可能包含敏感信息，如个人隐私、财务信息、政治观点等。这些信息可能会被不法分子利用，导致隐私安全和泄露事件的发生。

    二、道德和伦理问题：生成的内容可能包含虚假信息、误导性信息或不适的内容，会误导公众或引发不必要的争议。

    三、版权问题：生成的内容，可能会侵犯版权。这包括引用了著作权人的作品、将AI模型生成的图片用于商业用途、生成音乐或视频标注为个人作品的行为，都可能被认为是侵犯版权。

    四、技术发展的不确定性：生成式人工智能技术的发展还存在许多不确定性，可能会导致技术的应用和发展受到限制。

    以上争议急需制定更加明确的法律规定，而《生成式人工智能服务管理办法（征求意见稿）》正解了当下行业内的燃眉之急，对于生成式人工智能技术的规范化和标准化、服务质量和安全性、人工智能服务的创新和发展等起到了促进作用，也为行业带来了更多的机遇和挑战。

    该办法对于尊重知识产权、商业道德、数据保护等今年以来争议颇多的问题进行了明确规定。其中包括“利用生成式人工智能生成的内容应当真实准确”、“尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权”、“禁止非法获取、披露、利用个人信息和隐私、商业秘密”、“服务提供者应当采取适当措施防范用户过分依赖或沉迷生成内容”等内容。

    对于违反规定的行为，依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。除警告、通报批评，责令限期改正外，对拒不改正或情节严重的，将责令其暂停或终止利用生成式人工智能提供服务，并处以一万元以上十万元以下罚款。构成犯罪的行为，将依法追究刑事责任。

    这一政策，为生成式人工智能服务提供者，和使用服务的公司和个人敲醒了警钟。

    不要以为生成式人工智能服务会造成数据隐私安全问题是在夸大其词，3月20日，意大利就因使用ChatGPT造成了聊天记录“泄露门”事件。

    当日，数以百万计的用户蜂拥登录ChatGPT，庞大的访问量使服务器一度崩溃，直至五小时后才恢复正常。修复后，用户发现无法查看历史聊天记录，与此同时，系统中的漏洞开始把用户的个人信息随机发送给其他用户，其中包括信用卡账号等敏感信息。几小时后这些隐私信息开始在社交平台上被传播。
    OpenAI承认“这是由于程序错误导致的，已发布修复程序。”但意大利数据保护局还是宣布，将暂时禁止ChatGPT的使用，并对OpenAI公司展开调查。

    此后，不少国家开始追随意大利，考虑对ChatGPT采取行动。德国联邦数据保护机构表示，存在暂时禁止使用ChatGPT的可能性。爱尔兰和法国与意大利取得联系，了解有关禁令的依据。西班牙数据监管机构也表示，不排除对ChatGPT展开调查。

    4月10日，中国支付清算协会官网发布了“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。指出，ChatGPT等工具已暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全，提升数据安全管理水平，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律规定，中国支付清算协会向行业发出倡议：强调支付行业从业人员要提高思想认识，依法依规使用ChatGPT等智能化工具；不上传国家及金融行业涉密文件及数据等第三方信息；倡议各会员单位进一步健全信息安全内控管理制度，开展有针对性的数据风险防控工作，提升员工的风险防范和数据保护意识。

    在缺乏有效的法律规制之前，ChatGPT和同类型工具或将涉及大量隐私和网络安全问题，对世界各国来说都是一种挑战。《生成式人工智能服务管理办法（征求意见稿）》一旦正式发布，生成式人工智能服务的运用将会更加安全和规范。

    除了数据安全，版权侵权问题也是在使用生成式人工智能工具需要注意的问题。

    2022年11月，GitHub、微软和OpenAI被起诉侵权，一名程序员认为一款名为GitHub Copilot的AI编程工具抄袭了他写的代码。

    拥有《纽约邮报》《巴伦周刊》《华尔街日报》等的美国新闻集团，正准备向OpenAI、微软和谷歌等公司提起诉讼，要求赔偿其内容在ChatGPT、Bard等AI工具中被用来使用的费用。并展示了训练ChatGPT的一份新闻来源清单，其中包括路透、纽约时报、卫报，BBC新闻、彭博等国际主流媒体。

    澳大利亚一位市长也准备起诉OpenAI，因为ChatGPT称这位市长卷入了一场贿赂丑闻中，认为其有罪。这位市长已向OpenAI发出法律信函，要求修正错误。

    争议如此之多，难怪前不久包括马斯克、苹果联合创始人斯蒂夫·沃兹尼亚克在内的1000多名行业高管和专家联名呼吁，6个月内暂停高级人工智能（AI）的开发，并由开发者与政策制定者合作制定治理和监管规定。

    生成式人工智能产品带给我们惊艳的应用体验，科技巨头们纷纷推出类似产品。昨天阿里云宣布推出大语言模型“通义千问”，百度的“文心一言”、谷歌的AI聊天机器人Bard……未来还将有更多的同类型产品出现。

    AI带来的便捷体验，同时也在提醒我们，性能的持续提升和带来的风险隐患都是当下的关键问题。

   其实，我国针对AI深度合成领域的乱象《互联网信息服务深度合成管理规定》，今年1月10日起就已施行。此次《生成式人工智能服务管理办法（征求意见稿）》向社会公开征求意见，必将进一步促进生成式人工智能技术健康发展和规范应用。

    数据安全和版权问题是人工智能生成服务中必须面对的重要问题，这些措施可以帮助您及时发现和解决问题，维护自己的权益。

    一、等保测评

    等保测评是保障公司数据安全和版权的重要手段，是指对公司的信息系统进行全面、系统、科学的安全评估，确保信息系统能够抵御各种安全威胁，保障数据安全和版权。通过等保测评，公司可以及时发现和解决数据安全问题，避免数据泄露、丢失等问题的发生。

    二、著作权

    著作权是保护知识产权的重要措施。著作权是指作者对其创作的作品享有的专有权利，包括发表权、署名权、修改权、保护作品完整权等。由于人工智能生成服务可以生成大量的内容，如果这些内容没有得到合法的授权，就可能会侵犯他人的版权，导致版权纠纷。因此，企业可以通过申请著作权保护作品的创意和成果，维护自己的权益。而人工智能生成服务提供商则需要通过与版权持有者合作的形式，获得授权或免责条款。

标签： 数据安全