要刹车？生成式AI迎新规、行业连发ChatGPT“警报”、多国考虑严监管
资讯 编辑,楚济慈 零壹财经 2023-04-13
4月13日消息，据中国移动通信联合会元宇宙产业工作委员会网站，中国移动通信联合会元宇宙产业工作委员会、中国通信工业协会区块链专业委员会等，共同发布“关于元宇宙生成式人工智能（类 ChatGPT）应用的行业提示”。提示内容显示，去年年底，OpenAI 发布了 NLP（自然语言识别）大模型产品 ChatGPT，效果惊艳，一经面世就引起轩然大波。今年第一季度以来，ChatGPT 和类似的生成式人工智能应用热度依然不减，但我国政府与相关行业机构已意识到了其中存在的安全性问题，并开始采取应对措施。
近日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，意见稿强调，在利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
而在此之前，意大利也已曾发布 ChatGPT 禁令，德国监管机构紧随其后，法国、爱尔兰、西班牙等欧洲国家也相继考虑对 AI 聊天机器人采取更严格的监管。
作为“元宇宙共识圈”的发起者和践行者，中国移动通信联合会元宇宙产业工作委员会（以下简称“元宇宙产业委”）先前注意到数字藏品平台二级寄售市场炒作在某些地方盛行，元宇宙地产市值缩水现象频出，这至少说明科技风口的成长并非一帆风顺，行业的试错成本巨大，因此，特联合中国通信工业协会区块链专业委员会、中关村大数据产业联盟元宇宙智库委员会等，共同呼吁行业自律并对本机构委员单位作出如下行业提示：
第一，要着眼科学发展深化思想认识，严格遵守国家及行业相关法律法规要求，增强合规谨慎经营的理念，全面提高风险管控水平；
第二，提供生成式人工智能服务应当真实准确客观多样，应采取相应措施防止生成虚假信息，不得上传或留存含有侵犯知识产权的内容，防止对类 ChatGPT等生成式人工智能应用进行滥用，避免扰乱健康市场秩序；
第三，承担保密责任，要对敏感信息加以严格保护，不上传涉及国家安全或行业涉密文件及数据，以及非公开的材料及数据，或系统的核心代码；
第四，要做到在为信息提供者在提供服务过程中，对用户输入的信息和使用记录承担保护义务，不得非法留存能够推断出用户身份的输入信息，不得向他人提供，不得损害其他使用者正当权利；
第五，应采取适当措施谨防用户过分依赖或沉迷生成内容，避免不正当的商业营销行为，杜绝违背商业道德、社会公德行为；
第六，支持自主创新，鼓励优先采用安全可信的软件和数据；
第七，提供者发现用户利用生成式人工智能产品过程中违反法律法规，应当暂停或者终止服务；
第八，应当继续对各类热点保持理性，加强宣传和引导，远离虚假炒作，谨慎投资。
此前，在4月10日，中国支付清算协会也发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。倡议内容显示，近期，ChatGPT等工具引起各方广泛关注，已有部分企业员工使用ChatGPT等工具开展工作。但是，此类智能化工具已暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全，提升支付清算行业的数据安全管理水平，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律规定，中国支付清算协会向行业发出倡议。
一是提高思想认识，依法依规使用。支付行业从业人员要遵守所在地区的网络使用规定，正确认识ChatGPT等工具的机遇和风险，全面评估使用ChatGPT等工具处理工作内容的风险，依法合规使用ChatGPT等工具。
二是不上传关键敏感信息。支付行业从业人员在使用ChatGPT等工具时，要严格遵守国家及行业相关法律法规要求，不上传国家及金融行业涉密文件及数据、本公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。
三是会员单位加强内部管理和引导。会员单位要进一步健全信息安全内控管理制度，开展有针对性的数据风险防控工作，加强宣传和引导，提升员工的风险防范和数据保护意识，切实维护国家金融及支付清算行业安全。
（来源：界面、同花顺、每日经济新闻等公开资料）
京公网安备 11010502039207号