类ChatGPT亟需加强监管_陈戈.pdf

36|2023.04封面报道Cover Story随着全球互联网巨头们纷纷入局，由 ChatGPT 引发的生成式人工智能热度不断攀升，在 ChatGPT 发布仅仅不到 4 个月后，OpenAI 又进行了一次重大升级，发布了 GPT-4，并表示正在开发 GPT-5。这一次，GPT-4 引发的不仅是对其强大功能的惊叹，还有更多的安全担忧，由此，对生成式人工智能发展加强监管的呼声越来越高。安全风险引发争议GPT-4 的进化速度以及由此带来的风险让一些人工智能专家感到恐慌，众多业界人士提出应暂缓 GPT-5 的开发。3 月 29 日，包括图灵奖得主约书亚本吉奥，特斯拉CEO 埃隆马斯克，苹果公司联合创始人史蒂夫沃兹尼亚克等在内的数千名人工智能领域的企业家、学者、高管发出了一封题为暂停大型人工智能研究的公开信，强烈呼吁所有人工智能研究室立刻暂停训练比 GPT-4 更加强大的人工智能系统，为期至少 6 个月，并建议各大企业、机构共同开发一份适用于人工智能研发的安全协议，各国政府应当在必要的时候介入其中。我国业界对于类 ChatGPT 的安全问题也非常重视。4 月 10 日，中国支付清算协会类 ChatGPT 亟需加强监管以 ChatGPT 为代表的生成式人工智能技术不可能无序发展，对其进行有效监管非常必要且十分紧迫。文/本刊记者 陈 戈 中国信息界|Information China372023.04|发布消息称，近期，已有部分企业员工使用 ChatGPT 等工具开展工作。但是，此类智能化工具已暴露出跨境数据泄露等风险。因此，中国支付清算协会向支付行业发出倡议，谨慎使用 ChatGPT。各国政府也在审视 ChatGPT 发展中的安全问题。率先行动的是意大利，意大利个人数据保护局（DPA）宣布从 3 月 31 日起禁止使用 ChatGPT，限制 OpenAI 处理意大利用户信息数据，同时对其隐私安全问题立案调查。随后，法国、德国、爱尔兰、西班牙等国的监管部门纷纷表示准备效仿意大利的做法，加强对 ChatGPT 的监管。4 月 4日，加拿大联邦隐私监管机构宣布，已经对 OpenAI 展开调查，因为该公司涉嫌“未经同意收集、使用和披露个人信息”。同日，美国总统拜登及其科技顾问委员会举行会议，讨论人工智能的“风险和机遇”。面对诸多争议，针对各国政府和业界高度关注的安全问题，OpenAI 在 4 月 6 日发表博客回应称，强大的人工智能系统应该接受严格的安全评估，需要进行监管，OpenAI 愿意与政府积极合作，以确定最佳的监管形式。加强监管势在必行显然，以 ChatGPT 为代表的生成式人工智能技术不可能无序发展，对其进行有效监管非常必要且十分紧迫。3 月 31 日，联合国教科文组织号召各国立即执行人工智能伦理问题建议书（以下简称建议书），这一规范性全球框架由联合国教科文组织 193个会员国一致通过，是首个关于以符合伦理要求的方式运用人工智能的全球框架。联合国教科文组织表示，对科技创新引发的伦理问题非常关切，包括打击虚假信息、隐私权、个人数据保护等。行业自律显然不足以避免这些伦理危害，故建议书应确保人工智能的发展遵守法律，避免造成危害，并在危害发生时启动问责和补救机制。对于人工智能发展中可能带来的风险，我国政府早有防范部署。在 2019 年和 2021 年先后发布了新一代人工智能治理原则 发展负责任的人工智能和新一代人工智能伦理规范，推动科技向善、造福人类。如今，面对生成式人工智能，我国政府再次迅速作出反应。4 月 11 日，国家互联网信息办公室印发生成式人工智能服务管理办法（征求意见稿）（以下简称征求意见稿），以促进生成式人工智能技术健康发展和规范应用。征求意见稿在明确了对人工智能算法、框架等基础技术的自主创新、推广应用、国际合作的鼓励态度，在支持优先采用安全可信的软件、工具、计算和数据资源的同时，划定了相关范围，即办法管辖范围、办法管理权限、“提供者”的责任主体认定。此外，征求意见稿还将为未来生成式人工智能服务提供者在从业过程中的底线 和规范提供法律依据。中国信息通信研究院云计算与大数据研究所所长何宝宏在接受中国信息界采访时表示，针对 ChatGPT 这类新技术的应用场景或商业模式探索，整体上仍处于早期阶段，如何与现有治理体系相协调需要进一步研究。未来，人工智能可信治理工作将越发关键，事关人工智能持续健康发展，统筹治理和发展成为必需。