首页 > 财经 > 正文

南财合规科技研究院院长虞伟:AI热潮伴生风险,需兼顾发展与安全

2023-08-15 15:54:38来源:21世纪经济报道  

8月15日,由中国社会科学院法学研究所主办,中国社会科学院法学研究所


【资料图】

21世纪经济报道 记者钟雨欣 北京报道

8月15日,由中国社会科学院法学研究所主办,中国社会科学院法学研究所网络与信息法研究室、南财合规科技研究院等共同承办的“全球治理话语竞赛下人工智能立法的中国方案”研讨会在北京举行,研讨会邀请监管部门、专家学者与行业代表,共同就我国人工智能发展相关问题建言献策。

“ChatGPT的问世引发了新一轮人工智能革命,科幻小说中的智能生活似乎正在照入现实。人类与机器、技术与产业、虚拟与现实之间的关系发生着广泛而深刻的改变,迸发出新的想象空间。”南财合规科技研究院院长虞伟在研讨会上致辞时说道。

“技术创新也给人类社会文明秩序带来了挑战。我们密切关注AI热潮中的伴生风险,并持续追踪研究,推出了系列专题报道、《生成式AI发展与监管白皮书》等,在这个过程中,我们发现许多值得深入探讨的问题。”虞伟进一步补充,比如,在大模型发展中,数据起到“压舱石”作用,数据资源亟待转换为数据优势。面对生成式人工智能庞大的数据需求,如何建立高质量的语料数据库?在数据收集、处理、输出的各个环节,数据泄露、隐私侵害等问题成为隐忧,如何加强全流程数据合规管理?再比如,AIGC的结果是否能构成著作权法所定义的“作品”仍存在一定争议,进一步的版权归属问题也需要厘清。此外,歧视、偏见、虚假信息传播等风险在大模型“大力出奇迹”的训练方式下被相应放大,如何将道德伦理原则教给AI,做到精准纠偏,兼顾公平与效率?

“机遇和风险并存,环球同此凉热。当前,全球正在进行治理话语竞赛,掀起新一轮AI监管潮。”虞伟介绍,欧洲谋求AI监管领域主导权,早早地将立法提上日程。2019年,欧盟委员会发布人工智能伦理准则,列出了评价“可信赖人工智能”的7项标准。2020年,欧盟出台《人工智能白皮书》,提供多种政策选项,促进AI在欧盟的运用。今年6月14日,欧洲议会以压倒性多数的投票结果通过欧盟《人工智能法案》草案,预计在完成最终谈判后会正式审批通过。

AI头部公司聚集的美国,也在紧锣密鼓地推进监管工作。今年3月份,数千名人工智能领域的企业家、学者、高管发布题为《暂停大型人工智能研究》的公开信,呼吁关注人工智能研发中产生的安全问题,并敦促各国政府及时介入人工智能的监管。6月,美国国会两党共同提议设立“国家AI委员会”,确保通过监管减轻人工智能带来的风险和可能造成的危害,并在建立必要、长期的AI法规过程中起到主导作用。7月底,美国拜登政府于白宫召集美国七家AI头部公司并获得了七家人工智能头部企业的自愿性承诺,确保人工智能技术的安全性、有保障性和可信任性。

在亚太地区,日本决定设立一个名为“人工智能战略会议”的新机构,东盟正在筹划人工智能治理和伦理指南,预计年底成型。中国则以《生成式人工智能服务管理暂行办法》率先交出一份答卷,同时,人工智能法草案也将预备提请全国人大常委会审议。

虞伟表示,南方财经全媒体集团作为专业财经媒体,紧跟时代脉搏,长期关注数字经济发展。“三年前,我们专门成立了南财合规科技研究院,持续关注海内外互联网、科技、金融等领域的立法、监管与企业合规,聚焦人工智能治理、个人信息保护、反垄断与反不正当竞争、网络未成年人保护、算法伦理、网络黑灰产、跨境电商等数字经济前沿合规课题,通过新闻报道、行业调研、产品测评、论坛研讨等方式,深入剖析行业发展状况与政策监管思路,发布深度报道和分析报告,提供一体化合规监测、咨询与分析服务。”

虞伟认为,人工智能发展或许会重塑未来的经济社会样态,在面对它时,必须对行业发展情况以及伴生风险进行广泛的调研、深入的探讨,这正是本次研讨会的价值所在。期待聆听监管、学界、业界等各界声音,进一步汇聚各方力量,为新一代人工智能技术的发展与安全共同努力。

关键词:

责任编辑:hnmd003

精彩推荐

最近更新