生成式人工智能是当前国内外最热门的AI技术形态,因其强大的内容生产功能和强交互性而受到广大用户欢迎。作为一种颠覆性技术的新生事物,生成式人工智能在给经济社会发展带来巨大利好和无限可能的同时,也在法律规范、伦理道德、社会安全、公共治理等方面带来冲击。一是由生成式人工智能技术本身的局限性和特点引发的内生性风险。大模型使用的数据存在错误、不完备性大阳城集团娱乐app网址2022,且蕴含人类本身的价值观念,这就可能导致输出的内容存在错误、偏见、歧视。而且,生成式人工智能训练依赖于大规模数据,容易造成对个人数据和公共数据的过度搜集,进而引发侵权等问题。二是一些主体的非法和恶意使用引发的外生性风险。生成式人工智能可以成为制造、传播虚假信息的工具,利用AI深度伪造会成为诈骗活动的“新武器”。在大国博弈的背景下,生成式人工智能还可能被用作网络攻击的工具。
建立安全监管制度,进行全链条监管。在生成式人工智能的准备阶段,建立数据搜集和使用的规范机制,避免数据安全风险。在训练阶段,建立算法监管标准,将法律规范的要求深度嵌入生成式人工智能的算法模型,消除算法偏见。在使用阶段,规范AI生成内容标识,研究完善生成式人工智能领域知识产权保护相关法律法规,制定对生成式人工智能滥用和非法使用的精准化、常态化监管机制,避免侵权和扰乱社会秩序。
促进多元主体共同参与,形成监管合力。政府部门加强顶层设计,前瞻研判生成式人工智能安全风险样态,主动识变应变求变,完善制度保障,建立制度监管体系。夯实生成式人工智能研发企业主体责任,增强企业的社会责任感,加强行业自律,制定行业标准,强化数据管理和保护,加强产品安全测试,提供易于理解的产品使用指南和隐私政策,制定应对生成式人工智能产品安全事件的应急预案和风险管理体制。增强生成式人工智能研发人员的法律和安全意识,开展AI相关法律法规培训和安全意识教育,制定研发人员行为准则和指南。提高公众AI素养,加强公众智能安全风险意识教育,宣传和普及AI相关法律法规,鼓励公众参与生成式人工智能监管,建立投诉和举报机制,及时发现和处理生成式人工智能安全风险问题。
强化技术赋能,提高安全监管水平。当前我国生成式人工智能领域研发投入和大模型数量不断增多,但大模型质量仍然有待提高,因此需要加大研发投入,抢占技术高地,确保生成式人工智能系统的安全性和可靠性。AI也可以作为安全监管的有效技术手段,如利用生成式人工智能进行安全风险预警和监测,进行自动化合规检查,识别和过滤虚假信息,模拟安全风险事件,帮助制定应急预案,分析政策的影响和效果,为政策制定者提供决策支持。
加强国际合作,推动形成国际安全监管共识。生成式人工智能治理已经成为一项全球性科技议题大阳城集团娱乐app网址2022,要加强国际合作,建立多边对话平台研究交流生成式人工智能安全监管问题,促进各国安全人才交流和合作大阳城集团娱乐app网址2022,积极吸收各国关于AI安全监管经验,参与生成式人工智能治理与监管国际规则制定大阳城集团娱乐app网址2022,以人类命运共同体理念推动形成生成式人工智能安全监管共识,共同应对它带来的全球性安全挑战,推动相关技术为全人类发展服务。
这种莲藕煲汤才好喝!千万别再挑错啦在哪下载安装?阿里云,阿里电商双双拿下春晚独家!好用吗?
作者: 狄园婵 2024年12月30日 16:22
网友评论更多
989戚祥聪d
国人挖了4万多隧道✪✒
2024/12/30 推荐
187****9181 回复 184****375:“点数成金”百款气象数据产品上架福建大数据交易所🍱来自南京
187****9415 回复 184****910:全国政协举行仪式纪念孙中山诞辰153周年👙来自内江
157****4393:按最下面的历史版本♆📲来自洛阳
5285匡岚瑾214
俄官员:对阿塞拜疆客机坠毁原因进行假设是错误的🔝🛂
2024/12/29 推荐
永久VIP:中青漫评丨兰新高铁为西部地区高质量发展提供坚实支撑🛶来自宁德
158****9156:商务部发报告揭美国“多边贸易体制破坏者”本质❥来自北京
158****6925 回复 666⚜:养乐多回应关闭上海工厂:上海工厂目前已整合到上海总部☖来自郑州
910宗政娇彪pb
2020年中央企业实现净利润1.4万亿元 同比增长2.1%✉🥟
2024/12/28 不推荐
湛生雅zw:军事专家:四川舰将会把海空作战能力发挥到新的高度🌯
186****6343 回复 159****5613:重报圆桌会丨我市加快建设内陆开放综合枢纽 力争明年重庆枢纽通道联运量增长20%🍄