新浪新闻客户端

谭铁牛委员:加强对人工智能内容生成技术的监管

谭铁牛委员:加强对人工智能内容生成技术的监管
2023年03月13日 07:02 新浪网 作者 中国青年报

  中国青年报客户端讯(中青报·中青网记者 李超)日前,全国政协委员,中国科学院院士、南京大学党委书记谭铁牛接受采访时表示,近年来,以ChatGPT为代表的人工智能内容生成技术(AIGC技术)取得重大突破,在全球掀起了人工智能的新一轮热潮,也使我国面临诸多新的风险与挑战。“针对上述风险与挑战,我们必须未雨绸缪、趋利避害,多措并举,精准施策,确保AIGC技术安全、可靠、可控。” 

  谭铁牛表示,面临的风险与挑战主要有:一是技术主导权缺乏带来技术落差不断扩大的风险。与美国等西方发达国家相比,我国在人工智能基础理论、训练数据和芯片算力等方面存在明显差距,导致我国缺乏对整个AIGC技术的主导权。二是法规与治理体系不完善带来社会稳定与国家安全方面的风险。AIGC技术可能会被用来恶意伪造出严重威胁社会稳定和国家安全的谣言或虚假信息。三是盲目跟风带来无序发展和资源浪费的风险。近期短短一周时间内,十余家国内互联网和科技企业宣布已布局AIGC技术,并且还有很多创业团队一拥而上。四是过度渲染带来社会恐慌的风险。由于普罗大众对AIGC技术的真正内涵了解有限,一些媒体和自媒体的过度渲染极易导致不必要的失业焦虑和对隐私泄露的担忧。

   为此,他建议加强科技攻关,牢牢紧握AIGC技术主导权。持之以恒加强人工智能基础理论研究,着力推进人工智能基础与应用基础研究的前瞻性、战略性和系统性布局,既要聚焦AIGC技术,也要重视人工智能生成内容的鉴别技术研究。要大力推动数据资源的汇聚,破解“数据孤岛”,完善数据共享机制。加快构建国家顶层规划、龙头企业牵头、高校科研机构共同支撑的创新链产业链融合体系。他还建议,建立健全相应的法律法规,构建良好舆论环境,推动AIGC技术健康有序发展。依法依规推动AIGC技术的作品创作和内容传播,明确AIGC生成内容的身份标识与知识产权归属认定,明确AIGC生成内容过程中侵犯他人的责任界定,明确AIGC技术的应用红线,不断完善相关法律法规体系。加强舆论对AIGC技术的客观理性宣传,对社会公众普遍关心的热点问题,官方媒体要有针对性地正面引导、深入解读、回应关切,避免恶意炒作和行业泡沫。 

  他还建议坚持科学普及与科技创新并重,着力提升全民智能化素养与技能水平。大力普及人工智能基础知识,提高公众认知,使公众理性对待人工智能。面向人工智能技术的开发者和使用者,加强伦理教育和职业伦理培训,通过开设工程伦理课程,在相关职业资格考试中增加对伦理道德专业知识和人员自身道德素质的考核内容,全方位塑造道德伦理体系。构建高效对话机制和沟通平台,消除社会大众对人工智能的误解与恐慌。 

  此外,他认为应健全研发、审核、应用与安全等多维标准规范体系,完善AIGC技术创新生态。比如,集聚政产学研用力量,聚焦学术术语、参考框架、算法模型、训练数据、技术平台,不断拓展和完善现有标准体系,推动AIGC技术的国际标准化。全面建立人工智能生成内容审核标准的评估验证机制,防止虚假信息或不良信息在网络上的广泛传播,规范AIGC技术、服务和产品在特定行业的应用范围和深度标准化建设。 

  最后,他建议积极参与人工智能国际合作和治理,为AIGC技术普惠人类社会提供中国方案。深化国际科技交流合作,深度参与全球人工智能科技治理,参与相关国际管理政策及标准的制定,前瞻研判人工智能技术带来的社会风险、伦理挑战,完善相关法律法规、伦理审查规则及监管框架,为人工智能技术健康发展特别是AIGC技术普惠人类社会贡献中国智慧、提供中国方案。

  来源:中国青年报客户端

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
人工智能谭铁牛
来自于:北京
权利保护声明页/Notice to Right Holders

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2024 SINA Corporation

All Rights Reserved 新浪公司 版权所有