新浪新闻客户端

要为生成式人工智能套上“安全框架”,推动实现“懂道德的AI”

要为生成式人工智能套上“安全框架”,推动实现“懂道德的AI”
2023年05月05日 21:30 新浪网 作者 北京日报

  2022年,人工智能等前沿科技创新治理成为热点议题,我国相关的行业标准和地方法规密集建立,科技监督和科技伦理治理走向法制化、规范化。5月5日,《2022年中国前沿科技创新治理的重要进展与总体趋向》在北京市科协专业智库“论策论道”活动上发布。会上,专家表示,要为生成式人工智能套上“安全框架”,并最终推动人工智能有道德、合乎伦理。

  生物科技、人工智能等新技术的快速发展,既包含着社会进步的新机遇,也带来了技术滥用等不确定性风险。“2022年,可以说是中国科技创新治理史上最具有里程碑意义的一年。”中国农业大学人文与发展学院发展管理系教授、北京自然辩证法研究会理事长李建军说,当前,我国科技正处于转型发展时期,在前沿领域乃至科研“无人区”取得重要成果的同时,对科技风险防控的预警和治理也面临极大挑战。

  人工智能等前沿科技创新治理成为了2022年的热点议题。“生成式人工智能的数据来自社会,而数据中就隐含了人类的偏见,在此基础上训练的人工智能,显然无法保持中立。”中科院自动化所研究员、人工智能伦理与治理研究中心主任曾毅表示,如果不对大模型进行价值观校准,其可能会基于统计显著性给出匪夷所思的答案,“我们要先建立起伦理安全框架,而最终目标是实现有道德、合乎伦理的人工智能。”

  在科技监督和科技伦理治理向法制化、规范化发展的同时,前沿科技领域的行业共治也起到了举足轻重的作用。曾毅领衔的团队发布的“智善”人工智能伦理安全平台体系,就是人工智能领域行业共治的典型代表。其中的“智善·观行”观测站,便是通过公众反馈、察言观行来判断人工智能大模型的“道德品行”,用技术规范技术。

  “人工智能治理关键在‘人’,治理的对象归根结底也是‘人’。”中国新一代人工智能发展战略研究院执行院长龚克认为,人工智能是革命性通用技术,是具有“头雁效应”的先进生产力,特别是生成式人工智能已成为当前人工智能发展的前沿,需要通过有效的治理,促进而非阻碍人工智能的健康发展。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
人工智能AI
来自于:北京
权利保护声明页/Notice to Right Holders

举报邮箱:jubao@vip.sina.com

Copyright © 1996-2024 SINA Corporation

All Rights Reserved 新浪公司 版权所有