请选择 进入手机版 | 继续访问电脑版
专注物联网产业服务
微信二维码
威腾网服务号
游客您好
第三方账号登陆
  • 点击联系客服

    在线时间:8:00-16:00

    客服电话

    17600611919

    电子邮件

    online@weiot.net
  • 威腾网服务号

    随时掌握企业动态

  • 扫描二维码

    关注威腾小程序

守住产物底线,提防野生智能作恶

发布时期:2021-9-14 20:24
阅读:1110

“未来10—20年,AI技术将渗透至与人类密切相关的领域,比如医疗、司法、生产、金融科技等风险敏感型领域,AI技术如果犯错,就会造成较大系统风险。”2020年12月29日,在未来科学大奖周举办的“青年对话”活动中,清 ...

守住产物底线,提防野生智能作恶


“未来10—20年,AI技术将渗透至与人类亲近相关的范畴,比如医疗、司法、生产、金融科技等风险敏感型范畴,AI技术假如出错,就会形成较大系统风险。”2020年12月29日,在未来科学大奖周举行的“青年对话”活动中,清华大学计较机系长聘副教授、中国科协全国委员会委员崔鹏说。

活动中,腾讯科学技术协会秘书长张谦暗示,面临AI技术所引发的风险题目,首先应当关注的是守住AI产物底线,即避免技术作恶。

在这方面,美团首席科学家夏华夏以为,法令律例方面需要做大量工作,包括制定AI行业的标准、标准,以及从国家层面完善、出台相关法令律例,从而对AI技术成长停止把控。

谈及AI标准化的理论,中国群众大学法学院副教授、未来法治研讨院社会义务和治理中心主任郭锐提到两个原则——人的底子好处原则和义务原则,“这两个原则的主旨是让AI的决议和行动尽能够经过人的干涉来避免对人的危险”。

“徒法不敷以自行。”郭锐坦言,法令自己也存在范围,躲避AI技术潜伏风险,需治理者对AI技术有透彻的领会,这样才能对其停止有用管束,“法令是建立包容性社会的重要工具,法令界要和企业、技术等方面专家合作,这样经过法令来对AI技术停止治理约束的方针才能告竣。”

星界本钱治理合股人方远以为,各大焦点数据平台处于AI风险治理的重要位置,“在互联网和大数据时代,大平台是数据的收集者也是保护者。务需要对数据利用权做出清楚界定,这对全部社会的AI成长有重要意义”。

“AI技术的风险治理需要科技工作者、企业治理者、政策制定者、相关法令专家以及投资人多方尽力。”中科院计较所研讨员山世光说。

除了守住底线,预会者还提到,要厘清鸿沟,指导技术向善。

崔鹏指出,出错并非AI独有的风险,人也会出错。“但人出错大大都可控、可猜测。现在朝AI技术出错的话是不成猜测的,大概出错先人们会发现其出错机制是没法从技术层面诠释的。这触及到AI在决议和行为上的鸿沟题目。”

厘清鸿沟具体包括AI需要大白它会什么、不会什么,以及人需要大白AI什么事能做、什么事不能做等题目。崔鹏以为,如不厘清鸿沟,AI还会犯更多低级毛病,带来更大风险。

郭锐以为,今朝AI碰到的伦理题目,现实上是由于它远未到达人类智能的水平,却已被赋予为人类做决议的义务,“还有人把AI技术看成捏词,用科学的名义做不合适伦理的决议,这样做是差池的。需要人决议的地方应当由人决议”。

2020年新冠肺炎疫情时代,英国用一套算法得出学天生绩,成果近40%的学天生绩低于教师的预估分数,致使很多门生与名校失之交臂。山世光说,有些野生智能模子或数据模子没有斟酌到社会公允、上风累计恶果,致使看起来运算进程很松散、成果很准,但却并不敷以支持AI做出科学决议。

有专家暗示,这并非AI技术的错。夏华夏说,真正应承当社会义务的是利用AI技术的人、企业等。AI技术向善需要社会整体文化成长到一定阶段,构成杰出空气。张谦则提到,技术并不成怕,可以经过技术进一步成长处理技术存在的题目。

山世光称:“说到底,我们还是希望AI技术能获得健康成长,满足对科技真、善、美的追求。”(练习记者 代小佩)

原文章作者:新华社客户端,转载或内容合作请点击 转载说明 ,违规转载法令必究。追求报道,请 点击这里


路过

雷人

握手

鲜花

鸡蛋
本文暂无评论,快来抢沙发!

扫一扫关注官方微信号

一手信息资讯权掌握尽在威腾网

滚动新闻
Weiot(威腾网)是一家以原创内容、高端活动与全产业渠道为核心的垂直类物联网产业媒体。我们关注新兴创新的物联网领域,提供有价值的报道和服务,连接物联网创业者和各种渠道资源,助力物联网产业化升级。
15201069869
关注我们
  • 访问移动手机版
  • 官方微信公众号

© 2014-2020 Weiot.NET 威腾网 北京微物联信息技术有限公司 ( 京ICP备20000381号-1 )