人工智能伦理研究项目启动,人工智能发展需要理性务实

人工智能伦理研究项目启动 谭铁牛为项目负责人
中科院院士谭铁牛:人工智能发展需要理性务实

本报讯人工智能属于什么物种,是否产生自主意识,是否自我进化?人工智能也在改变世界,其可能引发的伦理问题正在引发无限遐想,其实,关键是人类如何塑造人工智能。9月8日,人工智能伦理研究项目正式在京启动,中科院院士谭铁牛为该项目负责人。

人工智能经历62年发展,风雨兼程,已经取得重大进展,专用人工智能取得突破性进展并得到广泛应用。日前,中国科学院院士、中科院自动化所研究员谭铁牛在参加人工智能创新论坛时指出,人工智能将对生产力和产业结构产生革命性影响,并推动人类进入普惠型智能社会。

据介绍,英国、美国的学术机构分别于2015年、2016年部署研究人工智能发展过程中的伦理问题、公共政策问题。而我国是人工智能领域的主要学术力量之一,国内外都非常重视我国在此技术领域的贡献,应当在人工智能发展中承担相应的伦理责任,参与相关国际管理政策的制定,把握科技发展话语权,在最具有代表性和突破性的科技力量中占据发展的制高点。

不过任何事物的发展不可能一直处于高位,也会有低谷,这是客观规律。尽管当前,智能机器人、认知专家顾问、机器学习、自动驾驶等人工智能热门技术与领域正处于期望膨胀期,但在谭铁牛看来,通用人工智能及人工智能的整体发展仍处于初步阶段,人工智能还有很多“不能”。

然而,“与科技发达国家相比,我国在人工智能领域的伦理问题研究及风险管理方面仍滞后于国际水平。”谭铁牛指出,“这种滞后可能成为我国人工智能技术发展的一大掣肘。”

谭铁牛提醒,人工智能现在缺的不是热情,而是“理性务实”。“要理性分析我们的现实需求,理性设定发展目标,理性选择发展路径,务实推进各种计划、规划的实施。”

人工智能伦理研究项目作为中国科学院学部咨询项目,将主要研究人工智能对未来社会的影响,梳理人工智能可能引发的伦理问题,探讨人工智能伦理问题的沟通机制,并提出应对人工智能伦理问题的建议。在正式启动前,项目组已经通过资料搜集与梳理、专题研讨等方式,形成了调研初步结果并拟定了研究提纲。

谭铁牛还分享了关于人工智能后续发展的几点思考。

启动会后,上海社科院哲学所研究员成素梅作《智能化社会的十大哲学挑战》报告,上海社科院实力研究中心研究员胡键作《人工智能对人类社会的影响》报告,中国人民大学法学院副教授郭锐作《人工智能的伦理和治理》报告,其后,哲学、法学、人工智能等专业学者就“人工智能发展对未来社会的影响”展开主题研讨。

他认为,诚然人工智能的春天刚刚开始,但其发展不应只被当下热点一叶障目,例如目前颇受追捧的深度学习,未必是人工智能发展的唯一甚至必由路径。故而,加强基础扎实的原创研究是要务。

《中国科学报》 (2018-09-11 第1版 要闻)

以此为准则,我国应构建自主可控的创新生态。对此,谭铁牛提出构建人工智能的“新核高基”:“新”指新型开放创新生态,如军民融合、产学研融合等;“核”指核心关键技术与器件,如先进机器学习技术、鲁棒模式识别技术、低功耗智能计算芯片等;“高”指高端综合应用系统与平台,如机器学习软硬件平台、大型数据平台等;“基”指具有重大原创意义和技术带动性的基础理论与方法,如脑机接口、类脑智能等。

要想实实在在收获人工智能带来的红利,首先应保证其安全、可控、可靠发展。“我国在人工智能领域的伦理问题研究及风险管控方面相对滞后。”谭铁牛强调,“这种滞后局面与我国现阶段人工智能技术的发展阶段不相适应,并可能成为我国人工智能技术发展的一大掣肘。”

记者获悉,由谭铁牛任项目负责人的中科院学部咨询项目《人工智能伦理研究》日前已正式启动,并已于前期形成调研初步结果。

谭铁牛还建议推动共担共享的全球治理。“我国应该发挥一个大国应有的作用,包括推进人工智能技术标准和安全标准的国际共性问题研究。”

此外,关于人工智能引发的隐私问题、安全问题以及系统本身的安全问题,当前尚未引起足够重视。

谭铁牛举了个网络安全的案例:现在很多家庭装有网络摄像头,有些是为了观察老人或孩子情况,有些为查看是否发生入室偷盗。但是一旦摄像头被黑客入侵,那么这个家就变成了“透明空间”,有可能被24小时直播。

“这其中有技术层面的问题,也有法规监管不到位的问题。”谭铁牛指出,人工智能系统的安全问题暂不严重,但更应引起高度重视,未雨绸缪,“需要相关各方坐在一起,形成合力,展开面向未来的综合研究。”

“既然开始步入智能化社会的新时代,人工智能也已经带来各种挑战和可能的隐患,那么我们确实需要未雨绸缪,确保人工智能的正面效应。”谭铁牛再次强调。

Leave a Comment.