中科大教授:人工智能还远没到挑战社会伦理的程度

2018-12-03 07:55:42 来源: 网易研究局
0
分享到:
T + -

专访诺奖得主基德兰德:没必要抵制美联储加息

网易研究局·大师

·聚焦国际思想市场·解析财经新闻热点·对话国际经济学大师


大师 NO.015

对话中国科学技术大学机器人实验室主任、国际RoboCup Federation理事陈小平

中科大教授:人工智能还远没到挑战社会伦理的程度


首届未来哲学论坛于11月23日-24日在上海举行。中国科学技术大学机器人实验室主任陈小平接受了网易研究局·大师的专访。陈小平表示,人们对人工智能有太多“脑补”的成分。目前人工智能的发展水平还远远没到挑战社会伦理的程度。中国应该担心的不是人工智能带来制造业工人失业,而是应该担心制造业本身无人可用的问题。

60S要点速读:

1、中国产品的生产特点是低成本,不像国外利润率很高。企业要不搞低成本,人家搞低成本就把你搞死了。

2、互联网经济情况确实非常好,实体经济真的可悲,有的利润不到10%,想要把工人的工资提高,实现不了。

3、如果人工智能真的发展太快,那确实要限制,但如果真的是因为发展快而限制它,相对还是比较容易的,但现在的情况是大量岗位没有人干。

4、人工智能最有希望和最危险的都是这条路:自我进化。进化的方向没办法控制,这是最危险的,现在从理论上看仍然是这样。

5、从技术上讲,人工智能可以实现自我进化。但除非把图灵编码改掉,那时候人工智能可能自我进化,现在还没有到达那样的程度。

以下为采访精编:

网易研究局·大师:您认为目前人工智能的发展水平还没有达到对伦理构成挑战的程度?   

陈小平:没到那么严重的程度。首先,现在还是有必要开始做这方面的研究,毕竟做伦理规范是很难的,是长期的工作,不能等到风险已经非常明显才开始做,提前就要开始做一些准备性工作。我们和哲学家是两个领域,共同语言其实比较少,我们双方要达到互相能够理解的程度,这就需要比较长的时间。我觉得现在应该开始做这个工作,所以我们现在开始策划在中国做一系列的研究。

这个研究的短期重点不是放在技术风险,而是关注一些更复杂的问题。目前工人不愿意在生产线岗位上就业,这不是人工智能引起的,是其它原因引起的,但现在已经非常普遍。

过去五年我去了很多生产线,感觉是不一样的。我自己想象,让我一辈子天天拧螺丝我愿意吗?不是因为我是科学家我不愿意,即使我是普通工人我愿意吗?我肯定不愿意。管理层也都是这个看法。现在工人是流动的,工人觉得在手机行业干得不好,到笔记本行业是不是好呢?他们换一个行业工作,不行就再换一个行业。现在有些工人都换了好多行业。

有人说企业是不是应该给工人更高工资?企业给不了,为什么?只有汽车行业是自动化在整个行业规模化应用,别的行业都是少量工种加上一点自动化体系,而不是整个生产体系自动化作业。这是因为中国产品的生产特点是低成本,不像国外利润率很高。企业要不搞低成本,人家搞低成本就把你搞死了。雷军的狠就在于其把低成本做到最低,没有人的低成本能超过他,没有人能把他搞死,只有他把别人搞死。中国的生态就是这样。

现在我们了解到的情况是,除了汽车行业,别的实体经济行业(如手机、笔记本电脑)非常可怜。互联网经济情况确实非常好,实体经济真的可悲,有的利润不到10%,想要把工人的工资提高,实现不了。现在这些企业必须用机器换人,但好多地方机器还换不了人。

在这种情况下,人工智能伦理该怎么做?其实这个问题非常复杂,不完全是人工智能的问题。我了解到的情况是国家要求各个部委都在做这方面的调研,比如机器人未来发展会代替多少工人,但没有人愿意接这个调研的活儿。

网易研究局·大师:他们不愿意干的原因是什么?

陈小平:还是干不了。过去我们没到生产线看,我们的想法就是去国外看,国外做个难的,中国一定要做个比它更难的,不管中国是不是需要。现在不一样,我们现在是从中国的实际需要出发。

如果人工智能真的发展太快,那确实要限制,但如果真的是因为发展快而限制它,相对还是比较容易的,但现在的情况是大量岗位没有人干,马上就面临一个问题:未来十年中国制造还有没有?没有人承担这些制造岗位,怎么能有中国制造?

网易研究局·大师:人工智能未来可以自进化吗?

陈小平:人工智能最有希望和最危险的都是这条路:自我进化。进化的方向没办法控制,这是最危险的,现在从理论上看仍然是这样。人类让人工智能从能力上超越现在,允许它变成一种最危险的可能,这是一种自我进化。但目前短期从技术上看不到这种可能性,现在人工智能的进化不是根本上的进化,只是表层的进化。

打个不恰当的比喻,现在人工智能的进化程度相当于它的“基因”没有改变,甚至从根本上说连“突变”都没有,连“突变”都没有那还有什么危险的进化呢?

“基因”比思维更深。我现在讲的是思维,没讲“基因”,人工智能的“基因”是在我讲思维之前那个阶段研究的。图灵编码是目前人工智能的“基因”,因为所有智能的东西最终都要靠计算机实现,计算机根本的理论模型是图灵机,而图灵机的“基因”是图灵编码。除非把图灵编码改掉,那时候人工智能可能自我进化,但现在没有。“基因”改不了就没有“突变”,没有“突变”我们就没什么可担心的。

网易研究局·大师:也就是说,人工智能的自我进化在技术上还是可能的?

陈小平:完全有可能。所以还是要有限制的。

陈小平简介:陈小平现任中国科学技术大学教授、国际RoboCup Federation 理事、Journal of Artificial Intelligence Research和Knowledge Engineering Review编委等。“女神机器人”佳佳之父。

网易研究局是网易新闻打造的财经专业智库,整合网易财经原创多媒体矩阵,依托于上百位国内外顶尖经济学家的智慧成果,针对经济学热点话题,进行理性、客观的分析解读,打造有态度的前沿财经智库。

北京无雾霾?这个冬天 帝都的雾霾都到哪里去了移驾微信公号 看这里看不到的内容

【精彩推荐】点击进入网易研究局>>

【精彩推荐】点击进入大师>>

董超 本文来源:网易研究局 责任编辑:杨泽宇_NF6036
分享到:
跟贴0
参与0
发贴
为您推荐
  • 推荐
  • 娱乐
  • 体育
  • 财经
  • 时尚
  • 科技
  • 军事
  • 汽车
+ 加载更多新闻
×

FBI找人专家:你的圈子就是你的财富

热点新闻

态度原创

阅读下一篇

返回网易首页返回财经首页
用微信扫描二维码
分享至好友和朋友圈
x