当地时间3月22日周二缘由

“强人工智能”伦理困境：假设有天你爱上AI怎么办？

8月25日至27日，由太和智库发起主办，每日经济战略合作的首届太和文明论坛在北京举行。在人工智能分论坛的讨论中，多位专家、学者和从业人员均认为，随着人工智能(AI)的快速发展，基于人工智能的万物互联时代正在到来，包括无人驾驶、智能家居、自动诊疗、智慧城市等。人工智能的运用似乎出现一片欣欣向荣的景象。

但是，人工智能势不可挡的发展趋势，也给人们带来了一连串隐忧，人工智能未来会无所不能?人工智能是否会挑战人类伦理，冲击社会制度，威逼人类生存甚至取代人类?人类到底该何去何从?针对上述疑问，《每日经济》从上述与会人士的发言中总结出一些精彩片断，并采访了部分业内人士，为读者打开AI的一扇窗。

在科幻影片里面，人工智能机器人不止一次地实现了自我意识觉醒。以AI为主题的美剧《西部世界》中，男主角虽然知道心爱之人是机器人，依然义无反顾的爱上了它，而机器人也找寻到了在这个世界唯一的真实的东西自由意识。

在关于人工智能的一系列忧虑中，伦理问题是最主要的一个。在首届太和文明论坛举行期间，多位行业人士表示，从目前技术来看，人工智能还没有面临失控的局面，人工智能所出现出来的感情是虚假的。科学家还没有研究清晰人类自我意识为何物，实现机器人真正的自我意识很遥远也很渺茫。

带来新的情感和隐私问题

新技术的出现一次次实现人类能力的外延，但是历史上从未有某一技术直接和人类大脑进行竞争。

科学家把强人工智能定义为出现真正有自主意识、且可确证其主体资格的智能，而不是AlphaGo这样仅仅比机械计算发展了更多层次的推理能力和学习能力的程序。与强人工智能所对应的，是遵守人类计算机算法的弱人工智能。

在微软亚太研发团体副总裁商容看来，人工智能需要有理性，也需要有感性，涉及感性就会涉及到伦理和隐私等问题。而联想创投董事总经理王光熙则认为，未来人工智能或许具有情感，这就牵扯到未来人类智慧和机器智能之间的界限在哪，或是界限会被抹去。

当人工智能具备了情感，就会与人类出现恋人、亲人等关系，这将拷问现代伦理规范。信帧机器人创始人贺江涛认为，在实际工作当中，曾遇到人类对机器人产生感情的事件。公司旗下的一款文娱机器人，其视频在络上有亿次多的点击量，视频中这个机器人的头部被拍打了一下，一位母亲在看直播后就愤怒了，她说这是我女儿公司做的机器人，你怎么能打他呢?这时候贺江涛发现，人类对这台机器人产生了感情，与这台机器人有了某些联系。

除了情感，人工智能还涉及到隐私安全问题。之前产生过美国两夫妻吵架，而家中智能音响在察觉环境信息之后，做了自动报警处理事件。这其中，智能音响一直在窃听夫妻的对话，以做出合适的应对，很显然其反馈结果并非这对夫妻所愿。

拥有自我意识还很遥远

在今年6月份，一份论文泄漏了这样一项实验：Facebook的研究人员希望通过训练一对聊天机器人，让它带着目的和人类对话。研究人员发现，人工智能乃至能够对不想要的东西伪装出兴趣。虽然后来Facebook进行了澄清，这也不得不启发我们去思考人工智能会不会有失控的那一天?

微软亚洲研究院副院长潘天佑在接受《每日经济》专访时表示，当前人工智能的发展不见得失控，失控听起来很恐怖。作为一名计算机科技工作者，经常向人解释真实的科学和科幻电影的差距还非常大。

很多时候，我们觉得人工智能的某些运用出现出好像有感情、好像有情商，其实这个依然是虚拟的。比如语音聊天，它从互联上面学习很多人类的聊天方式，它回答的某一句话，可能让人觉得有感情。但这个感情，还是通过机器学习而实现的，还没有自我意识的发生。潘天佑说道，我们自己还没有探讨清楚人类的意识是什么?怎样去设计出一个东西有感情呢?

根据专家的观点，不管当前人工智能系统如何模仿人脑神经络，对话、行动等方面如何像人，只要人类心智现象的终究解释没有取得突破性进展，关于人工智能是不是逼近人类的设问就缺少必要的条件。

从发展程度上来讲，目前我们发展的还是弱人工智能，强人工智能技术是不是能实现尚未可知。潘天佑对《每日经济》表示，未来的事情没有人真的知道，从现在的状态来看，人工智能的感情还仅仅是虚拟的，不用担心人工智能可以做到像人类一样拥有自我意识、个人感情。

《互联进化论》作者、计算机博士刘锋对《每日经济》表示，如果人工智能被看做与人类同等地位的智慧生命体，它与人类社会的关系存在伦理道德问题。如果人工智能本质上与菜刀一样属于工具，那末工具本身并不存在伦理问题。

但有一点不可否认，人工智能已悄然影响着人类的思维方式。正如太和智库副理事长兼秘书长伊迪所说，人工智能在某一个领域或者是某种程度上来讲已超出了人类大脑，可以做到人所不能的事情，对人类的思惟方式产生影响。比如，人类思考问题的方式主要为因果关系，未来人工智能包括大数据的发展更强调相关性。

关注ITBear科技资讯公众号（itbear365 ），每天推送你感兴趣的科技内容。

特别提醒：本内容转载自其他媒体，目的在于传递更多信息，其实不代表本赞同其观点。其原创性和文中陈述文字和内容未经本站证实，对本文和其中全部或部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，并请自行核实相关内容。本站不承当此类作品侵权行为的直接及连带。如若本有任何内容侵犯您的权益，请及时联系我们，本站将会在24小时内处理完毕。

蚌埠中医牛皮癣医院

汕头男科医院地址

怎样确诊骨质疏松

宝宝突然不爱吃饭怎么办

痛经小腹痛吃什么

肠道感染要怎么办