6月9号，在瑞士日内瓦“人工智能造福全球人类峰会”上，一位口才出众的智能机器少女—索菲亚成为了全场的焦点。当被问及“当机器人累吗?因为你时刻被人类控制”的时候，她竟然明确的告诉人类，被人类控制很难过。

当然，机器人的回答是否被提前设计过，我们不得而知。但如果完全是临场发挥，那这一问题似乎看起来并不是那么简单了。就如青少年在不愿被家长左右思想的时候，他们会做出什么反应?无疑是叛逆。那么，机器人不愿受人类控制的时候，将会是怎么样的表现?

Matt Reynolds近期在New Scientist网站上发表了一篇名为“Robots will be more useful if they are made to lack confidence”的文章。文章介绍了最近的一项实验，科学家把 AI 赋予充分的自信之后，AI 会认为自己做的才是对的，进而会阻止人类关掉自己。

加利福尼亚大学伯利克团队曾做过一个实验，为了探索计算机的“自信”，设计了一个人与机器之间相互作用的数学模型，称之为“开关游戏”。当机器人被设定为高度“自信”模式时，它们认为它们所做的都是有用的，这会使得它们永远也不会让人们把它关掉，因为它们试图最高效的完成任务。

其实，机器人控制人类的传言已经流传了很长一段时间。早在2015年Zeitgeist大会上，著名科学家史蒂芬·霍金(Stephen Hawking)就发出警告——未来100年内，人工智能将比人类更为聪明，机器人将控制人类。

霍金宣称，现在不是担心谁控制人工智能的时候，而应该担心人工智能是否能被完全控制住。未来100年中，人类将面临比人类更聪明的人工智能的挑战。霍金此前也曾发出警告，他称人工智能可能终结人类。

此外，特斯拉CEO伊隆·马斯克(Elon Musk)也曾与霍金共同发表过公开信，他们认为人工智能的发展应该受到控制。信中称，如果智能机器无法保障安全，人类可能陷入黑暗的未来。

来自牛津大学的Marta Kwiatkowska认为，那些拒绝让人类关闭的自动操作系统听起来可能有些牵强，但是这样的考虑应该是制造在人们身边工作的这类机器人时所必须具备的。她同样认为，在建造无人驾驶汽车、消防机器人时，都要求为人类的安全考虑，因此，对于这些伦理框架的决策宜早不宜迟。

但另一方面，人类也不必妄自菲薄，如今的智能机器人并非无所不能。就如日前刚刚击败围棋高手的阿尔法狗而言，目前阿尔法狗只能在少量领域里逞能。据科学家分析，当前市场上的大部分智能机器人智商只相当于4岁的儿童，其“常识”比正常的成年人相差甚远。

美国科学家罗伯特·斯隆认为，人工智能的难题之一，就是开发出一种能实时做出判断的计算机软件。尽管机器人在工作强度、运算速度和记忆功能方面可以超越人类，但在意识、推理等方面都不可能超越人类。