财富成都热点：人工智能安全化的逻辑很简单：既然人工智能可能是恶魔，那就教它一些做人的道理好了。
　　比尔·盖茨、霍金、特斯拉CEO伊隆·马斯克三人都曾公开表达过对于人工智能可能会威胁人类的担忧，呼吁我们要对人工智能持谨慎态度。

　　比尔·盖茨：“如果我们能够很好地驾驭，机器能够为人类造福，但如果若干年后机器发展得足够智能就将成为人类的心头大患。”

　　霍金：“人工智能计算机可能在接下来的100年之内就将人类取而代之。如果这样的事情成为了现实，我们必须确保计算机和我们站在同一战线上...我们的未来是一场不断增长的科技力量与人类使用科技的智慧之间的竞争。”

　　马斯克：“我们的人工智能系统，必须按照我们的意愿工作。不受控制的人工智能可能比核武器更危险。”

　　但正沉浸在人工智能好处中的我们，时不时地掏出手机，丢个“0除以0等于几”的问题给Siri调戏一番，感慨下人工智能的美好。我们也许在想，是大佬们危言耸听了吧，“造物主”的我们肯定有办法控制它们。

　　这不，今天就出了一个打脸新闻——德国大众的机器人攻击致死一名工人。

　　今日（7月2日）消息，据英国《金融时报》报道，德国大众位于卡塞尔附近的一家工厂近日发生悲剧，一名技术人员因突遭机器人攻击，最终因伤重不治身亡。

　　这名不幸身亡的技术人员正值21岁英年，是一位外部承包商，事发时他正与同事一起安装机器人，但机器人却突然抓住他的胸部，然后使劲压在一块铁板上。

　　机器人上工作台在西方国家已经是一个很普遍的事情，机器人会被放在安全笼的后面，以避免它们与人类意外接触。因此极少会发生与机器人有关的死亡事件。而此次悲剧，经过检察机关调查后发现，是由于出事人员事发时正好站在安全笼里面造成的。第二名技术人员由于在笼子外面，因此没有受到任何伤害。

　　事后，大众公司发言人强调，肇事机器人并不属于新一代轻量级机器人，后者可以在生产线上与工人们并肩工作，还不需要安全笼。另外发言人还强调，肇事机器人并没有出现技术故障。言外之意，事故的发生完全是人为操作不当，机器人可是无辜的，而且我们已经有了更加先进安全的新机器人了呢。

　　无论错究竟在谁，人类死于机器都是一件让同类的我们在情感上不好接受的事。虽然Space X的火箭刚在上周末爆炸，搞砸了马斯克的生日，但马克思依旧心系全人类，设法让人工智能安全起来。

　　人工智能安全化的逻辑很简单：既然人工智能可能是恶魔，那就教它一些做人的道理好了。

　　同样是今天（7月2日）的消息，彭博社日前透露，马斯克筹了1000万美元用来研发懂得“伦理道德”的机器人，以确保他们不会毁灭人类。

　　今年1月，马斯克将这1000万美元资金交给未来生命研究所，其中700万美元是马斯克自掏腰包，其他均来自公开慈善项目组织。部分资金将投入到世界各地的37个研究项目中。

　　未来生命研究所负责人马克斯·泰格马克表示：“目前为止，所有投资都是确保系统更加智能化，这是首次有投资被用于限制智能化。”

　　其中3个项目研究将帮助人工智能系统通过观察我们的行为，从而了解人类需求。另外2个项目则研发一种人工智能伦理道德系统，让人工智能系统学会解释自己的行为，告诉人类它们做出每个决定的原因。这不禁让人联想到今年上映的机器人电影《超能查派》，影片中查派能够快速学习，吸取人类的教导。