担心AI毁灭人类?谷歌正在研发控制它们的“紧急按钮”

  • 内容
  • 评论
  • 相关
担心AI毁灭人类?谷歌正在研发控制它们的“紧急按钮”

  新浪科技讯 北京时间6月9日晚间消息,国外媒体报道,谷歌旗下人工智能部门DeepMind日前表示,正在研发一种“保险开关”,以防止机器人在某些情况下失去控制而对人类造成伤害。

  特斯拉和SpaceX公司CEO埃隆·马斯克(Elon Musk)上周还对人工智能的发展表示担忧,他在出席Code Conference大会时称,按照人工智能的发展,未来人类在智力上将被超越,并沦落为人工智能的宠物。

  但如今,马斯克应该可以舒口气了,因为谷歌正在想方设法确保由人类控制一切。DeepMind日前在一份学术论文中称:“有时,可能需要由人类来按一个红色的紧急按钮,以阻止机器人的一些破坏性行为。”

  这种安全机制将会时刻处于人类的监控下,而且在必要时候能够通过按下红色的按钮来阻止机器危及人类、环境,并确保该机制能在安全的环境下运行。谷歌称:“在许多情况下,对机器人采取安全中断措施是非常有必要的,否则将导致一些无法控制的后果。”

  有业内人士称,谷歌这种做法的前提是:确保人工智能不会脱离人类的控制,确保人工智能无法阻止这个中断。但如果人工智能真的发展到能与人类抗衡的地步,谁又能保证它无法找到破坏这种安全机制的方法呢?(李明)

该文章由WP-AutoPost插件自动采集发布

原文地址:http://tech.sina.com.cn/i/2016-06-09/doc-ifxszkzy5019741.shtml

评论

0条评论

发表评论

电子邮件地址不会被公开。