葡京现金游戏

最坏情况的清单可以帮助为邪恶的AI做好准备

作者:虎澉    发布时间:2017-12-17 02:01:01    

Erik Tham / Getty作者Chris Baraniuk人工智能 - 可能发生的最坏情况是什么对于肯塔基州路易斯维尔大学的计算机科学家Roman Yampolskiy来说,天空是极限与黑手党主义者和企业家费德里科·皮斯托诺合作,他提出了一系列潜在恶意AI的最坏情景,从“奴役人类”到“摧毁宇宙” Yampolskiy认为,尽可能多地预测负面结果 - 正如网络安全研究人员在寻找漏洞时所做的那样 - 将帮助我们防范灾难 “人工智能思维的标准框架一直是提出新的安全机制,”他说但是,以网络安全思维方式来看问题会对事物产生不同的影响:从列出所有可能出错的事情开始,可以更容易地测试我们最终可能希望实施的任何保障措施 Yampolskiy和Pistono设想的一些灾难涉及让我们反对自己在一种情况下,人工智能系统发动全球宣传战,使政府和民众处于对立状态,为“行星混沌机器”提供支持这项工作由科技企业家埃隆马斯克(Elon Musk)设立的基金支付,他将人工智能描述为人类“最大的生存威胁”斯蒂芬霍金表达了类似的担忧然而,不是每个人都有同感伦敦大学金史密斯校区的Mark Bishop认为这种担心被夸大了总部位于硅谷的中国互联网巨头百度首席科学家安德鲁•吴(Andrew Ng)将对杀手机器人崛起的担忧与对火星人口过剩的担忧进行了比较但Yampolskiy引用了微软Twitter聊天机器人Tay的例子,最近当它被骗入种族主义言论时被骗虽然相对无关紧要,但Yampolskiy说这一事件揭示了这种系统的不可预测性 “研究人员没有预料到这种结果,”他说 “我希望看到一个突然转移到这不仅仅是我们提出解决方案的领域,”他补充说英国谢菲尔德大学的人工智能研究员诺埃尔·夏基(Noel Sharkey)同意,网络安全的测试方法对于任何系统来说都是一个好主意,“我希望你提出一个安全机制的这种相互作用,但也要问我们可以打破它吗”特别是自主武器但是像Bishop和Ng一样,他对人工智能的更普遍威胁持怀疑态度他说:“一个恶意的,超级智能的,一般的人工智能的想法仍然在科幻小说和猜测领域”参考:arxiv.org/abs/1605.02817有关这些主题的更多信息:

 

Copyright © 网站地图