【这个杀手有点冷】英、美警告 AI机器人可制造大规模谋杀！

buzhy

18-09-10 10:01开发/机器人/大脑

• 
  

来源：dailystar.co.uk

编辑：大明

【新智元导读】机器人专家提出一个令人不寒而栗的警告：未来的机器人大脑可能出现像人类一样的激进的进化，这可能会造成一场对人类的大规模屠杀！从各国政府、思想领袖、决策者及普通民众都应该意识到这个风险。基于AI的完全自主武器已经跨过了道德边界，每个人都应提高警惕。

美国和英国机器人制造商已被告知，未来的机器人大脑能够实现大规模的谋杀。

一项名为“停止制造杀人机器人”运动报告称，用于战争的自动机器人准备大规模生产之后发出警告。

不过，计算机工程师Subhash Kak说，在未来，这种先进的机器可能像人类的大脑一样激进。

他表示：“鉴于目前的技术水平，目前还不存在机器人大脑实现激进进化的危险。

“另一方面，如果机器人大脑出现故障，可能会产生与人类类似的激进行为。

目前，极端主义宗教团体的领导人对越来越多的年轻人进行煽动，近年来在英国引发了许多恐怖事件，这个方式有点像自我进化的机器人大脑。他补充说，他相信制造商会尽全力降低这种风险。

不过，如果机器人大脑确实发生了这种激进的进化，制造商将会竭力脱开干系，为自己免责。

制造商充分认识到这种风险，会尽量降低这种可能的风险，同时也在向立法机构施压，要求免责。

上周，人权观察组织的高级武器研究员Bonnie Docherty表示，完全自主武器将违反国际人道法。她发出号召，要求各国反对军队使用这类武器。

她表示：“允许开发和使用杀手机器人会破坏既定的道德和法律标准。世界各国应共同努力，在这些武器系统在世界各地扩散之前实施先行禁止。

“来自科学家、思想领袖、科技公司、非政府组织和普通公民的反对意见表明，公众认为杀手机器人跨越了道德的门槛。许多政府都对此表示担忧，他们应立即做出回应。”

马斯克、哈萨比斯等2000多学者签署宣言：决不允许杀人机器人出现！

不过，与联合国的政治家们对此事的暧昧态度相比，AI领域的科学家和企业家们的态度则鲜明得多：决不允许“杀人机器人”出现！

今年7月，来自数百家公司的2000多名科学家，其中许多是机器人和人工智能领域的著名的研究人员和工程师，联名签署宣言，誓言绝不将他们的技能用于开发自主杀人机器。新智元对此曾做了详尽报道：点击阅读

这场宣誓行动由总部位于波士顿的非盈利组织未来生命研究所（Future of Life Institute）发起，来自36个国家的多达160个人工智能相关的公司、覆盖90个国家的2400名个人签署了宣言，他们承诺：

在世界上的任何一个国家，自主武器都对公民构成了“明显而现实的危险”，他们“绝不参与自主武器的开发”。

签署之一承诺的著名人士还包括顶尖的人工智能研究人员Demis Hassabis、Stuart Russell、Yoshua Bengio、Anca Dragan、Toby Walsh以及特斯拉和SpaceX的创始人伊隆·马斯克。

泰格马克教授

这场宣誓行动由泰格马克创办的未来生命研究所发起。今年9月20日，新智元AI WORLD 2018大会有幸邀请到泰格马克教授作为演讲嘉宾，他将带来对AI和生命的最新观点，相信也定将给中国产业界带来极大启发，让更多中国人思考自己的命运，思考这个世界未来的命运。

国内学者也曾参与禁止研发自主武器，周志华展望中国AI原生创新和重大理论突破方向

AI界对全自主武器的担忧一直存在。今年4月，Hinton、Bengio、Jürgen Schmidhuber、Stuart Russell等50多名学者联名向韩国KAIST发出公开信：停止研发全自主武器！

其中，南京大学的周志华教授作为发起人邀请的唯一来自中国大陆的学者，也签署了这封公开信。

周志华教授

作为全部学位均在中国内地获得的学者，AI领域会士“大满贯”得主，AAAI 2019程序主席、IJCAI 2021程序主席，周志华教授可以说是华人AI界最受关注的研究者之一。

在他的带领下，南京大学LAMDA发表了众多优秀论文和技术成果，周志华教授本人提出的“深度森林”也成为AI学界关注的热点。在深度学习狂热的鼎盛时期，周志华教授清醒地意识到深度学习的局限，开始探索深度神经网络以外的方法，充分展现了中国AI学界对原创理论的探索和追求。

2018年伊始，周志华教授出任南京大学计算机科学与技术系主任，3月，南大宣布成立人工智能学院，由周志华教授担任院长，致力于建设一流的AI基础研究和人才培养基地，形成基础研究、人才培养、产业创新协同发展的态势。

产学研深度有机融合是AI产业发展的必然趋势，在中国AI产业发展的关键时间点，在深度学习理论突破和创新需求愈发迫切的2018年，周志华教授如何看待AI理论和技术发展的痛点与关键？如何推动AI的产学研综合发展？

AI WORLD 2018，周志华教授将分享他对深度学习的一些思考，以及关于当前机器学习面临的一些重大挑战。

30万读者评选新智元AI Era创新大奖，投下你神圣一票！

2018年，是中国科学技术继续大步向前发展的一年，以人工智能为代表的新兴技术呈现蓬勃发展之势，中国人工智能产业将迎来一个崭新的时代。2017年9月，AI WORLD 2017世界人工智能大会 “AI 奥斯卡”Top 10 评选活动启动，引发了业界强烈反响， 最终获奖者由300多位新智元智库专家和数万读者共同投票选出。

今年，新智元特别设置的AI Era创新大奖，致敬过去一年为我们的工作和生活带来变革的AI创新。

新智元AI Era创新大奖继续把投票权交给微信公众平台的30万读者，评选2018年的AI创新企业、人物、项目三项大奖。

票数统计中，专家票权重为45%，读者票权重为35%，权威指数权重（CBInsights+H指数）占比20%。经过候选人/企业/项目提名、专家票选、读者票选、统计、专家评议，评出AI Era创新大奖获奖名单。

此前，新智元AI Era创新大奖企业项目，已经获得超过25000张投票，在此非常感谢各位读者的踊跃参与。

新智元AI WORLD 2018大会倒计时 10 天