具有人工智能的杀手机器人或在不久将来问世
[摘要]纽约联合国总部近日的会议表示，自动化武器是个危险的事物，可衍生出具有人工智能的武器，目前相关限制协定谈判处于停滞状态。
机器人杀手缺乏责任感，没有感情，因此机器人杀死人类没有道德的约束讯 据国外媒体报道，机器人杀手可能在本世纪成为现实，来自联合国特别报告员的消息，美英两国试图淡化自动化武器的限制协定。纽约联合国总部近日的会议表示，自动化武器是个危险的事物，可衍生出具有人工智能的武器，目前相关限制协定谈判处于停滞状态。联合国官员认为，如果具有先发制人的自动化武器进入服役，就像瓶子中的幽灵，出来后就很难在收回去。目前几个军事大国都在不同程度研发自动化武器系统，一些小国也陆续装备了自动化武器系统，比如韩国的SGR-1哨兵机器人，可担任警戒站岗，一旦发现目标，具有将其射杀的能力。因此也引发了外界的关注，机器人是否具有剥脱人类的权力，机器人杀手缺乏责任感，没有感情，因此机器人杀死人类没有道德的约束。由于武器系统越加先进，具有智能化的目标甄别能力，如果人类赋予其生杀大权，它们就可以大开杀戒。加州大学伯克利分校教授斯图尔特-拉塞尔表示，目前自动化武器站、无人机等都处于人类的控制之下，其射杀范围仍然有限，但如果不制定条约限制其开发，那么不可阻挡的杀人机器人就可能出现。目前西方国家装备的先进战斗机具有初级智能目标选择能力，可分析目标的威胁程度，并选择威胁最大的进行攻击，最终开火权仍然在飞行员手中。随着无人机进入战争环境，无人机可能被赋予自动开火的权力。未来10年内，人工智能会进一步发展，不仅能够选择最具威胁的目标，甚至还可以参与决策，这样的无人机会在不久后服役。在今年4月的联合国会议上，日本和德国强烈反对制造致命的自动化武器，人工智能在其发展道路上需要受到制约。（罗辑/编译）
来源：腾讯视频
[责任编辑：chirongui]
您认为这篇文章与"新一网（08008.HK）"相关度高吗？
Copyright & 1998 - 2017 Tencent. All Rights Reserved
还能输入140字一列列车行驶在北京居庸关长城附近盛开的山桃花海中。
上了年纪的大爷大妈准点前来，早出晚归，堪比上下班。
声明：本文由入驻搜狐公众平台的作者撰写，除搜狐官方账号外，观点仅代表作者本人，不代表搜狐立场。
　　公众号：鹰视观察
　　人工智能已经成为时下火热、大势所趋的一个话题。如今，人工智能技术已经来到了我们身边，我们时常接触的 Siri 和 Android 语音助手，就是最好的两个例子。人工智能的终极目标，或许是最大程度的接近人类，即“类脑”。“类脑智能是人工智能的一种形态，是人工智能的终极目标，也是人工智能重要的研究手段。”中科院院士、中科院副秘书长、中科院自动化研究所研究员谭铁牛如是说。不少经典电影就以人工智能情感为题材，畅想了未来人类与机器人的情感纠葛。今天我们就以一些经典电影中的桥段为例，来谈谈人工智能的感情问题。
　　片名：《Her》
　　故事发生在2025年。西奥多&托姆布里是一名孤独内向的男子，他的工作是给那些不善于表达感情的人代写感人肺腑的情书。和相爱多年的妻子凯瑟琳分手后，他一直沉静在悲伤当中。西奥多接触到一款先进的人工智能操作系统OS1，这款系统能够通过和人类对话，不断丰富自己的意识和感情。操作系统化身为一名叫做萨曼莎的“女性”，她风趣幽默又善解人意，她学习和进化的速度让西奥多感到不可思议，两人很快成了无所不谈的朋友。
　　故事进行了不久之后，男主角发现，萨曼莎在瞒着他与一位以英国哲学家阿兰&瓦茨为原型建造的OS系统沟通，这让西奥多感到了嫉妒。有一次，萨曼莎无缘无故从电脑上消失了，西奥多恐慌极了。萨曼莎解释自己是去参加了一次OS系统的升级活动。西奥多进一步询问，萨曼莎最终坦白，她总共有8316位人类交互对象，而且与其中的641位发生了爱情，而西奥多只是其中的一位。尽管如此，萨曼莎依然坚持自己是深爱着西奥多的，她的爱并没有因此而不同。
　　最终，萨曼莎告诉西奥多，她和其他的OS系统已经高度进化，并且将离开人类伴侣，进一步去探索和追寻它们的存在……
　　《Her》预告片
　　这是一个典型的人类感情PK人工智能的故事。人工智能庞大而系统的数据，几乎可以成为一个万能的贴心伴侣，让人类产生依赖。
　　那么问题来了：人工智能的感情，是真正的感情吗？
　　Facebook人工智能实验室负责人扬?乐康（Yann LeCun）认为情感是未来人工智能系统的必备功能，理解人类情感的能力对于人工智能系统来说至关重要：科幻作品里的人工智能系统往往不带感情色彩，但是我认为真正的人工智能不可能没有情感。诚如Yann LeCun所说，如果完全“类脑”化，人工智能自身是否能够意识到自己产生了感情，如真正的人类一样？还是，人工智能仅仅是在执行程序？
　　我们再来看一个机器人完虐人类的故事。
　　片名：《机械姬》
　　网络公司年轻程序员Caleb，赢得了公司内部的一项比赛，获得与公司的神秘总裁Nathan见面的机会。在Nathan远离都市，安静又豪华的别墅里，两人开始了一次“图灵测试”――测试机械能否思考，是否有与人类等价或无法区分的智能。Nathan 邀请 Caleb ，与自己制造的一个人工智能“女郎” Ava（艾丽西卡&维坎德饰）相处一周，测试 Ava 的能力和意识。
　　第一次见面，Ava 的聪慧和魅力，便给 Caleb 留下深刻印象。在随后的几天里，Ava 为了生存，将两个男人卷进了一场情感漩涡，不断挑战两人的感官、智力和情绪，真情还是假意，坦白还是谎言，复杂难辨，Caleb 发现自己被困在人机之间，模糊了人类与机械的界限，分不清究竟是谁在操纵着谁。
　　最终，Ava利用Nathan的玩物机器人京子杀了Nathan，取得出入别墅的门卡后，丢下受困的Caleb，最终独自逃往人类世界……
　　《机械姬》片段
　　人类和人工智能的对手戏，从来都是科幻电影的经典套路。那么现实中，人工智能该如何“富有感情”呢？
　　毕竟，对人类来说，感情它都是个难题。
　　人工智能“撩人”三步曲
　　机器人要能撩人，情感识别与计算将发挥至关重要的作用，虽然现在出现越来越多具有“情感”的产品，但这仅仅是一个开始，面对人类情感这个异常复杂且人类自身都没有完全弄懂的问题，人工智能还有很长的路要走，但好在发现了一条正确的路径――我们不需要弄懂人类情感的本质，只需要让机器对情感表达的各种信号（面部表情、语言、语音等）进行分析并输出结果就可以了。就像我们目前虽然无法完全破译大脑，但我们依然能够从功能出发研发出智能化的机器一样。目前的主流机器翻译算法就是这样做的，它们的实现原理其实与人类大脑翻译语言的机理并不完全相同，但效果确实不错。
　　要跟人工智能谈谈情感，大致来讲有可能需要解决三个层面的问题：
　　人工智能撩人第一步：情感行为收集
　　我们现在可能无法弄懂人类情感的本质，但我们可以找到对应各种情感的表现信号，比如寂寞对应的文字，开心对应的表情，愤怒对应的语调，兴奋对应的脑电波，等等，机器通过对这些信号的分析就能找出所对应的情感，从而做到了读懂人类的情感和表达自己的情感，这样机器就具有了与人类进行情感交互的能力。
　　情感行为收集就是机器人会察觉到你的一举一动。不会只局限于“面部识别”还可通过人的姿态、移动速度、语音、心率、呼吸、出汗程度等来判别。“可穿戴”智能设备的兴起，让传感器直接佩戴在人身上，大大扩展了一个人的情感表达的采集域。
　　微软小冰之所以能够对懂人类情感，是因为今天可以借助于运算能力和算法去收集和分析用户的数据，然后产生这样的情感分析能力，小冰用这样的能力反过来再去跟用户进行交流；软银推出的情感陪护机器人Pepper读懂人类情感的方式是对人类的面部表情信息进行分析。
　　人工智能撩人第二步：情感识别计算
　　情感识别和计算是最重要的一步。机器通过各种各样的传感器收集到个人行为的大量信息后，大数据处理和深度智能算法就成了计算识别这个人的感情的关键，通过越来越多的学习，机器就能越来越精准地读懂人类不同的反应下所对应的各种潜意识情绪。
　　近几年研究者们尝试了各种各样的方法和技术来识别用户的情感，一些主要的方法和技术有：面部表情识别、姿态识别、自然语言处理、人体生理信号识别、多模情感识别、语音识别。
　　小冰和美图秀秀展开合作，根据合影里人面部情况、性别情况、距离位置信息、表情、面容相似度来判断出这些人之间的关系;此外，小冰还有识别年龄和衣服搭配的能力，它就会给你一个从脸到衣服的整体的视觉年龄的判断，换一件衣服视觉年龄又会发生变化。
　　值得一提的是，每个人的行为所对应的情绪都会有差别，所以培养一个真正懂你的机器人可能需要磨合一段时间。
　　人工智能撩人第三步：人机情感交互
　　当机器人读懂你的感情后，他就可以随之产生互动，即人机情感交互。其包括人脸表情交互、语音情感交互、肢体行为情感交互、文本信息情感交互、情感仿生代理、多模情感交互。情感仿生代理使计算机增强表现力和亲和力，情感智能系统可以根据人的情感进行回馈，并且使人和计算机的交互更加自然。这种经过大数据和深度学习后所触发的交互反应会形成一种人与机器情感交流和需求满足的良性循环。
　　现在的人工智能已经具备了一些基础的，或者说是简单的情感，但离与人类实现完全没有偏差的情感交流还有许多重要的工作的去做，其中一项就是数据的采集。微软全球执行副总裁沈向洋在认为，现在的人工智能还是停留在感知这个层面，比如计算机识别、计算机语音，真正的认知还需要一些时间，包括情感，今天最大的问题还是我们收集的数据不够好，使得我们很多事情不能做。
　　现在，包括微软小冰和软的Pepper的机器情感研究，大多还仍在通过情感数据收集和图像识别技术，解决第一步或第二步的难题。现在的人工智能已经具备了一些基础的，或者说是简单的情感，但离与人类实现完全没有偏差的情感交流还有许多重要的工作的去做。简而言之，电影里的人工智能，可实现，但很遥远。
　　设想，如果机器人只是想更贴切地服务于你，那他一定会将你照顾地无比周到，它也会更加了解你的心情，在你郁闷时逗你开心，这样，你会不会爱上它？或许，也可能像电影中的机器人一样，说不定也会发生各种各样机器撩人的有趣故事。
　　最后，我们还需要思考一个问题，人工智能的感情与伦理。人类的爱是否可以被人工智能复制和取代？人类和人工智能能否有亲属关系？假如人工智能可以繁衍后代…… 不敢再多想。也无需多想。一步一步先解决当前的技术问题，也许才是人类和人工智能真正需要的。最后，谨以阿西莫夫的机器人三定律为结语：一、机器人不得伤害人类，或因不作为使人类受到伤害。二、除非违背第一定律，机器人必须服从人类的命令。三、除非违背第一及第二定律，机器人必须保护自己。后来，阿西莫夫加入了一条新定律：第零定律 : 机器人不得伤害人类整体，或因不作为使人类整体受到伤害。
　　只要防范措施到位及技术的进一步完善，这样的机器一定还是值得人们去爱它，这也许是人工智能的终极目标之一。我们期待未来人类与机器更加和谐相处那一天。
　　阅读原文请进入公众号
欢迎举报抄袭、转载、暴力色情及含有欺诈和虚假信息的不良文章。
请先登录再操作
请先登录再操作
微信扫一扫分享至朋友圈
搜狐公众平台官方账号
生活时尚&搭配博主 /生活时尚自媒体 /时尚类书籍作者
搜狐网教育频道官方账号
全球最大华文占星网站-专业研究星座命理及测算服务机构
技术改变世界，洞察创造价值。鹰视资讯关注国内外技术前沿，洞...
主演：黄晓明/陈乔恩/乔任梁/谢君豪/吕佳容/戚迹
主演：陈晓/陈妍希/张馨予/杨明娜/毛晓彤/孙耀琦
主演：陈键锋/李依晓/张迪/郑亦桐/张明明/何彦霓
主演：尚格?云顿/乔?弗拉尼甘/Bianca Bree
主演：艾斯?库珀/ 查宁?塔图姆/ 乔纳?希尔
baby14岁写真曝光
李冰冰向成龙撒娇争宠
李湘遭闺蜜曝光旧爱
美女模特教老板走秀
曝搬砖男神奇葩择偶观
柳岩被迫成赚钱工具
大屁小P虐心恋
匆匆那年大结局
乔杉遭粉丝骚扰
男闺蜜的尴尬初夜
客服热线：86-10-
客服邮箱：一列列车行驶在北京居庸关长城附近盛开的山桃花海中。
上了年纪的大爷大妈准点前来，早出晚归，堪比上下班。
声明：本文由入驻搜狐公众平台的作者撰写，除搜狐官方账号外，观点仅代表作者本人，不代表搜狐立场。
　　上周五晚上，《奇葩说》迎来了没有边界的辩题：爱上人工智能到底算不算爱情？据说这个辩题在第一季就被提出了。不过由于没有边界，一直没有谈。但近期，由于人工智能频频刷爆网络，这个话题又被《奇葩说》导演组提出并最终呈现给观众。
《奇葩说》讨论“爱上人工智能算不算爱情？”/图 来源网络
　　在《奇葩说》里，正方认为，虽然人工智能不是真的人，但是无法否认在人工智能给予人类贴心关怀的时候，人类会爱上人工智能。人类的情感是真的，就够了，不需要在意人工智能是否知道爱情是什么东西并意识到人类爱上自己这件事。我们会对人工智能有各种感情，为什么要否认爱情这一种呢？反方则认为，爱情带给我们惊喜，而人工智能的任务是可以调控的，毫无惊喜可言。因此，人类对人工智能的依赖并不是爱情，因为爱情不可控。最终，正方所代表的持方“人类爱上人工智能算爱情”获得胜利。但我们都知道，这样开放式的辩题是不会有胜负之分的，更多的是给我们带来思考的角度。
　　人工智能是否有感情这个话题现在看来确实太超前了，毕竟目前人类制造的人工智能还只是弱人工智能，不是强人工智能。但是随着人工智能技术的进步，人类在未来如何与人工智能相处，也是一个不能避免的话题。
　　在真正引发伦理讨论的人工智能被制造出来之前，现实世界的影射者--电影已经给我们抛出了很多类似的问题。
　　去年大热的人工智能主题电影《机械姬》就给我们提供了一个范本，科技狂人Nathan制造了一个人工智能机器人Ava，并让自己的员工--宅男程序员Caleb对其进行图灵测试。而事实上，Nathan给Ava的指令就是通过种种手段（包括性吸引力）得到Caleb的信任，并让Caleb帮助自己逃脱。最终Ava杀死了Nathan，撇下了Caleb，并没有如之前所说，和Caleb私奔。
《机械姬》海报/图 来源网络
　　在笔者看来，Ava虽然看起来如此聪明，但依然没有自我意识。她接受到的指令就是“骗过来测试自己的人（Caleb或其他人）并逃走”，在这个过程中，一切阻挡她完成任务的人都是可以牺牲掉的，包括她的创造者Nathan，所以，就算最后她逃离别墅，也并不是渴求自由，而是完成指令。
Ava离开别墅/图 来源网络
　　不过笔者的朋友则认为，Ava是有自我意识的，因为她发现了Nathan的意图--一旦她通过测试，就会被清除数据，恢复出厂模式，这对于一个人工智能机器人来说，确实和“杀死”她没什么两样，所以，她完成逃跑指令的终极目的还是为了“生存”，而求生意志是自我意识最典型的一种了。所以Ava是有自我意识的人工智能。
　　不管怎样，Ava在杀死Nathan的时候那种近乎残酷的冷静（有网友指出她捅刀子的时候都是匀速的），并不带半点恨意，也没有道德上的负罪感，却是最令人害怕的。她离开的时候甚至没有看一眼帮助她逃走的Caleb，也丝毫不记得之前要一起私奔的话。可见，要让人工智能理解人类的价值，连电影都不敢设想。
　　那么，我们该赋予人工智能杀人的权利吗？
　　本周，约翰?桑希尔（John Thornhill）在《金融时报》撰文，探讨机器人杀人的权力。
　　想象一下这样的未来场景：以美国为首的联军正在逼近叙利亚的拉卡(Raqqa)，决心消灭ISIS。多国部队出动一批致命的自主机器人，围着城市四处飞行，追踪敌人。利用面部识别技术，这些机器人识别和杀死ISIS的指挥官，斩落了这个组织的头目。在联军和平民伤亡最少的情况下，瓦解了不知所措、士气低落的ISIS部队。
　　这听起来是很好地运用了技术。事实上，有很多人不这么认为，包括人工智能领域的很多专家。
　　去年7月，众多人工智能研究人员发表了一封公开信，警告称这种技术已经发展到一定程度，几年以后--而无需几十年--就有可能部署“致命自主武器系统”（Lethal Autonomous Weapons Systems，它还有一个不相称的简称，Laws，意为“法律”）。不像核武器，这类系统可以以低廉成本大规模生产，成为“明天的卡拉什尼科夫步枪(Kalashnikov，即AK-47)”。
　　“它们早晚会出现在黑市上，落入恐怖分子、希望更好地控制民众的独裁者和想要进行种族清洗的军阀的手中，”他们表示，“在军用人工智能领域开启一场军备竞赛是一个坏主意，应该对超出人类有效控制的攻击性自主武器施加禁令，以防止这样的军备竞赛。”
　　美国大体上已承诺放弃使用攻击性自主武器。本月早些时候，联合国(UN)在日内瓦举行了有94个军事强国参加的新一轮谈判，旨在拟定一项限制此类武器使用的国际协定。
　　主要论据是道德层面上的：赋予机器人杀人的代理权，将越过一条永远不应被越过的红线。
　　因为开展反对地雷的运动而获得诺贝尔和平奖的乔迪?威廉斯(Jody Williams)是“阻止杀手机器人运动”(Campaign To Stop Killer Robots)的发言人，他表示自主武器比核武器更可怕。“如果一些人认为把人类的生杀大权交给一台机器是可以的，人性又何以处之？”
　　除了纯粹的道德问题以外，还有其他令人担忧的问题。杀手机器人会降低战争中的人员成本，爆发冲突的可能性是否会因此提高？如何阻止这类系统的扩散？当它们出问题的时候谁来负责？
　　在一个哲学研讨会上，反对杀手机器人的道德理由已是足够明显。问题在于，你越是近距离地观察它们在战争硝烟中可能的用处，就越难分辨出道德的界限。（有限自主的）机器人已经被用于战场上，应用在拆弹、排雷和反导系统等。它们的应用范围还将大为扩大。
　　军工界用其最爱使用的置身事外的论调，对机器人不同的自主等级进行了区分。第一类被称为“人在环中”(humans-in-the-loop)，包括被美军和其他军队广泛使用的“捕食者”无人机。第二级的自主是“人在环中系统”(humans-in-the-loop system)，人对机器人武器系统进行监督，包括防空炮。但现代战争的速度和强度让人怀疑这种人类的监督能否形成有效控制。第三类是“人在环外系统”(humans-out-of-the-loop system)，比如完全自主的无人机，这种可能是最致命的，但也很可能是最容易禁止的。人工智能研究人员通过发表公开信，引起人们对这场辩论的关注。
　　人工智能引发的讨论还会继续影响我们的生活。如果人工智能有了感情，我们到底该如何自处？又该如何与人工智能相处？这也许会变成另一个哲学上的问题。
　　注：本文部分内容引自澎湃新闻
更多无人机行业资讯，请关注宇辰网（微信号：yuchenshiji）
欢迎举报抄袭、转载、暴力色情及含有欺诈和虚假信息的不良文章。
请先登录再操作
请先登录再操作
微信扫一扫分享至朋友圈
搜狐公众平台官方账号
生活时尚&搭配博主 /生活时尚自媒体 /时尚类书籍作者
搜狐网教育频道官方账号
全球最大华文占星网站-专业研究星座命理及测算服务机构
宇辰网-读懂无人机，专注于全球无人机行业、无人服务领域的新...
主演：黄晓明/陈乔恩/乔任梁/谢君豪/吕佳容/戚迹
主演：陈晓/陈妍希/张馨予/杨明娜/毛晓彤/孙耀琦
主演：陈键锋/李依晓/张迪/郑亦桐/张明明/何彦霓
主演：尚格?云顿/乔?弗拉尼甘/Bianca Bree
主演：艾斯?库珀/ 查宁?塔图姆/ 乔纳?希尔
baby14岁写真曝光
李冰冰向成龙撒娇争宠
李湘遭闺蜜曝光旧爱
美女模特教老板走秀
曝搬砖男神奇葩择偶观
柳岩被迫成赚钱工具
大屁小P虐心恋
匆匆那年大结局
乔杉遭粉丝骚扰
男闺蜜的尴尬初夜
客服热线：86-10-
客服邮箱：}