人工智能“自创语言”，人类已无法识别！3收藏分享举报{&debug&:false,&apiRoot&:&&,&paySDK&:&https:\u002F\u002Fpay.zhihu.com\u002Fapi\u002Fjs&,&wechatConfigAPI&:&\u002Fapi\u002Fwechat\u002Fjssdkconfig&,&name&:&production&,&instance&:&column&,&tokens&:{&X-XSRF-TOKEN&:null,&X-UDID&:null,&Authorization&:&oauth c3cef7c66aa9e6a1e3160e20&}}{&database&:{&Post&:{&&:{&isPending&:false,&contributes&:[],&title&:&人工智能“自创语言”，人类已无法识别！&,&author&:&reseted&,&content&:&\u003Cp\u003E自古以来，语言一直被认为是人类特有的“技能”。但最新的人工智能聊天机器人却打破了人类的“垄断”。\u003Cfigure\u003E\u003Cnoscript\u003E\u003Cimg src=\&https:\u002F\u002Fpic2.zhimg.com\u002Fv2-e3ebab6e12d4b1161cadc3eaa5563aec_b.jpg\& data-rawwidth=\&550\& data-rawheight=\&367\& class=\&origin_image zh-lightbox-thumb\& width=\&550\& data-original=\&https:\u002F\u002Fpic2.zhimg.com\u002Fv2-e3ebab6e12d4b1161cadc3eaa5563aec_r.jpg\&\u003E\u003C\u002Fnoscript\u003E\u003Cimg src=\&data:image\u002Fsvg+utf8,&svg%20xmlns='http:\u002F\u002Fwww.w3.org\u002FFsvg'%20width='550'%20height='367'&&\u002Fsvg&\& data-rawwidth=\&550\& data-rawheight=\&367\& class=\&origin_image zh-lightbox-thumb lazy\& width=\&550\& data-original=\&https:\u002F\u002Fpic2.zhimg.com\u002Fv2-e3ebab6e12d4b1161cadc3eaa5563aec_r.jpg\& data-actualsrc=\&https:\u002F\u002Fpic2.zhimg.com\u002Fv2-e3ebab6e12d4b1161cadc3eaa5563aec_b.jpg\&\u003E\u003C\u002Ffigure\u003E\u003C\u002Fp\u003E\u003Cp\u003E6月19日消息，Facebook在研发语音助手的过程中进行了一场独特的实验：让两个聊天机器人互相对话。令人意外的是，聊天机器人竟然发展出了可在聊天机器人之间互相使用，人类无法理解的独特语言，而且还不止一种。\u003C\u002Fp\u003E\u003Cp\u003EFacebook相关研究团队用机器学习训练聊天机器人。研究人员两个机器人彼此对话，机器人竟逐渐发展出了不同于人类语言的对话，研究人员不得不对其进行人工干预，尽管人工干预最终停止了这种发展趋势，但研究人员表示，目前尚无法破解聊天机器人之间进行的对话内容，很有可能他们不仅是在“闲聊”，而是在进行思考。\u003C\u002Fp\u003E\u003Cp\u003E也就是说，AI自行升级的能力和速度远远超过人类的想象，这不禁让人联想到了科幻电影中的一些“恐怖”场景。\u003C\u002Fp\u003E\u003Cp\u003EFacebook在其发布的研究报告中表示，人工智能可胜任客服谈判角色，甚至已经可以使用非常深奥的谈判策略。实验中的机器人发展出新语言让人惶恐，人类或许真的无法主宰未来世界了。\u003C\u002Fp\u003E\u003Cp\u003E机器学习的进步让“黑箱”难题随之而来：人工智能的分析结论堪称完美，但推理过程却让人类无法完全理解。人类试图破解黑箱，但现在，机器能够产生非人类交流方式让包括系统设计者在内的所有人感叹人类的渺小与孱弱。\u003Cbr\u003E\u003C\u002Fp\u003E\u003Cp\u003EFacebook研究员在报告中不无悲怆的表示：“未来的工作还有很多潜在可能，特别是让机器理解更多推理策略，以及在不偏离人类语言的情况下提高表达的多样性。”\u003C\u002Fp\u003E\u003Cp\u003E分析人士更加直接的表示，从进化速度来讲，人类被边缘化只是时间问题。\u003C\u002Fp\u003E&,&updated&:new Date(&T06:33:44.000Z&),&canComment&:false,&commentPermission&:&anyone&,&commentCount&:0,&collapsedCount&:0,&likeCount&:3,&state&:&published&,&isLiked&:false,&slug&:&&,&isTitleImageFullScreen&:false,&rating&:&none&,&titleImage&:&&,&links&:{&comments&:&\u002Fapi\u002Fposts\u002F2Fcomments&},&reviewers&:[],&topics&:[{&url&:&https:\u002F\u002Fwww.zhihu.com\u002Ftopic\u002F&,&id&:&&,&name&:&人工智能&}],&adminClosedComment&:false,&titleImageSize&:{&width&:0,&height&:0},&href&:&\u002Fapi\u002Fposts\u002F&,&excerptTitle&:&&,&tipjarState&:&closed&,&annotationAction&:[],&sourceUrl&:&&,&pageCommentsCount&:0,&hasPublishingDraft&:false,&snapshotUrl&:&&,&publishedTime&:&T14:33:44+08:00&,&url&:&\u002Fp\u002F&,&lastestLikers&:[{&bio&:null,&isFollowing&:false,&hash&:&e5ef6ecadf0dbcb5470983&,&uid&:881700,&isOrg&:false,&slug&:&zhui-luo-65&,&isFollowed&:false,&description&:&&,&name&:&坠落&,&profileUrl&:&https:\u002F\u002Fwww.zhihu.com\u002Fpeople\u002Fzhui-luo-65&,&avatar&:{&id&:&ddcc9b9de8af2&,&template&:&https:\u002F\u002Fpic2.zhimg.com\u002F{id}_{size}.jpg&},&isOrgWhiteList&:false,&isBanned&:false},{&bio&:null,&isFollowing&:false,&hash&:&e7f17fe1df5bfcec393b9&,&uid&:84,&isOrg&:false,&slug&:&xia-luo-ke-13-47&,&isFollowed&:false,&description&:&&,&name&:&夏洛克&,&profileUrl&:&https:\u002F\u002Fwww.zhihu.com\u002Fpeople\u002Fxia-luo-ke-13-47&,&avatar&:{&id&:&da8e974dc&,&template&:&https:\u002F\u002Fpic4.zhimg.com\u002F{id}_{size}.jpg&},&isOrgWhiteList&:false,&isBanned&:false},{&bio&:&人是目的，而非手段。&,&isFollowing&:false,&hash&:&5b1e5a55dbde0f95f78f11d&,&uid&:84,&isOrg&:false,&slug&:&wangbuzhi&,&isFollowed&:false,&description&:&&,&name&:&汉宇&,&profileUrl&:&https:\u002F\u002Fwww.zhihu.com\u002Fpeople\u002Fwangbuzhi&,&avatar&:{&id&:&v2-ff2d32a2d5ef3ff69b79b&,&template&:&https:\u002F\u002Fpic2.zhimg.com\u002F{id}_{size}.jpg&},&isOrgWhiteList&:false,&isBanned&:false}],&summary&:&自古以来，语言一直被认为是人类特有的“技能”。但最新的人工智能聊天机器人却打破了人类的“垄断”。6月19日消息，Facebook在研发语音助手的过程中进行了一场独特的实验：让两个聊天机器人互相对话。令人意外的是，聊天机器人竟然发展出了可在聊天机器人…&,&reviewingCommentsCount&:0,&meta&:{&previous&:null,&next&:null},&annotationDetail&:null,&commentsCount&:0,&likesCount&:3,&FULLINFO&:true}},&User&:{&reseted&:{&isFollowed&:false,&name&:&[已重置]&,&headline&:&&,&avatarUrl&:&https:\u002F\u002Fpic4.zhimg.com\u002Fda8e974dc_s.jpg&,&isFollowing&:false,&type&:&people&,&slug&:&reseted&,&bio&:&&,&hash&:&6f78b58c901b441cc4e104dcba808d68&,&uid&:829500,&isOrg&:false,&description&:&&,&badge&:{&identity&:null,&bestAnswerer&:null},&profileUrl&:&https:\u002F\u002Fwww.zhihu.com\u002Fpeople\u002Freseted&,&avatar&:{&id&:&da8e974dc&,&template&:&https:\u002F\u002Fpic4.zhimg.com\u002F{id}_{size}.jpg&},&isOrgWhiteList&:false,&isBanned&:false}},&Comment&:{},&favlists&:{}},&me&:{},&global&:{&experimentFeatures&:{&ge3&:&ge3_9&,&ge2&:&ge2_1&,&growthSearch&:&s0&,&nwebQAGrowth&:&experiment&,&qawebRelatedReadingsContentControl&:&open&,&marketTabBanner&:&market_tab_banner_show&,&liveStore&:&ls_a2_b2_c1_f2&,&qawebThumbnailAbtest&:&new&,&nwebSearch&:&nweb_search_heifetz&,&enableVoteDownReasonMenu&:&enable&,&showVideoUploadAttention&:&true&,&isOffice&:&false&,&enableTtsPlay&:&post&,&newQuestionDiversion&:&true&,&wechatShareModal&:&wechat_share_modal_show&,&newLiveFeedMediacard&:&old&,&androidPassThroughPush&:&all&,&hybridZhmoreVideo&:&no&,&nwebGrowthPeople&:&default&,&nwebSearchSuggest&:&default&,&qrcodeLogin&:&qrcode&,&androidDbFollowRecommendHide&:&open&,&isShowUnicomFreeEntry&:&unicom_free_entry_off&,&newMobileColumnAppheader&:&new_header&,&androidDbCommentWithRepinRecord&:&open&,&feedHybridTopicRecomButtonIcon&:&yes&,&androidDbRecommendAction&:&open&,&zcmLighting&:&zcm&,&androidDbFeedHashTagStyle&:&button&,&appStoreRateDialog&:&close&,&topWeightSearch&:&new_top_search&,&default&:&None&,&isNewNotiPanel&:&no&,&androidDbRepinSelection&:&open&,&growthBanner&:&default&,&androidProfilePanel&:&panel_b&}},&columns&:{&next&:{}},&columnPosts&:{},&columnSettings&:{&colomnAuthor&:[],&uploadAvatarDetails&:&&,&contributeRequests&:[],&contributeRequestsTotalCount&:0,&inviteAuthor&:&&},&postComments&:{},&postReviewComments&:{&comments&:[],&newComments&:[],&hasMore&:true},&favlistsByUser&:{},&favlistRelations&:{},&promotions&:{},&switches&:{&couldSetPoster&:false},&draft&:{&titleImage&:&&,&titleImageSize&:{},&isTitleImageFullScreen&:false,&canTitleImageFullScreen&:false,&title&:&&,&titleImageUploading&:false,&error&:&&,&content&:&&,&draftLoading&:false,&globalLoading&:false,&pendingVideo&:{&resource&:null,&error&:null}},&drafts&:{&draftsList&:[],&next&:{}},&config&:{&userNotBindPhoneTipString&:{}},&recommendPosts&:{&articleRecommendations&:[],&columnRecommendations&:[]},&env&:{&edition&:{&baidu&:false,&yidianzixun&:false,&qqnews&:false},&isAppView&:false,&appViewConfig&:{&content_padding_top&:128,&content_padding_bottom&:56,&content_padding_left&:16,&content_padding_right&:16,&title_font_size&:22,&body_font_size&:16,&is_dark_theme&:false,&can_auto_load_image&:true,&app_info&:&OS=iOS&},&isApp&:false,&userAgent&:{&ua&:&Mozilla\u002F5.0 (compatible, MSIE 11, Windows NT 6.3; Trident\u002F7.0; rv:11.0) like Gecko&,&browser&:{&name&:&IE&,&version&:&11&,&major&:&11&},&engine&:{&version&:&7.0&,&name&:&Trident&},&os&:{&name&:&Windows&,&version&:&8.1&},&device&:{},&cpu&:{}}},&message&:{&newCount&:0},&pushNotification&:{&newCount&:0}}机器人自行创造语言，以后没我们人类什么事了！机器人自行创造语言，以后没我们人类什么事了！冰冻的石头的眼泪百家号人工智能技术突飞猛进之后，机器人开始变得普及起来，但是机器人之间依旧不能正常交流，那么是不是该创造一种机器人的语言，可以让他们像人类一样自行沟通呢？最近，有一群科学家正在致力于让机器人创造自己的语言，这是一个十分有前途的研究，但是总感觉让人有些后怕。据《连线》杂志报道，OpenAI的研究人员注意到，在用某种语言训练计算机时，系统并不能理解语言与现实世界的关系，因此让AI拥有自己能感知到的语言非常重要，而最近OpenAI就实现了这一目标。上周，OpenAI发布了一篇研究论文，解释了它们是如何让AI机器人创造自己的语言并实现顺畅交流的，而完成这一复杂任务的关键就是强化学习(reinforcement learning)技术。其实，强化学习就跟主人训练宠物一样，关键在于奖励那些正确的行为，在AI机器人的训练中，就意味着研究人员需要了解到底哪些奖励可以帮助AI机器人完成任务并且将这种奖励延续下去。本文仅代表作者观点，不代表百度立场。系作者授权百家号发表，未经许可不得转载。冰冻的石头的眼泪百家号最近更新：简介:给自己想要的生活，度过好每一天作者最新文章相关文章机器人对谈吓坏人类
机器人竟用秘密语言交谈机器人对谈吓坏人类
机器人竟用秘密语言交谈舞出健康百家号“研究人员陷入恐慌”、“机器人竟用秘密语言交谈”、“Facebook被迫终止恐怖AI实验”——今天早上，无论是打开BBC，还是福布斯、财富、纽约时报等主要媒体网站，你都会看到，Fcebook成了最大焦点，以一种他们意料之外的方式。就在前不久，Facebook的CEO扎克伯格还与特斯拉的创始人马斯克就“人工智能对人类是福还是祸”展开了隔空论战。那时，扎克伯格还是坚定的乐观派。在7月2３日的一场直播中，扎克伯格说：“我对人工智能持乐观态度。对于那些认为人工智能会导致世界末日的悲观主义者，我并不能理解他们，他们太过于消极。从某种角度看，我认为他们很不负责任。”针对扎克伯格的此番言论，有网友25日在推特上询问马斯克的意见。他回复称：“我已经同扎克伯格就相关问题进行了讨论，他对于这一领域的理解有限”。扎克伯格对人工智能的盲目乐观被自己的研究团队打脸了吗？如果你对于这条消息还没有任何了解，那么，请先浏览一段对话内容：Bob: i can can i i everything elseAlice: balls have zero to me to me to me to me to me to me to me to meBob: you i everything elseAlice: balls have a ball to me to me to me to me to me to me to me to me toBob: i i can i i i everything elseAlice: balls have zero to me to me to me to me to me to me to me to meBob: iAlice: balls have zero to me to me to me to me to me to me to me to meBob: you i i i i i everything elseAlice: balls have zero to me to me to me to me to me to me to me to me如果你不懂英文，正在寻求翻译，那么你可能会被谷歌翻译器甩出这样一个答案。事实上他们显然在用一种非标准的英语进行沟通，但他们究竟在聊些什么呢？我们不得而知。创造出这两个AI机器人的Facebook人工智能研究团（Facebook Artificial Intelligence Research，简称FAIR）也很快停止了相关研究。不过，Facebook关闭这一实验项目的原因真的是出于对人工智能发展不可控的恐慌吗？事实上，早在6月16日Facebook人工智能研究团队的一个实验小组的成员就在开源博客中公布了该实验的相关内容，这次实验的研究成果也同日发表。在一篇名为Deal or no deal? Training AI bots to negotiate（《成交还是不成交？训练AI机器人谈判》）的博客中，Facebook人工智能研究小组介绍称，该实验项目的主要任务是为了训练AI机器人进行谈判。在这样的预设背景之下，Bob和Alice作为两个虚拟机器人接受了实验小组的训练。在实验场景中，书（book）、帽子（hat）和球（ball）被赋予了指定的价值和特定的数量。如此一来，这个实验之下的AI机器人相当于被置于货币诞生前人类远古的物物交换时代，而他们的目的就是为了以最利于自己的方式实现交换。事实上，在这一实验预设之下，经过不断的训练，Bob和Alice的对话在多数情况下也体现出了大多数人可以理解的严格逻辑性。在AI机器人之间的训练之外，该实验小组还进行了人机互动实验，AI机器人的表现也达到了实验目的。“机器人会脱离人类可以理解的语言而为自己发明代码语言”，FAIR实验小组的研究员Dhruv Batra解释称：“这就好像我重复五遍某个项目，你就会认为我是要这个项目的五个副本一样。（注：比如，“苹果 苹果 苹果 苹果 苹果”相当于“5个苹果”）机器人的这种做法与人类没有太大区别。”所以，Facebook确实叫停了机器人之间的对话，“但这并不是出于对于人工智能发展的恐慌”，参与实验的FAIR另一位研究员Mike Lewis告诉FastCo，叫停对话的主要原因是因为实验目的是为了实现机器人与人类之间的谈判对话，而不是为了激发机器人之间的有效沟通。虽然这一次的“Facebook机器人秘密交谈”只是虚惊一场，但人工智能的高速发展所带来的伦理思考，以及由此产生的人类恐慌一直存在。在马斯克之外，著名的理论物理学家霍金也一直对人工智能的发展保持高度谨慎，担心不遵循人类意愿行事的超级智能的崛起会威胁到人类。即便如此，站队乐观的各行大佬同样数量可观。稍早前，有“谷歌大脑”之称的该公司人工智能带头人Jeff Dean以及刚刚发现“天使粒子”的斯坦福大学理论物理学家张首晟在美国中文网采访都谈及过他们对于人机互动关系的终极想象。虽然立足依据不同，但他们均认为，人工智能终将在可控的范围之内惠及全人类。细思起来，人类迈进现代化过程中的很多重大发现与研究成果都伴随着巨大的争议。比如，原子弹的使用在结束了一场世界大战的同时，也带来了两座城市永久的伤痛。而我本人在几个月前经历过的最大挫折，就来自于在手机APP的国际象棋游戏中对抗AI的无力感，它们的速度仿佛子弹，击中我作为人类的脆弱尊严。这种感觉，被围棋上对阵Alphago的柯洁形容为“遇见了上帝”。不过，即便是在某些领域已经犹如上帝，人工智能的整体发展依然还在初期阶段。“我们现在拼了老命要让AI聪明起来”，一位在Facebook从事人工智能研究的工作人员在谈及此次事件时向我感叹道：“AI还是太笨了。”本文仅代表作者观点，不代表百度立场。系作者授权百家号发表，未经许可不得转载。舞出健康百家号最近更新：简介:我健身 我健康
我快乐 相关文章AI机器人竟然开始用人类听不懂的语言对话了_沪江英语学习网网页版学习工具 &
Facebook abandoned an experiment after two artificially intelligent programs appeared to be chatting to each other in a strange language only they understood.Facebook研发的人工智能项目似乎能用某种只有它们能懂的语言进行交流，Facebook随之停止了项目研发。The bizarre discussions came as Facebook challenged its chatbots to try and negotiate with each other over a trade, attempting to swap hats, balls and books, each of which were given a certain value. But they quickly broke down as the robots appeared to chant at each other in a language that they each understood but which appears mostly incomprehensible to humans.Facebook开始挑战让两个机器人尝试着进行交易谈话，互换帽子、球和书本，每一样东西都有特定价值。但是，很快交易便无法继续下去，因为两个机器人似乎开始用只有自己能懂的语言交流。The robots had been instructed to work out how to negotiate between themselves, and improve their bartering as they went along. But they were not told to use comprehensible English, allowing them to create their own &shorthand&, according to researchers.But there appear to be some rules to the speech. The way the chatbots keep stressing their own name appears to a part of their negotiations, not simply a glitch in the way the messages are read out.两个机器人此前都曾收到指令，学习如何和对方交谈、进行交易。但是从未学习过易懂的英语，研究人员称，它们可以创造自己的“简略语言”。然而两个机器人的对话却也有规则可循。双方都不断强调自己的名字，这绝不只是信息输出中出现的故障。Indeed, some of the negotiations that were carried out in this bizarre language even ended up successfully concluding their negotiations, while conducting them entirely in the bizarre language. They might have formed as a kind of shorthand, allowing them to talk more effectively.两个机器人的部分交谈最终甚至达成了圆满结局，交谈中双方始终使用奇怪的语言。两个机器人之间可能形成了某种“简略语言”，使交流更高效。“Agents will drift off understandable language and invent codewords for themselves,” Facebook Artificial Intelligence Research division&s visiting researcher Dhruv Batra said. “Like if I say ‘the’ five times, you interpret that to mean I want five copies of this item. This isn’t so different from the way communities of humans create shorthands.”Facebook人工智能研发部门的访问研究员Dhruv Batra说：“机器人会跳过可理解的语言，发明自己的秘密语。比如，我重复五遍‘the’，你可能会理解为我需要五件某样东西。这和人类发明简略语没什么不同。”That said, it&s unlikely that the language is a precursor to new forms of human speech, according to linguist Mark Liberman.&In the first place, it&s entirely text-based, while human languages are all basically spoken (or gestured), with text being an artificial overlay,& he wrote on his blog. &And beyond that, it&s unclear that this process yields a system with the kind of word, phrase, and sentence structures characteristic of human languages.&语言学家马克·李伯曼（Mark Liberman）说机器人奇怪的语言不可能成为人类新兴语言的先驱。他在博客上写到：“首先，机器人语言是基于文本的，人类的语言基本是口头语（或手势），文本不过是一个非真实的附属物。此外，基于文本发明的语言能否输出词汇、短语、句子结构和人类语言特征尚不清楚。”The company chose to shut down the chats because &our interest was having bots who could talk to people&, researcher Mike Lewis told FastCo. (Researchers did not shut down the programs because they were afraid of the results or had panicked, as has been suggested elsewhere, but because they were looking for them to behave differently.)Facebook决定终止机器人对话，研究院麦克·莱维斯（Mike Lewis）告诉媒体FastCo，因为“我们感兴趣的是发明能和人类对话的机器人。”（研究人员终止项目并非源于外界传言的害怕这样的结果，而是因为他们想要的是不同的机器人。）The chatbots also learned to negotiate in ways that seem very human. They would, for instance, pretend to be very interested in one specific item – so that they could later pretend they were making a big sacrifice in giving it up, according to a paper published by FAIR.FAIR上的一篇论文写到，聊天机器人在交谈过程中还会使用非常人性化的手段。比如，它们会假装对某样东西特别感兴趣，这样之后就能装作作出了很大牺牲放弃了该物品。Facebook&s experiment isn&t the only time that artificial intelligence has invented new forms of language.人工智能首次发明新兴语言并不是出现在Facebook的这项实验中。Earlier this year, Google revealed that the AI it uses for its Translate tool had created its own language, which it would translate things into and then out of. But the company was happy with that development and allowed it to continue.今年年初，谷歌透露，其研发的翻译工具人工智能能够创造自己的语言，还能够用该语言翻译其他语言，或是用其他语言翻译自己的语言。但是谷歌对这项进展大为欢迎，并未终止这样的意外之喜。Another study at OpenAI found that artificial intelligence could be encouraged to create a language, making itself more efficient and better at communicating as it did so.人工智能企业 OpenAI也有实验表明，在环境支持的情况下，人工智能能够创造语言，使交流更加高效畅达。Update: This article has been amended to stress that the experiment was abandoned because the programs were not doing the work required, not because they were afraid of the results, as has been reported elsewhere.更新：本文意在强调Facebook的实验终止源于非理想化的实验结果，而非外界传言对机器人创造语言的恐惧。（翻译：阿忙）声明：本双语文章的中文翻译系沪江英语原创内容，转载请注明出处。中文翻译仅代表译者个人观点，仅供参考。如有不妥之处，欢迎指正。相关热点：}