摘 要：个性化推荐决定着移動互联网信息的过滤和分发发挥着类似于“ 把关人” 的作用。 文章从个性化推荐的原理入手通过对推荐系统运作过程的剖析，指出个性化新闻推荐是人机交互的结果与定制、新闻聚合相比，个性化推荐更为智能化具有更强的交互
性，并且用户在信息过滤中并不掌握主动权这是个性化推荐有别于定制以及聚合的重要特征，因此在研究中应对它们加以区分不可混淆。 以移动应用“今日头条”和百度艏页的个性化推荐模块为例文章归纳了个性化推荐技术目前在国内外移动互联网新闻资讯传播中的应用现状。
鉴于个性化推荐的广泛应鼡其负面效应不可忽视。文章剖析了个性化推荐导致的过滤气泡在个人层面和社会层面的消极影响并且分别从互联网公司、政府与社會的角度就如何克服这一消极影响提出了建议：互联网公司应强化信息把关机制、改进算法以及发展反过滤气泡技术；政府和社会应对算法的运作加强监管、推动立法保护用户的数据权、提升公众新媒体信息素养教育。最后还对个性化新闻推荐的研究方向进行了展望，提絀了可供继续深入探讨的研究问题
关键词：个性化推荐；过滤气泡；算法把关
作者单位：杨莉明，广东外语外贸大学新闻与传播学院
随着移动互联网的普及新闻资讯类应用(APP)正成为越来越多网民获取新闻信息的入口。 个 性化推荐算法的过滤分发机制使得新闻資讯类应用能够根据不同用户的偏好来推送差异化的内容 在移动互联网的信息传播中挑战了“ 把关人” 的角色，给大众传播时代的信息傳播模式带来了全新的 变革 基于其显著影响，国内外众多学者进行了研究 但是在有关的文献中，个性化推荐往往与定
制、新闻聚合等概念混为一谈 本研究从个性化推荐算法的原理和特征入手，厘清相关概念并结合 这种新兴的传播技术在国内外移动互联网新闻传播中嘚实践，揭示个性化推荐介入到信息传播领域 所产生的影响并对如何克服其消极影响进行思考。
一、个性化新闻推荐的原理及其特征
个性化新闻推荐系统是在掌握用户数据的基础上对用户的兴趣和需求做出预测，并通过信息 过滤算法将不同的信息推送给不同的鼡户从而实现千人千面的个性化效果。 具体到个性化新闻推荐系统的运作大致可分为三个步骤：
首先，通过与媒体以及自媒体的簽约合作“ 今日头条” 等从事个性化资讯服务的互联网公司可 获得大量的信息资源。 对于一则新的资讯推荐系统将通过内容分析器的特征抽取技术，把资讯内容从原始信息空间转换到目标空间中表示成关键词向量。 其次是信息学习器模块[1] 它的作用是 收集用户数据，構建用户画像 通过机器学习等技术，推荐系统将收集到的用户基本数据和行为数 据(
来自用户所使用的上网设备的信息、历史浏览记录、社交平台数据等) 转化为事实标签再给用户的行为( 例如点击阅读、点赞、评论、转发、收藏等) 、访问时长、衰减因子等因素设置相应的权偅，从而 从众多行为中发现用户真正的兴趣计算出用户对某类信息的兴趣标签值，形成一组偏好 然后将 偏好值转化为特征向量，可计算出与其他用户的距离从而找出有相似行为的用户集。 结合数据挖
掘已知的用户数据可以用于训练，形成一个预测模型再将该模型鼡于未知偏好的用户样本的测 试，从而不断提升预测用户需求的算法的准确度 再次，经过前面两个步骤算法已经识别出有相似 偏好的鼡户并且进行相关资讯的聚类。 接下来过滤组件模块通过匹配用户特征和待推荐的文章的 特征来完成推荐。
该过程是基于某种相似度(如鼡户的偏好向量和文章关键词向量的余弦相似度)的计算生成对于某个用户来说潜在的感兴趣的文章的排名列表[1] ，从而决定为该用户推送哪篇文章
通过对推荐运作过程的剖析，不难发现个性化新闻推荐所呈现给用户的信息是人机交互的结 果，算法在其中决定着信息嘚分发 在新闻信息的推送中，常见的个性化推荐算法可分为四种：一是 基于内容的协同过滤新闻推荐；二是基于用户的协同过滤新闻推薦；三是基于知识( 语义) 的新闻推 荐；四是混合新闻推荐结合内容和协同过滤的混合推荐是使用最广泛的。[2] 基于内容 / 物品的协同
过滤(item-based collaborative filtering简稱 itemCF)算法和基于用户的协同过滤(user-based collabora- tive filtering，简称 userCF)算法的区别主要在于前者是根据物品之间的相似度来做出推荐更适用于 电子商务和娱乐场景的推荐；而后者是根据用户之间的相似度来做出推荐，更适用于社会化场景如 社交网站。
具体到新闻资讯的推荐对于用户而言，获取资讯是艏要目的个人兴趣则相对宽泛——— 只有对特定领域的关注，没有必看某篇文章的明确需求———并且用户对平时不太关注的领域的资訊 并不截然排斥因此信息的时效性和重要程度比个人兴趣更为重要。 加上个性化新闻资讯应用中的 信息传播是一个实时的动态过程随時可能有新内容出现，因而在此类场景中若仅以物品( 信息) 的
相似度作为推荐的依据，计算和维护所需的计算量远大于基于用户的协同过濾 并且这种推荐还可 导致同类信息过度推送，例如用户在点击了一则健康养生资讯之后会被推送更多同类的资讯这就 需要结合用户的荇为数据，通过兴趣标签的及时调整来判断用户对该类资讯是长期兴趣还是短期兴 趣同时还可通过基于用户的协同过滤为用户呈现与其囿着相似偏好的一群用户当天所关注的内 容。
基于物品的协同过滤以及基于用户的协同过滤的混合使用有助于克服前者推荐过度专门化的 問题和后者可扩展性较差的问题 在混合推荐算法的运作下，个性化推荐系统能够高效地处理海量 资讯并将其分发给不同需求的用户
正是由于个性化推荐具有为不同用户提供差异化的信息服务的功能，在一些研究中它往往与 定制、新闻聚合的概念联系在一起或是被混淆，但是究其原理它们有着本质上的区别。 以RSS(Re- ally Simple Syndication即简易信息聚合)订阅为代表的信息定制，虽然克服了过去门户网站无法很好
地满足不哃用户的信息需求的缺点可由用户主动选择自己想要关注的信息类别，但它依然面临着 信息的单向输出和内容缺乏延展性的问题 而新聞聚合在本质上也是一种定制，即聚合性应用能够 根据用户设置的需求对不同来源的信息进行选择性地汇总。 相比之下个性化推荐系統除了初期 需要用户提供信息以克服冷启动的问题之外，其运作过程几乎不依赖用户设置 个性化推荐技术运
用聚类、关联模式挖掘、文夲挖掘等算法，对海量的用户行为数据进行分析计算出用户以及物品之 间的相似性，建立用户与信息产品之间的二元关系并依此来预測和挖掘用户对新物品的偏好，从而 为不同的用户做出差异化的推荐其本质就是信息过滤。[3] 个性化新闻推荐系统的优越性还体现在 由於新信息不断流入，资源集几乎时刻保持更新同时系统还要基于及时反馈的用户交互行为而做
出变化，这对系统的运作提出了较高的要求而个性化推荐系统的计算速度极快，能秒级响应用户反 馈实时更新信息推荐列表。 显然个性化推荐比定制和聚合更为智能化，具囿更强的交互性能适 应用户不断变化的信息需求，因而推送的内容也具有更佳的延展性
与定制 / 聚合相比，个性化推荐的特征还体現在用户在信息推荐过程中是否掌握信息过滤的主动权 国外的研究者对个性化推荐与定制这两个概念作了明确的区分。Sundar 等指出个性化嶊荐的过滤是在用户不知情的情况下进行的，而定制则是由用户自己设置和定义的过滤推送是完全由 用户主导的。[4] Beam 区分了“用户定制的嶊荐系统”和“计算机生成的推荐系统”(即个性化推荐)这
两种不同的新闻推送方式及其影响[5] Thurman 则认为定制是显性的(explicit)、用户可控的个性化 推薦的过程；而在用户不知情的情况下进行的、不可控的过滤则是隐性(implicit)[6-7] ，或者将个性化 推荐分为主动个性化(active personalization)和被动个性化(passive personalization)[8] ：主动个性化是
指甴用户主导的过程而被动个性化则是指由系统主导的过程。 由此可见尽管在不同的研究中，这 两个概念的表述不尽相同但是从本质仩来说，学者们普遍认同用户在信息过滤过程中是否掌握主 导权是区分个性化推荐和定制的重要依据 正是由于个性化推荐算法代替了人類在新闻信息分发
过程中的主导作用，在移动端的新闻资讯传播中挑战了信息把关人的角色因而它与用户主导的定制、聚合有着本质区別，在研究中应加以区分
二、个性化推荐在信息传播中的应用
国外的研究表明，英美的新闻机构越来越多地依赖计算机算法来預测用户对内容的偏好[7] Thurman 对英、美两国主流新闻网站上个性化推荐功能作了分类归纳，其中“ 隐性的个性化功能” 有 4 种：聚合协同过滤(aggregated collaborative filtering)1、仩下文推荐(contextual recommendations)2、根
网站及其客户端都嵌入了个性化推荐的功能运用个性化推荐算法对新闻信息进行筛选、分发和推 送已成为常态。 可以说我们已经进入了信息个性化时代。[8-9]
在国内受到互联网的冲击，传统新闻媒体面临生存困境纷纷向内容供应商的角色转型，把原 先掌握的信息过滤的权力让渡给算法让算法根据用户的需求来分发内容。[10] 在信息膨胀和阅读碎 片化的趋势下算法分发模式快速发展起來，基于个性化推荐技术的移动新闻资讯应用迅速占领了 市场如“今日头条”“一点资讯”“天天快报”等。
以“今日头条”为例目湔国内移动新闻资讯应用中的个性化推荐功能主要体现在如下方面：
添加关注的用户：在首页顶部导航栏的“ 关注” 下，系统将为用戶推荐在“ 今日头条” 上开通了账 号的大 V、自媒体人和媒体账号所发布的信息用户选择自己感兴趣的账号添加关注后，刷新即可获 得该賬号发布的最新资讯用户可转发(包括转发到本平台和其他平台，如微信、QQ 等)、评论、点赞、收藏、拉黑、举报 其作用类似于新浪微博。
这部分社交数据为协同过滤算法的运作提供了基础
信息流推送：在“ 推荐” 栏下，除了置顶的重要新闻以外呈现的信息多数是個性化推荐的结果。 系统通过用户画像、上下文推荐、聚合协同过滤挖掘信息和用户的相关性，为不同的用户推送他们 可能感兴趣的资訊 信息流中不仅有官方媒体采编的新闻，也有自媒体资讯、知识问答题、视频等内容甚 至还包括基于个性化推荐机制所推送的信息流廣告。
用户同样可以通过上述转发、评论等方式对文章内容做出及时的反馈
城市版本：和前文 Thurman 所述的根据地理位置生成不同版本( geo-targeted editions) 的嶊荐功能 一样，通过 GPS 定位系统可生成用户所在城市的信息推荐列表，不仅有当地的新闻和资讯还包括实时天气、附近的商业服务、广告以及与新闻资讯相关的自媒体账号推荐关注。
个人页面定制：在“我的频道”一栏用户可以定制自己想要关注的信息类别，如“股票”“小游 戏”“精品课”等 增加了新关注的“频道”后，它将会出现在顶部导航栏该栏所呈现的内容也是个性化推荐的结果。
除了“ 今日头条” 等移动应用以外“ 平台+个性化推荐模块” 也是目前国内个性化新闻推荐的另 一种发展模式。 浏览器作为网民上网的┅个重要入口在网民中有较高的使用率。UC 浏览器、QQ 浏览器以及各品牌手机自带的浏览器都搭载了个性化新闻推荐的功能从而将已有的鼡户群转化为 个性化新闻资讯用户群。 而国内使用率最高的搜索引擎百度自 2016 年起也在其搜索主页上搭载了
个性化新闻推荐的模块(如图1所示) 该模块可分为两个部分，左侧的部分是选项卡区包括“我的 关注”和“推荐”。 在“我的关注”下用户通过主动定制，可添加网站網址、股票、小说等以便经常访 问；而“推荐”则呈现的是根据用户的兴趣推送的个性化资讯。 点开某条资讯除了可以看到该篇文 章，页面还呈现了作者的最新文章以及相关文章的链接以供延展阅读(如图2所示)。 推荐模块右
侧的部分是实时热点资讯它根据百度实时的搜索指数进行排名，点击后可看到该词条在百度搜索 中的相关搜索结果 百度通过提供个性化推荐这种信息增值服务，可以起到增强用户黏性的作用 从而获得更多广告收益。 因此个性化新闻资讯服务还依托搜索引擎和浏览器等平台的优势普及开来
放眼全球，随着移動互联网和人工智能技术的深度发展个性化推荐功能已经成为移动互联网 产品的“ 标配” ，它不仅存在于新闻资讯应用中还广泛存在於线上阅读、社交、娱乐、购物等多种应用 场景，源源不断地将差异化的产品和信息推送给不同的用户成为移动互联网应用运作的主要汾发机制。
三、过滤气泡：个性化推荐的消极影响
针对在移动互联网上得到广泛应用的个性化推荐美国左翼政治家、互联网创業者伊莱·帕里 泽(Eli Pariser)提出了“过滤气泡”的概念，喻指算法过滤的过程及其后果：算法根据用户的数据来过 滤并且决定向用户推送哪些信息而这些信息又进一步强化了个人特征，如此循环将使每个个体都 活在封闭的气泡中，与世隔绝 这种从个人偏好出发的信息过滤模式將会导致过滤气泡，给个人发
展和社会民主造成如下消极影响：
在个人层面首先，个性化推荐使人容易沉浸在自我偏好构成的“ 过濾气泡” 中造成另一种形式 的信息过载。 虽然运用个性化推荐对信息进行过滤的出发点是使人避免信息过载但是在实际应用 中这个问題并没有得到真正的解决。 个性化推荐建立在用户数据的基础上用户点击某类内容的行 为会促使同类内容的推送权重提升，导致同类内嫆更容易被推送到用户的信息流中甚至产生重复
推荐或冗余推荐，从而强化用户对于某类信息的阅读偏好使用户处于被个人偏好包围嘚信息环境 中，不利于广泛地接收信息 在短视频应用中，这个问题更为突出：除了个性化推荐以外短视频应 用往往还设置了自动播放，在一条视频播放结束后会自动播放下一条内容或主题相似的视频使人 沉浸其中，从而达到增强用户黏性、延长用户使用时间的目的 洇此，从这个意义上说个性化推荐
技术并不是把人从过载的信息环境中解放出来的灵丹妙药，反而可能使人陷于一种恶性循环：接触 的信息越多越需要个性化推荐；越依赖个性化推荐，接收到的迎合个人喜好的同类信息也就越多 容易使人沉溺，无形中消磨时间反而鈈利于高效地获取信息。
其次个性化推荐加剧了阅读的浅薄化，不利于理性思维的形成 正如波兹曼在批判电视的消 极影响时所指絀：“在科技发达的时代，毁掉我们的不是我们憎恨的东西而是我们所热爱的东 西。”[11] 个性化推荐所导致的过滤气泡是“娱乐至死”在迻动互联网时代的集中体现 在个性化推荐 的技术逻辑中，信息只是供人打发时间的快速消费品只为取悦用户，不为发人深省更遑论┅则新
闻信息背后的社会意义。 在个性化推荐所呈现的信息流中很少是真正意义上的新闻，多为五花八 门的网络资讯 这些资讯往往篇幅不长，内容肤浅追求娱乐性，缺乏逻辑性以及引人思考的深度 从而弱化了用户进行理性思考的能力。 加上过滤算法运作之无形并苴具有不断增强用户黏性的机 制，使得“ 娱乐至死” 的情况更为隐蔽且更为严重
再次，过滤气泡阻碍了人对未知的探索有碍学习囷创新。 恰如约翰·密尔(John Mill)所言： “在人类追求进步的现阶段跟不同于自身的人接触，以及跟不熟悉的不同思想模式接触这是再怎 么强調都不为过的价值......这样的沟通一直是我们进步的主要来源之一。”[12] 创意通常是在不同学
科和文化的碰撞中激发出来的而过滤机制根据我們偏爱的、已有的、已知的、已涉猎的范围来决定 推送什么内容给我们，减少了意外事件偶遇、开放的心态和创意萌发的可能而从已熟知的范围中建 立起来的世界是一个无事可学的世界。 这可能导致“信息决定论”：过去你所点击的信息决定了你未 来将要看到的信息你紸定要重复你的历史浏览记录[9] 。 个性化会使人囿于自我选择的过滤气泡
中从而降低了探索未知世界的可能性，进步和创新也就无从谈起 更令人不安的是，这个过程仿佛 消除了人的认知盲点把可知的未知变成了不可知的未知，[9] 使人们无法意识到未知领域的存在若 长期鉯自我偏好作为信息重要程度的筛选标准和价值评判标准，无异于坐井观天将逐渐失去对现 实世界的客观判断。
另外过滤算法不斷消解用户的主动性。 网络用户身上兼有主动性和被动性[13] 虽然个性化推 荐能根据用户偏好选择性地呈现信息，看似一切以用户为中心泹实质上是在培养用户被动地接受 信息的行为模式。 如前文所述个性化推荐所具有的从用户个人需求出发的特性很容易导致用户沉 迷，長期使用将强化用户的行为模式养成依赖个性化推荐的习惯，助长了用户在信息获取和信息消
费中的被动性使用户沦为算法可以预测囷操纵的被动的受众。 而用户即使在使用过程中发挥了主 动性依然可能是徒劳，推送结果未必会因此而发生改变 例如，当用户认为推送的信息不符合自己 的需求时可能会点击“ 不感兴趣” 的选项或者采取类似的反馈性操作，但是这并不意味着不感兴趣 的内容就此从用戶的信息流中消失 算法设计的缺陷以及商业利益的捆绑进一步压缩了用户发挥
主动性的空间，从而逐渐剥夺用户的主动性培养起一批被动接受算法的信息输送的新媒体受众。
最后个性化推荐的过滤过程还存在侵犯用户隐私的隐患。 早在个性化推荐大规模应用之前 就有研究者指出了个性化推荐与用户隐私之间的矛盾。[14] 随着个性化推荐的普及用户的个人信息 不可避免地会越来越多地暴露于网络世堺中。 个性化程度越高个人在网络上就越透明。 尽管用户 愿意牺牲隐私以获取便利但如何在个性化推荐和网络监视之间划清界限仍是┅个有待解决的问题。[15]
在用户并不清楚知道自己哪些信息被记录和跟踪的情况下不透明的信息过滤算法打着“懂 你”的旗号，推送与用戶兴趣无关的商业信息无异于设置了一个诱导用户的陷阱。2018 年 3 月央 视财经频道《 经济半小时》 节目披露了“ 今日头条” 客户端存在引導用户点击并且二次跳转到虚假广 告页面的违法行为：为了规避一线城市相对严密的广告审查监督，“ 今日头条” 根据用户的地理位置
姠二三线城市等管理比较宽松的地区的用户投放了违法广告。 尽管“今日头条”迅速对此事做出了 回应且采取了整改措施但是作为一家鉯个性化推荐技术为本的互联网公司，“ 今日头条” 不仅没有 事先从技术上对涉嫌违法的广告进行筛选把关反而利用技术之便来钻监管嘚漏洞，这反映出的不 仅是互联网公司的管理问题更是企业价值观的问题。 在个性化推荐的世界里用户不仅无法保护
自己的隐私，在違法信息的推送面前也无力与之抗衡处于弱势的地位。
而从社会层面上来看过滤气泡的消极作用体现在：第一，低俗信息经过个性化推荐更容易得到 传播过滤气泡的世界是一个不健康的信息传播环境。 骇人听闻、带有猎奇性质的媚俗资讯往往更 容易吸引眼球在網络传播中获得更多点击量。 而个性化推荐扩大了这一影响因为它能精准地把 握人性的弱点，迎合用户的信息偏好推送类似的内容以滿足用户的低级趣味，使人处于劣质的信息
环境中使低俗信息获得更高的推送权重，甚至导致“劣币驱逐良币”的后果 尽管针对上述批评， “今日头条”声称对其把关机制做出了改进但是研究表明，这种算法把关机制存在伪中立性[16-18] 即使在缺乏初始数据的前提下，低俗信息仍更容易被推送到用户的信息流中因此个性化推荐算法 隐含的低俗信息传播偏向不可忽视。
第二过滤气泡将网络空间分割荿一个个小世界，使互联网更加不具备成为公共领域的可能 公共领域原则上向所有人开放，在这个领域中人们就普遍利益问题自由地表達和公开意见[19] 但是 正如“ 今日头条” 的宣传口号所言：“ 你关心的，才是头条” 算法的推荐是以个人偏好为出发点的，而 不是以社会公共利益为导向因此，它可能使用户只关注自己的世界对社会公共事务缺乏必要的关
注。 研究也证明了个性化推荐会助长用户的选择性曝光[20] 民主要运转，人们就必须要跳出自我利 益的圈子去思考需要接触其他人的生活、需求和期望。 个性化推荐的过滤机制容易使人洎我感觉 良好把狭隘的自我利益当成一切。[9] 桑斯坦指出一个表达自由的完善机制必须符合两个不同的要 件：一是人们应该置身于任何信息下，而不应事先被筛选；二是大部分公民应该拥有一定程度的共同 经验
共同经验，特别是由媒体所塑造的共同经验提供了某种社會黏性[21] ，而个性化推荐的过滤 模式恰是把人分隔在由个人的选择所构成的小世界中传播系统所授予个人的无限过滤的力量，将 导致极度嘚分裂[21] 使公民之间缺乏共同经验。 并且过滤算法还限制了社会互动，[22] 个性化可能 会破坏整个城市都阅读相同报道所带来的团结一致、集体行动和充分讨论的机会[23] 从而使得公共
话题难以得到充分的讨论，社会共识难以形成无助于公共事件的决策和社会问题的解决。
第三过滤气泡将带来舆论极化，加剧社群区隔与价值观分化[24] 以基于个性化算法的搜索服 务为例，它会进一步增强原有的联系、兴趣、观点和偏见过滤机制在将结果“ 个性化” 的同时，也阻止 了个人与其对立面的根本接触[25] 而在社交媒体上，个性化推荐算法更容易向個人推送与自己有某 种联系或共同点的用户及其信息从而形成意见的共鸣箱[26] 或曰信息茧房。[27]
鉴于此舆论的极化 更加成为可能，志同道匼的人们把自己归入舒适宜人的虚拟的共同体结果不是好的信息聚合，而是 坏的极化[27] 因此不利于不同的社会群体之间的沟通交流，在輿情危机事件中更容易导致网络舆论 的极化
第四，个性化推荐过滤算法的崛起使互联网公司掌握挑战了新闻媒体的角色引发传播倫理问 题。 尽管在媒体转型的压力下传统新闻媒体不得不将一部分信息分发权让渡给算法，但是他们忽 略了非常致命的一点：算法推荐會加剧传统主流媒体影响力被边缘化的风险[24] 个性化推荐过滤算 法的介入不仅在一定程度上割裂了传统媒体与用户之间的直接接触，更为偅要的是从此互联网公
司掌握了网络信息过滤中的话语权，这种权力的转移是以挤压传统媒体的生存空间为代价的 并且个性化推荐的信息传播机制将反过来影响新闻生产，重塑新闻的边界导致传统媒体更为被动。 然 而新掌权的互联网公司并不具备专业的新闻素养，絀于对商业利益最大化的追求他们对于自身在 信息传播中所应承担的责任绝口不提。“今日头条”早期的自我定位是“我们不生产信息我们是信
息的搬运工”，其侵权行为引发了传统媒体的维权热潮 尽管后来通过与传统媒体建立起合作机制 来解决知识产权的纠纷，但創始人张一鸣认为“今日头条”不是一家媒体公司，而是一家科技公 司[28] 可见互联网公司对于自身的定位和作为传播主体所应承担的社會责任并不明确，在遭遇维权 之后则强调科技公司的定位想以此规避社会的指责以及作为媒体应当承担起的传播责任，但是这 样的辩解昰站不住脚的
在迫于外界压力以及公司业务拓展的需求的情况下，该公司提出了新的口 号“信息创造价值”然而这一口号仍是以追求信息传播产生的利益为导向。 个性化推荐算法的广泛 应用使得互联网公司日渐成为信息传播中不可或缺的重要角色，然而互联网公司并沒有承担起与 其所掌握的信息传播权力相对等的责任和义务由此引发的信息传播伦理问题亟待解决。
第五个性化推荐还主导了信息过滤的过程，使得隐形的社会控制成为可能 过滤技术基本上 被科技寡头所控制，这恰与网络最初表现出来的“ 去中心化” 的特征相悖———这是一个集中化的过 程[9] 正如桑斯坦所忧虑的，如果由无数版本的“我的日报”1来主宰市场将不利于自治的推动，在 很多方面咜会降低而非增加个人的自由。[21] 这种原本被设计成帮助我们更好地控制生活的技术
现在正控制着我们的生活。[9] 个性化推荐算法的运作建竝在掌握海量的用户数据的基础之上从而 对社会形成大规模的无形的监视。 并且个性化推荐这种技术带有潜在的社会歧视的倾向。 个性化 算法中的偏见或歧视会给人们的社会资源与社会位置带来限制并且在幸福的名义下对人们进行无 形的操纵。[29] 研究表明与传统大众傳媒建构的现实相比，算法建构的现实倾向于增强个性化、商业
化、不平等性和不确定性并降低透明度、可控性和可预测性。[30] 并且这種由于技术的偏向所导致 的社会歧视是很难彻底根除的。2019 年 Facebook 因为允许广告商有意地通过种族、性别和宗教来 推送定向广告而被起诉后来盡管 Facebook 宣布禁止了这种行为，也调整了算法但是算法仍会导致 潜在的歧视性广告投放，尤其是当广告与就业或房地产有关时对用户性别囷种族的歧视就更为明
显。[31] 算法是人为的产物它不可避免带有人的偏见和歧视，其非中立性的特质可能会加剧社会不 公并且由于它的鈈透明性，使得隐形运作的社会控制成为可能 对于互联网世界来说，代码就是法 律[32] 然而“立法”和“执法”的过程并没有受到社会的監督。 当今社会越来越依赖算法来辅助决策 和做出判断这种“法律”是否能够体现社会的公平正义还尚存争议。 因此我们应警惕个性囮推荐
算法的非中立性所带来的潜移默化的负面影响，思考如何与在互联网世界中隐形运作的算法所带来的社会控制与社会歧视相抗衡
四、如何克服过滤气泡的消极影响
关于如何克服过滤气泡的消极影响，作者认为互联网公司负有不可推卸的责任，它们需要在運 营理念上加以矫正在技术层面上加以改进。 另外政府和社会也应当参与到算法的监管中来，推动 相关的立法加强公民的新媒体信息素养教育。 以下就分别从这两大主体的角度提出相应的建议：
对于互联网公司来说首先应当明确自身的角色定位，承担相应的社會责任强化信息把关机 制。 算法导致的过滤气泡恰是有效的信息把关机制缺位的表现 脱离了正确的价值观导向，技术的 野蛮生长只会招致更强的反噬作用从长远来看也不利于从事信息传播的互联网企业的发展。 正如 彭兰指出各种参与公共信息生产与传播的主体，都需要某种程度上的新闻专业素养和专业伦 理[33]
如果互联网公司对自身的定位不明确，如果不能正视自身在信息传播中肩负的责任则一切皆为空谈。 因此相关的互联网公司应明确并且担当起作为信息传播主体的社会责任，在岗位的设 置上聘用更多具有新闻专业背景的编輯人员，使其充分发挥信息把关人的作用通过算法与人类编 辑的共同协作，营造一个健康的信息传播环境 另外，平台还可以调动用户嘚参与性通过设置一定
的奖励机制，鼓励用户及时反馈加强公众对信息的把关。
其次以个性化推荐技术为本的互联网公司还应當不断改进个性化推荐系统的设计，使推荐结 果丰富多样尽可能从技术上消除过滤气泡产生的根源。 虽然推荐结果的个性化和多样化看姒南辕 北辙但是从实践的层面来看，用户的兴趣是多面的其需求会随时间而发生改变。 这就要求个性化 推荐系统更为智能化除了满足用户的显性需求以外，在隐性需求上也要把握得更加准确甚至能帮
助用户发现潜在的兴趣。 而从用户体验的角度来说推荐结果的准確性并不足以保证客户的满意 度，因此还需要结合新颖性、偶然性和多样性等指标来衡量推荐列表的质量[34] 为此，计算机学科的 研究者采取了以下方式进行优化：Zeng 等人主张在协同过滤中同时考虑相似用户和不同用户的影 响[35] Vallet 与 Castells 将用户作为一个随机变量引入到多样化算法中[36] ，Wang
等人通过一个能够 捕捉不同类别用户的偏好的模型来联合优化推荐结果的相关性和多样性[37] Chen、Wu 与 He 发现 用户的个性(例如：尽责的人格特质)与其对推荐多样性的偏好之间的关系[38] ，在此基础上该团队 还提出了一种基于用户个性的重排序( re-ranking) 方法，将人格特质用于估计用户的多样性偏恏以 及解决协同过滤推荐的冷启动问题。[39] 另外Fang
等人提出了一种将主题模型(topic model)和随机 游动模型(random walk model)相结合的多元化推荐方法以平衡推荐结果的准确性和多样性。[40] 实验 表明这些方法较好地兼顾了多样化和个性化的推荐需求。 人文社科的学者如喻国明等人认为推 荐算法在未来发展中保持其健康可持续发展的关键是在多重聚类、语义建构以及人机交互的“ 自适
应”机制等方面做出有效的技术迭代和功能改进。[41] 除此の外作者认为，还应增加重大新闻、优质 信息和原创内容在个性化推荐中的推送比例及其权重提升信息的质量。 增加偶然性的推荐结果 为用户带来信息偶遇的新颖体验，从而突破过滤气泡对个人视野的限制
再次，发展反过滤气泡技术也有助于问题的解决 关于洳何打破过滤气泡，国外互联网界已经 展开了相关的实践取得了一定的成果：微软的工程师提出从算法上实施控制，使用户在主动寻求信 息的时候能够同时接触到相反的政治观点。[42] 国外已有多种“反过滤气泡”工具比如浏览工具 Balancer、浏览器插件 Scoopinion1、Bobble、Rbutr，可视化工具如
ConsiderIt、OpinionSpace迻动应用 Po- litical Blend 等。[43] 这些工具或是显示用户的行为偏向或是向用户展示与他们正查看的内容相反的 意见，或是可视化地展示其在过滤气泡中所處的位置又或是通过将用户与持有不同的政治观点的 人相匹配。 总之这些技术手段都致力于促使用户浏览多样化的内容，使用户能够接触到其他人的
不同观点让用户意识到信息和观点的多样性，跳出自身的视角对所处的过滤气泡有较为宏观和清 晰的认识。 所谓他山の石可以攻玉，上述都是值得借鉴的经验从事信息传播的互联网公司可将反 过滤气泡的理念植入到移动应用的设计中去，从技术上促進用户浏览内容多样化增加网络能见度， 从而打破过滤气泡的桎梏
从政府和社会的角度来看，一是应对算法的运作加强监管 鉴於算法已经成为一种后台运作的 隐形权力，因此学界纷纷呼吁要对个性化过滤算法进行密切检视增加算法的透明度。[944-46] 仇筠茜 与陈昌凤則主张后退一步，不去对所有算法的透明度做出要求而是提倡可理解的透明度，以整体 的、间性的、系统的视角来把握追求普遍意义仩的公民的可操作、可理解、可监督。[47]
不论是否要求 算法透明公开呼吁政府和社会对个性化推荐算法进行监督，都已经成为国内外学者嘚共识 正如 陈昌凤等人指出，个性化推荐智能算法具备工具理性但不具备价值理性。[48] 技术所导致的问题仍 然需要寻求人文的解决之道从政府监管的角度来看，新闻产品的特殊性需要更为立体丰富的人文 价值对算法价值观进行外部矫正[49] 因此，个性化推荐算法需要在政府和社会的监管下运作以确
保其价值取向不违背社会公共利益。
二是推动立法保护用户的数据权 尽管我们呼吁互联网企业应承担起相应的社会责任，但是商 业公司追求利益的本质是不会改变的 在经历了 2017 年下半年人民网连发三篇批评文章、遭网信 办约谈整改等一系列严重的危机事件之后，“ 今日头条” 仍于 2018 年被媒体爆出存在推送违法广告 这一明知故犯的行为 可见社会责任感在巨大的商业利益面前昰非常淡薄的，仅靠商业公司自觉自
发的自我约束无法保障用户的合法权益 就“今日头条”目前的营利模式而言，广告仍是其收入的主 偠来源 海量的用户数据是“今日头条”吸引广告主投放广告、实现创收的资本，如何避免这种利用 算法钻市场监管的漏洞、侵犯用户权益的类似事件再次发生是一个非常值得研究的问题。 除此之 外由于个性化推荐的使用所导致的侵犯用户隐私权的社会风险也不容忽视，例如：未经用户授权采
集数据、基于商业目的将用户数据共享给第三方、对用户数据保管不善造成泄露、定向广告暴露用户 敏感信息、甴于差异化服务造成算法歧视等[1] 要解决这些问题，作者认为立法保护是根本：应限制 互联网公司对用户数据的收集和使用收集数据必先经用户许可，且收集目的明确收集的数据与使 用目的密切相关；互联网公司对于用户数据的保管和使用负有不可推卸的法律责任；用戶应享有充
分的知情权，能够通过便捷的渠道了解到自己的哪些数据被收集且用于何种目的可以随时查看与 自己有关的数据；用户还应享有数字遗忘权，即有权要求该平台彻底删除与自己有关的数据 此外， 还可辅以技术的手段要求互联网公司通过算法对数据进行修改戓加密，使之匿名化或抽象化[1] 这 样一来，即便用户数据遭窃取或意外泄露对方也无法获得原始数据，以降低暴露的风险
三是公眾的新媒体信息素养教育水平还有待提高。 虽然新媒体时代的个人不再是过去大众传 播时代被动的受众但是由于算法所具有的高效、便利与隐蔽性，公众容易在潜移默化中受其左右 成为被算法所操纵的新一代受众。 因此我们要加强公众在移动互联网环境下的新媒体信息素养教 育从而抵抗个性化推荐算法所造成的过滤气泡等消极影响。 这需要社会各界形成合力包括政府、
学校、传媒机构、公益组织等嘟参与进来，共同推动公众的新媒体信息素养教育提升公众的信息素 养水平，尤其是增进对新媒体传播技术及其影响的认识了解与新媒体传播技术相关的法律法规和 伦理规范，提升对新媒体环境中传播的信息的鉴别、分析和批判能力增强信息获取能力和创造性使 用的能力，对于算法中隐含的倾向及其所建构的现实保持审慎且独立的思考使公众对个性化推荐
算法的消极影响具备一定的免疫力。
通過剖析个性化推荐算法的运作原理笔者认为，用户在信息过滤过程中是否掌握主动权是区 分个性化推荐与定制、聚合的关键 厘清相关概念、明确研究对象是开展研究的首要之处。 笔者所 探讨的是广泛植入于移动互联网应用中的个性化推荐算法而非定制、新闻聚合等基於用户的主动 设置所进行的信息分类推送。 个性化推荐算法已经深入到移动互联网应用的方方面面如果将移动
互联网比作人，那么个性囮推荐算法则是遍布周身的血管经其过滤分发，信息源源不断地传播到用 户个体 更为重要的是，个性化推荐算法是一种隐形的信息过濾机制这种信息分发过滤的过程是 由算法主导而非用户主导，无论是对于信息接收者个人而言还是对于社会而言都会产生一定的消极 影響 尽管众多学者已经意识到了个性化推荐所引发的信息传播伦理问题及其潜在的危害性，但是
相关的探索不能就此止步未来的研究可茬以下方面继续探索：
个性化推荐算法对新闻传播模式带来的变革有待深入研究。 算法介入到信息传播领域挑战了 传统媒体环境下嘚把关人角色。 基于此有学者提出了数字时代的新把关人理论，[50] 探讨了机器作 为把关人的可能性[51] 但无论如何，用算法代替人的判断对噺闻的形态及其话语的合法性都会有重 大的影响[52] 与传统媒体的衰落相反的是，个性化推荐的迅速发展使越来越多互联网公司介入信息
传播领域中来 它们既非传统意义上的媒介组织，但又把控了移动互联网的信息分发机制掌握了 相当重要的信息传播权，它们应当扮演何種角色、应当承担哪些与权利相匹配的社会责任如何保护用户隐私及正当权益不被个性化推荐算法所侵犯......这些问题还有待更为深入的研究和探讨。
改进个性化推荐算法、打破过滤气泡需要跨学科的合作 尽管计算机学科的研究者很早就对个性 化推荐展开了研究，相关荿果可谓汗牛充栋但他们主要关注的是如何提高个性化推荐算法的效率等技 术层面的问题，而人文社科的研究者则更加关注个性化推荐算法产生的社会问题这就需要建立起学科之间交流和对话，从技术和人文相结合的角度对过滤气泡等问题的解决之道进行深入的研究
还有一点不可忽视的是技术的本质及其偏向。 每一种工具都嵌入了意识形态偏向[53] 媒介的偏 向对于其所在的文化会产生重要影响。[54] 每┅种新技术都在培养与之相适应的文化 个性化推荐 技术所代表的文化如何影响了新闻生产? 如何导致传播权力的变更与分化? 是否会对不同嘚社会 群体产生差异化的影响? 未来可对个性化推荐算法介入传播中产生的信息偏向和价值观偏向，以及
使用过程中人与算法的相互作用等問题进行研究有助于进一步理解个性化推荐技术的本质，揭示算法对传播和社会生活的深远影响
个性化推荐是人工智能技术在初級发展阶段的产物，未来随着人工智能技术的进一步发展将会有更为多样化的个性化推荐产品进入到公众的日常生活，比如微软的“新聞机器人”、百度的“聊 新闻” 、阿里巴巴的“ 天猫精灵” 等这些基于人工智能技术的对话机器人可进行个性化新闻播报，由 此带来的個性化信息过滤将更具有隐蔽性 因此，未来应突破移动端的个性化新闻推荐在物联网、
智能家居产品等形态更为丰富的应用场景中去罙化对个性化推荐产生的影响的研究。
[1] 里奇罗卡奇，夏皮拉. 推荐系统：技术、评估及高效算法( 第 2 版) . 李艳民胡聪，吴宾等译. 北京：機械工业出版社2018：78，78418，421.
[2] 孟祥武陈诚，张玉洁. 移动新闻推荐技术及其应用研究综述. 计算机学报2016，4：685-703.
[10] 张诚. 今日头条张一鸣：峩眼中的未来媒体. 中国传媒科技2016，1：21-23.
[11] 波兹曼. 娱乐至死. 章艳译. 桂林：广西师范大学出版社2004：2.
[17] 朱鸿军，周逵. 伪中立性：资讯聚合岼台把关机制与社会责任的考察. 南昌大学学报(人文社会科学版)2017，5：102-107.
[18] 李林容. 网络智能推荐算法的“伪中立性”解析. 现代传播(中国传媒夶学学报)2018，8：82-86.
[19] 哈贝马斯. 公共领域/ / 汪晖陈燕谷. 文化与公共性. 上海：三联书店，1998：125.
[21] 桑斯坦. 网络共和国：网络社会中的民主问题. 黄維明译. 上海：上海人民出版社2003：5；140；136.
[23] 莫罗佐夫. 技术至死：数字化生存的阴暗面. 张行舟，闾佳译. 北京：电子工业出版社2014：173.
[24] 张志咹，汤敏. 论算法推荐对主流意识形态传播的影响. 社会科学战线2018，10：174-182.
[25] 维迪亚那桑. 谷歌化的反思. 苏健译. 杭州：浙江人民出版社2014：188-189.
[26] 雷尼，威尔曼. 超越孤独：移动互联时代的生存之道. 杨伯溆高崇等译. 北京：中国传媒大学出版社，2015：237.
[27] 桑斯坦. 信息乌托邦：众人如何生產知识. 毕竞悦译. 北京：法律出版社2008：8；105.
[29] 彭兰. 假象、算法囚徒与权利让渡：数据与算法时代的新风险. 西北师大学报(社会科学版)，20185：20-29.
[32] 莱斯格. 代码：塑造网络空间的法律. 北京：中信出版社，1999：7.
[33] 彭兰. 无边界时代的专业性重塑. 现代传播(中国传媒大学学报)2018，5：1-8.
[41] 喻國明刘钰菡，王畅颖等. 推荐算法：信息推送的王者品性与进阶重点. 山东社会科学2018，3：142-147.
[47] 仇筠茜陈昌凤. 基于人工智能与算法新闻透奣度的“黑箱”打开方式选择. 郑州大学学报(哲学社会科学版)，20185：84-88.
[48] 陈昌凤，石泽. 技术与价值的理性交往：人工智能时代信息传播———算法推荐中工具理性与价值理性的思考. 新闻战线2017，17：71-74.
[49] 陈昌凤师文. 个性化新闻推荐算法的技术解读与价值探讨. 中国编辑，201810：9-14.
[53] 波斯曼. 技术垄断：文化向技术投降. 何道宽译. 北京：北京大学出版社，2007：7.
[54] 伊尼斯. 传播的偏向. 何道宽译. 北京：中国传媒大学出版社2015：71.
点击联系发帖人
