算法背后：平台和用户相互影响。

文丨孙海宁

编辑丨高洪浩

内容平台天生面临一个矛盾：推荐算法太透明，不但袒露商业神秘，还容易勉励创作者和商家针对优化特定命据搏流量；推荐算法不透明，每当搅动社会情绪的事务泛起，用户总会嫌疑内容平台在操控信息流动。

抖音是海内最大的内容平台之一，响应也受到最强烈的品评。去年 11 月，着名企业家钟睒睒果真指责抖音纵容造谣账号抹黑企业形象，引发共识；近期，北京大学青年西席韦东奕在抖音开通账号，迅速获得超万万名粉丝，又有用户指责抖音 “造神”。

同期，中国羁系部分也提倡针对互联网平台的治理行动，把 “以适当方法公示算法推荐效劳的基来源理、目的意图、主要运行机制等” 作为事情目的。

今年年头最先，抖音建设算法透明项目组，首次对外诠释推荐算法的原理、治理内容生态的思绪。《晚点 LatePost》访谈了抖音算法、生态治理相关认真人，相识这家公司怎样影响用户、又怎样被用户影响。

推荐算法学习用户行为纪律

用户点击手机上的音符图标，翻开应用的几秒内，抖音推荐算法已经在天天增添数亿个视频的内容库中，完成推荐运算，再凭证运算效果排序。大逻辑不重大：

先划分预计视频引起用户某个行为——点赞、谈论、进入直播间等等——的概率，再用事先确定的行为价值分数和行为概率相乘，然后加总。最终得分越高，视频就越可能被刷出。

展望行为概率是靠历史数据。过往视频引发了哪些行为，以及这些视频、视频观众的特征，会源源一直地汇入机械学习模子，就像带有标准谜底的样题，供模子学习。理想情形下，每迭代一次，模子展望行为概率时就估得更准。

“模子实质是在学某类人对某类视频爆发特定行为的纪律。” 抖音算法工程师刘畅说，“若是模子判断你我兴趣相近，之前我点赞某个历史视频，那模子可能预计你也容易为它点赞。”

平台能获取到的种种信息可能都有助于提高模子展望的准确度。为增添模子可用信息，抖音有时还会重新设计用户界面。2021 年之前，为求首面板精练清洁，用户只有长按屏幕或者点击分享之后，才华在二级面板内珍藏视频。但在推荐团队实验提升中、长视频的分发效率后，意识到 “用户珍藏” 是反应视频质量的主要信号，因此将珍藏按钮提至首面板，利便网络更多珍藏数据。

模子估出用户各项行为概率后，还要乘以预先确定的价值分。价值分越高，意味着某项行为越被平台勉励。相比目的是提高客观展望精度的行为概率模子，价值分更体现平台主观偏好，设定欠好，就可能大幅影响平台生态。

抖音确定行为价值分是靠 A/B 测试：微调一组用户推荐算法的价值分，再和另一组没调解的用户比照，视察平台重视的各项指标怎样转变。这些指标可以是日活跃用户数目、创作者投稿数目、平台商品销售额等。

多个指标可能同时朝差别偏向变换。这时抖音数据剖析团队会在各个指标之间建设换算关系，并约束它们对最主要的 “北极星” 指标——恒久留存——的影响。

视察上述指标转变，抖音可以判断营业团队是否像自己声称地那样完成使命。好比抖音电商定位 “兴趣电商”，目的是推荐用户需要的商品。“权衡推荐精度的电商转化率提高，就不可把权衡用户体验的活跃度指标拉下去。” 刘畅说。

用户使用抖音的习惯差别，统一行为暗含的信息量也就差别。热衷点赞的用户可能不放过每次勉励创作者的时机，无论视频质量优劣；要求更高的用户则只会对自以为最高质量的内容点赞。显然，后一种点赞显出视频对用户的价值更高，价值分应该随之调解。

为此，抖音允许价值分在平台预设的基础上千人千面地转变，同时也会针对有特定寓目习惯的用户设计特定战略，由此包管价值分反应用户偏好。

抖音会控制价值分个性化，或者针对特定行为战略的庞洪水平。刘畅说这一方面是出于本钱思量，多一个模子动态调解价值分，算力本钱就被堆得更高。另外，推荐系统需要控制重漂后，增强算法鲁棒性——让系统面临种种滋扰时仍坚持稳固运转。

祖先工定调，再机械放大

推荐算法并非万能。它只是凭证用户可能 “点赞、谈论、分享” 的概率，加上平台给这些行动设定的权重，为内容排序，看不出视频自己是否优质。维护内容生态，先得由平台员工确定内容评判标准后，推荐算法才华批量执行。

抖音内容运营认真人李翔宇告诉《晚点 LatePost》，2023 年最先，抖音运营部分更重视增添优质内容占比。

新事情从界说作甚 “优质供应” 最先。运营员工人工初筛出各个内容类目的优质视频，然后按期开会二次筛选、讨论，提炼出这些视频的特点，形成可以被文字阐释的标准。

“我们会请创作者资助一起研判，一些寓目录数不高、可我们以为是优质的内容会发给创作者，请他们从专业视角评判。” 李翔宇说。历程中，播放量高但没有创意的视频也会被拿出来讨论，“好比虚伪技巧，但没有信息量的视频。”

优质标准是动态调解的。“抖音刚上线时，运镜视频一定属于优质内容。但发的人越来越多，观众审美疲劳，创作者就需要在运镜基础上增添更多立异玩法。” 李翔宇说。

标准制订好，更多内容运营和审核员工就能参考它们，为更多内容打上 “优质视频 / 非优质视频” 的标签。这之后，有了学习样本的算法最先施展效力，批量识别出还没经由人工评判的优质视频。

“算法的优势在于批量处置惩罚。事实运营员工能研判的视频数目是有限的，算法可以将更多优质创作者和优质视频更早地掘客出来。” 李翔宇说。

就像所有内容平台，抖音会对优质视频提供流量激励。之前的方法是包管它们获得一定播放量，但效果有限。“好比中、长知识类视频，用包管一定播放量的方法帮它们完成冷启动，之后完播率照旧天生不如 10 秒短视频，得不到算法重视。” 李翔宇说。

新步伐是在界说优质内容后，看哪些用户行为和行为价值分可以让流量导向优质内容，抖音就强化这些目的，如珍藏、重复寓目、搜索等。去年，一条 450 分讲红楼梦的视频获得 3 亿播放、780 万珍藏、637 万分享，大宗用户的珍藏和分享，让这条长视频获得更好的分发，被抖音看成算法和用户双向选择的最佳实践。

提振优质内容外，内容生态治理的另一项主要事情是攻击劣质内容。这也是只有机械和人工相互配合才华完成的事情。

创作者宣布视频后，内容会履历多层审核。第一层审核针对所有视频，目的是盖住违法违规、冒犯底线的内容，主要靠机械，机械认定内容危害较高则会交给人工判断；播放量再上升到一定水平后，机械、人工会配合着二次审核，处置惩罚不宜过多分发，但不涉及底线问题的视频；高热内容还要经由第三层审核。

除了依序推进的层级审核，某个视频收到过多用户负面反响，或流量异常突变时，也会触发研判治理环节，若是治理员工发明问题，同样会阻止分发和推荐视频。

上述标准审核流程外，抖音还会针对网络暴力、未成年人；ぁIGC 违规内容治理等焦点问题提倡专项治理，单独设立团队构建治理框架。好比，和抵制网络暴力相关的步伐包括搭建网暴账号监控池、上线一键关闭来自生疏人的谈论、私信及被搜索到的功效等。

“之以是叫 ‘专项’，是由于治理这些问题需要调动多个部分，像上线新功效就需要产品、研发支持。但 ‘专项治理’ 不是 ‘项目制’，没有结项日，最先之后会恒久一连做。” 李翔宇说。

平台影响用户，用户改变平台

无论是提振优质内容照旧攻击劣质内容，抖音治理步伐不是平台片面意志的实验，而是和用户行为相互影响、相互顺应的效果。

电商主播在抖音卖货时，习习用 “米” 替换 “钱”，这是由于有传言说 “钱” 在平台的敏感词列表中，主播讲太多次，会影响直播间流量。

“这把治理想象得太傻了。‘钱’ 是常用字，不可能用作敏感词过滤。” 李翔宇回应。只管抖音 2021 年就最先澄清可以用 “钱” 字，但只要听说涉及流量和随流量而来的收入，电商商家仍然宁愿信其有。

相关案例增添后，抖音反而得治理非规范用字，今年会先从播放量凌驾万万次的高热视频最先。“也不可连忙一棍子全打死，由于许多用户已经习惯直播间里的特定表达了。”

搪塞谣言时，抖音留有 “举报” 按钮，希望理智的用户能自觉识别、对抗部分谣言。但李翔宇说举报渠道爆发的信号并不完全可信，天天最多的举报信息都涉及明星，背后是一个明星的粉丝群体试图压制另一个明星相关内容的流量。

为更好地识别、对抗谣言，抖音设有一个三十人的团队，天天自动巡检、网络种种虚伪信息，整理成一个 “谣言库”，然后交给机械学习模子识别相关视频。“好比人工入库一个 ‘韦东奕解决了六个博士四个月没解决的难题’ 的谣言，只要已有、新上传的视频内有相关表述，就会被机械识别然后处置惩罚。”

一些信息在撒播历程中因要害要素缺失，导致用户明确误差，演变为谣言，平台就得通过多次核实才华 “跑赢” 这些不实信息。

一个例子是，近期网络上普遍撒播的 “犬类禁养名单”。谣言炮制者拼集各地疏散的养犬治理划定，把部分都会在特定区域对特定犬种的限养政策，强调为天下性禁养政策。对此，抖音需重复查阅官方文件，才华还原事务真相：现在，国家层面尚未出台统一的禁养政策，相关管控步伐由各省市地方政府制订。

今年二季度最先，抖音治理团队依据信息危害水平，进一步将谣言分为 “需要核实” 和 “无需核实” 两类。

“无需核实” 类包括 “明确保存不良社会影响或违反知识的无稽之谈” 的内容，如 “某高校研究发明人类可以重生”，会直接被平台限制撒播。“需要核实” 的信息，先由联网大语言模子举行事实核查，若模子检索到的权威信源缺乏，则触发人工核查员介入，最终凭证核查效果，将内容细分为 “谣言”“疑似谣言”“争议内容” 三类，并匹配对应的分级处置惩罚战略。

和谣言同样棘手的是热门事务。去年一名网名为 “胖猫” 的男生跳江身亡后，他的姐姐在抖音发声指责 “胖猫” 女友诈骗钱财，发酵成为公共事务，但公安部分视察后发明指责不实。反思时，抖音以为热门事务当事人有发声权力，但在事实水落石出前，也应该避免当事人不当使用舆论，危险其他相关方。

今年 5 月，抖音出台社区热门信息和账号治理规则；丛丛蛑皇 “；と让欧⒔椭械笔氯耍ǚ剑┑囊私、信用、人身清静等权益。” 对事实不清的热门信息，抖音会增添提醒标签，并会通过热榜、弹窗推送的方法撒播热门事务节点信息、焦点事实。

别的，争议热门事务爆发后，抖音会暂时榨取当事人带货、接广告或接受直播打赏。这既是由于公众反感素人走红后连忙变现，也为避免当事人生涯受重大流量反噬。

问及是否对热门当事人管得太严时，李翔宇说很难定论：“凭证许多热门事务演进的履历，当事人可能需要冷静一段时间想清晰后续的妄想。冷静期事后，我们会铺开对变现的限制。”

一定的厘革，漫长的顺应期

“和你的浏览器说再见吧！”1997 年，科技作家凯文 · 凯利在《推送！》（Push。┮晃闹行吹。他把靠人们自动搜索来转达信息的互联网称作 “拉式媒体”（Pull Media），并预言它会被 “推式媒体”（Push Media）取代：

不等用户点击，内容会自动泛起在电视机上、电脑上、墙上、挡风玻璃上，或者其他任何能塞下一块屏幕的地方。依附无线传输手艺，一度清静的角落里也会充满信息，广告商争抢人民注重力的竞争会空前强烈——总之，带着全新的交互方法，推式媒体将塑造一个全新的天下。

只要人类创立信息的速率快于消化信息的速率，情形就不可阻止地朝凯利描绘的偏向演进。但速率没那么快。2006 年 Facebook 上线无限转动的 News Feed 信息流后，靠推荐算法变得可用的推式媒体才算上岸电脑。等推式媒体最先占领手机屏幕，还得再十年。

历程中，种种争议也随之而来。YouTube 推荐算法一度被报道太过追求 “用户寓目时间”，一步步把用户引至容易上瘾的阴谋论视频；Instagram 被指责加重用户身段焦虑，其他主流内容平台的信息流险些都引发过品评。

这不可阻止。改天换地的新手艺总是创立矛盾、引起争议，这些矛盾、争议先引致新的羁系框架、社会共识，然后约束新手艺更好地效劳社会。

每一次公众、羁系对内容平台的问责，每一次问责后平台的反思、调解，都是新手艺和社会的相互磨合的注脚。

最终磨练算法的优劣的，不是它匹配内容和观众的精度，而是它与使用者之间相互顺应的水平。

题图泉源：视觉中国