正在阅读:

新一轮算法治理中的“上海答案”:如何避免大数据“杀熟”、操纵榜单炒热点?

扫一扫下载界面新闻APP

新一轮算法治理中的“上海答案”:如何避免大数据“杀熟”、操纵榜单炒热点?

近期,一场聚焦算法与规则的互联网平台治理行动正在全国开展。

界面新闻记者 | 范易成

界面新闻编辑 | 彭朋

围绕内容平台的“信息茧房”、操纵榜单炒作热点,电商平台的大数据“杀熟”、“仅退款”及低价内卷,生活服务平台的侵害新就业形态劳动者权益等备受社会关注的问题,小红书、哔哩哔哩、拼多多、饿了么等上海属地平台日前陆续发布了算法治理的成果、举措和目标。

去年11月以来,根据中央网信办等四部门联合部署,上海市委网信办会同市通管局、市公安局、市市场监管局深入推进开展“清朗浦江·网络平台算法典型问题治理”专项行动,要求上海属地网站平台针对前述典型问题开展自查自纠。

在这场涉及用户、平台和监管多方的新一轮治理中,对于“算法如何向善”,上海给出了一份阶段性的“答卷”。

几乎所有内容平台都有一套类似的底层逻辑,生产内容并进行内容分发,通过数据和算法,为用户提供符合其兴趣和行为偏好的内容,并持续高密度供给,从而提高用户粘性和使用时长。这一模式不可避免会造成推送内容同质化、“信息茧房”和诱导沉迷等问题

一位曾在多家内容平台任职的业内人士告诉界面新闻,每个用户关注的内容和偏好本来就不相同,所以才会有不同定位的内容和平台。大多数人就是会沉浸在自己喜欢和偏好的内容里,所以平台也会迎合用户的需求和行为。因此,基于商业逻辑,平台自身很难有动力去解决“信息茧房”等问题,这时监管机构就显得尤为重要。

1月14日,小红书宣布推出九项举措,进一步落实算法公平公正,流量向上向善,推动平台治理相关规则透明化。其中就包括建立算法沟通机制、完善治理体系建设、提升推荐多样性、完善账号“真诚分”体系、优化流量分配机制、加大对正向内容的引导与扶持等举措。

小红书宣布推出九项举措

小红书算法相关负责人向界面新闻介绍,每个人都有自己个性化的生活,小红书的算法为了避免流量聚集在少数头部“大V”,目前超过50%的流量分配给了1000粉丝以下的用户,从而让整个内容生态更多元健康。

针对“信息茧房”问题,小红书主动设计了遗忘算法,当用户对某个垂类的内容观看过多时,算法会减少该类目的内容推荐并适当增加其他品类的内容。此外,小红书还设计了“真诚分”系统,将创作者分为需要营销变现的商家、各垂类的专业创作者以及分享日常生活的普通用户。之后,通过算法去判断内容发布的动机以及质量,使真诚创作的内容获得更大的流量,让更多普通用户能够看到这些内容。

在小红书副总裁、总编辑许磊看来,优秀的平台需要很好地平衡用户价值、商业价值和社会价值,做到“三位一体”。他对界面新闻表示,目前小红书的内容依然采用双列信息流的方式进行分发,更侧重于用户的体验。这一分发机制与短视频平台的上下滑动有很大的不同,虽然从产品的角度来看是“低效”的,但这能够让用户主动选择真正需要的、有价值的内容。

哔哩哔哩(以下简称B站)此前也同样发布了公告称,将持续推进平台多方面优化提升,引导全站创作向上向善。在挖掘优质内容方面,将深度考察up主创作生态,撷取一批有见地、有温度、有知识、有热情的优质稿件优先推送曝光。

针对信息茧房、同质化推送等问题,B站将主动升级产品功能,提高用户自主选择权。具体来说,在产品功能上会提高用户自主干预能动性,向用户提供信息负反馈选项,增设「此类内容过多」「推荐过」等反馈理由,用户可通过主动选择来降低某类内容的展现密度。

针对热搜榜单,将结合平台算法规则,从排序规则、更新规则、标识说明等维度进一步深入阐述。同时引入热度概念,便于用户理解,充分保障用户知情权和选择权,推动算法公开透明。

近期,反向“驯化”“大数据杀熟”成为一大热点话题。根据媒体报道,有网友通过反复评论“机票太贵了,买不起,不去了”后,发现机票价格从4309元降至1903元;还有网友称,在某外卖平台选好餐品后不支付下单,而是转到另一软件继续浏览,就有机会获得优惠红包。

目前,大多数平台并不承认大数据“杀熟”,认为这是针对不同用户的“差异化营销”。中国广告协会品牌营销生态安全服务中心智库专家廖怀学在接受媒体采访时指出,正常“差异化营销的条件至少有以下三点:第一,消费者对不同价格或收费标准知情;第二,经营者向消费者提供不针对个人特征的选项;第三,经营者要为消费者提供便捷的拒绝方式。

廖怀学表示,尽管“杀熟”和“差异化营销”不能混为一谈,但由于大数据“杀熟”与“差异化营销”的界限在法律上存在一定的模糊性,未来还需要进一步的认定规则作指引。

在严禁大数据“杀熟”方面,拼多多相关负责人对界面新闻表示,平台不断规范商品定价机制,严禁根据用户年龄、职业、消费水平等特征实施差异化定价行为,将加强平台活动、优惠券等规则公示,并及时回应消费者关切。

在商品的搜索推荐方面,平台目前主要根据商品的口碑、订单、用户是否乐于分享等,由系统自动计算和推荐,来帮助消费者更高效地匹配需求的商品和服务,另一方面可以引导商家更加专注于产品和服务本身。

围绕电商平台如何构建高质量发展生态等问题, 据介绍,2024年下半年,拼多多对商家售后服务体系进行专项升级。比如,取消商家的售后申诉限制,全面支持商家对异常订单、恶意投诉订单、消费者负向体验订单等进行申诉,商家申诉成功后将由平台对相关订单进行赔付。

1月8日,拼多多成立“商家权益保护委员会”,统筹平台治理、招商、客服、技术、产品等团队,全面研究商家需求,收集商家反馈意见,优化商家经营体验,完善商家服务机制,保障商家合法权益。

针对“仅退款”问题,拼多多先后推出了多项改进举措,包括:加强商家提示,对平台已明确判定行为有恶意的用户,主动向商家发出提醒;对商品存在轻微问题、短时间难以界定的订单,平台延迟主动介入,给予商家和消费者之间更多协商时间;在消费者申请仅退款时,平台主动引导消费者补充缺失的关键凭证、详细问题描述,确保消费者充分合理举证;调整平台主动介入的仅退款金额上限,降低平台主动介入比例,细化完善用户仅退款、商家仅退款以及商品仅退款的熔断阈值。

此外,拼多多针对价格竞争上线了“低价风险预警”功能,当发现商家提交的商品价格过低时,会结合商家历史价格数据发出弹窗提醒,做好价格风险管控;对于商家通过低价进行恶意引流、售卖劣质商品等行为,持续加大治理力度,为商家营造更有效、健康的生态环境。

1月21日,为全面加强骑手权益的保障力度,饿了么公布九项举措,包括落实算法公开常态化、建立更广泛的算法沟通机制、持续加大技术研发投入、完善算法样本的筛选机制、上线休息提醒功能防范骑手疲劳作业、正向引导及规范骑手配送过程中的行为、承诺骑手申诉解决时效、建立算法的骑手集体协商机制、加快共建骑手友好型数字化未来社区等。同时,饿了么在官方网站开设了算法的公示页面。

饿了么算法相关负责人向界面新闻介绍,公司在经营理念层面用“准确性”替代“时效性”,从单纯的“求快”发展为要求准确。这对算法的预估送达时间能力提出了更高的要求,需要不断通过大数据和异常信息反馈相结合从而给出科学合理的预估,并从全局最优的视角统筹匹配区域内的订单和骑手,把合适的订单在合适的时间匹配给最合适的骑手,从而实现消费者需求和骑手权益的兼顾。

饿了么上海办公室  摄影:范易成

具体来说,饿了么在配送时长规则上做了多方面的调整,包括提高配送时间的弹性,把预估送达时间从“时间点”调整为弹性的“时间段”,只要在时间段内送达均不会计为超时;发生特殊情况无法按时送达时,给予骑手报备和转单等解决方式;建设了压力预警辅助订单密度调配机制,针对特殊天气等状况,系统自动触发保护方案灵活调整预估送达时间,同时采取缩减配送范围等措施来进行压力调控,保障骑手不用承担过大的配送压力。

此外,饿了么还对派单调度规则进行了优化,重点增加了骑手安全因子的比重。基于配送的安全性考量,算法会参考道路交通事故情况等历史数据,并结合骑手接单时长、骑行速度等实时数据,综合判断骑手在当前配送状态下的安全负载系数,并相应调整订单分配。据了解,为了进一步解决外卖骑手群体中的闯红灯等交通违章问题,饿了么正在和高德合作,把实时“红绿灯”功能纳入骑手导航和违规行为管控,预计将于近期上线。

谈到外卖行业算法未来的改善方向,工信部信息通信经济专家委员会委员盘和林对界面新闻表示,重要的是做到算法的公开透明,特别是与公开骑手息息相关的部分,并充分倾听骑手的意见。此外,不要急于用外部人的视角替骑手来表达,因为有很多在旁人看来是关怀骑手的作法,有可能会影响骑手的收入,骑手未必愿意。盘和林认为,聚焦算法向善,关键在于构建一个沟通的桥梁和协商的机制,尽可能去找到平台、用户和骑手三方利益的平衡点。

上海市委网信办相关负责人指出,算法问题社会关注度高、影响范围广、用户反映强烈。算法不是单纯的技术问题、程序问题,背后体现的是企业的价值选择和社会责任。各网站平台要依法依规提供算法推荐服务,建立健全算法安全管理制度和技术措施,同时为用户实现算法自主选择权提供便利支持。算法的公开透明有利于规范和监督算法应用,也有利于消除社会疑虑,预防和减少争议纠纷,赢得公众对平台的信任。

近期,市委网信办会同市通管局、市公安局、市市场监管局,围绕算法治理开展了一系列合规指导。2024年12月底,组织召开面向属地100余家网站平台的算法治理合规指导会,全面开展普法培训。今年1月,针对算法透明公示、信息“茧房”、大数据“杀熟”等各方关注度高的细分场景,开展多场分类指导会,要求网站平台加强用户权益保障,重视各方意见建议,通过务实举措推动算法公开透明和机制优化,以善治回应社会的“算法向善”期许。

在全国层面,本轮的算法典型问题治理专项行动要求各大平台企业在2024年12月31日前自查自纠,2025年1月核验自查情况,并将在2月14日前完成治理成效评估。界面新闻从市委网信办获悉,上海地方层面,本次专项行动将持续至5月。

下一阶段,市委网信办将会同相关部门,通过受理举报线索、技术核验、约谈整改、现场检查等方式开展督查督导,进一步压实网站平台算法安全管理的主体责任,对自查不认真、整改不彻底的网站平台,依法依规进行处置处罚。

未经正式授权严禁转载本文,侵权必究。

饿了么

3.1k
  • 让“算法”成为骑手建设美好生活的“办法”,饿了么推出九项举措
  • 【2024年度突破营销】十位广告大咖心中的年度最佳案例

小红书

7.7k
  • 财说 | 股价四连板后连续下跌,揭开国旅联合的”真面目”
  • 创业板指、深证成指双双跌逾1%

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

新一轮算法治理中的“上海答案”:如何避免大数据“杀熟”、操纵榜单炒热点?

近期,一场聚焦算法与规则的互联网平台治理行动正在全国开展。

界面新闻记者 | 范易成

界面新闻编辑 | 彭朋

围绕内容平台的“信息茧房”、操纵榜单炒作热点,电商平台的大数据“杀熟”、“仅退款”及低价内卷,生活服务平台的侵害新就业形态劳动者权益等备受社会关注的问题,小红书、哔哩哔哩、拼多多、饿了么等上海属地平台日前陆续发布了算法治理的成果、举措和目标。

去年11月以来,根据中央网信办等四部门联合部署,上海市委网信办会同市通管局、市公安局、市市场监管局深入推进开展“清朗浦江·网络平台算法典型问题治理”专项行动,要求上海属地网站平台针对前述典型问题开展自查自纠。

在这场涉及用户、平台和监管多方的新一轮治理中,对于“算法如何向善”,上海给出了一份阶段性的“答卷”。

几乎所有内容平台都有一套类似的底层逻辑,生产内容并进行内容分发,通过数据和算法,为用户提供符合其兴趣和行为偏好的内容,并持续高密度供给,从而提高用户粘性和使用时长。这一模式不可避免会造成推送内容同质化、“信息茧房”和诱导沉迷等问题

一位曾在多家内容平台任职的业内人士告诉界面新闻,每个用户关注的内容和偏好本来就不相同,所以才会有不同定位的内容和平台。大多数人就是会沉浸在自己喜欢和偏好的内容里,所以平台也会迎合用户的需求和行为。因此,基于商业逻辑,平台自身很难有动力去解决“信息茧房”等问题,这时监管机构就显得尤为重要。

1月14日,小红书宣布推出九项举措,进一步落实算法公平公正,流量向上向善,推动平台治理相关规则透明化。其中就包括建立算法沟通机制、完善治理体系建设、提升推荐多样性、完善账号“真诚分”体系、优化流量分配机制、加大对正向内容的引导与扶持等举措。

小红书宣布推出九项举措

小红书算法相关负责人向界面新闻介绍,每个人都有自己个性化的生活,小红书的算法为了避免流量聚集在少数头部“大V”,目前超过50%的流量分配给了1000粉丝以下的用户,从而让整个内容生态更多元健康。

针对“信息茧房”问题,小红书主动设计了遗忘算法,当用户对某个垂类的内容观看过多时,算法会减少该类目的内容推荐并适当增加其他品类的内容。此外,小红书还设计了“真诚分”系统,将创作者分为需要营销变现的商家、各垂类的专业创作者以及分享日常生活的普通用户。之后,通过算法去判断内容发布的动机以及质量,使真诚创作的内容获得更大的流量,让更多普通用户能够看到这些内容。

在小红书副总裁、总编辑许磊看来,优秀的平台需要很好地平衡用户价值、商业价值和社会价值,做到“三位一体”。他对界面新闻表示,目前小红书的内容依然采用双列信息流的方式进行分发,更侧重于用户的体验。这一分发机制与短视频平台的上下滑动有很大的不同,虽然从产品的角度来看是“低效”的,但这能够让用户主动选择真正需要的、有价值的内容。

哔哩哔哩(以下简称B站)此前也同样发布了公告称,将持续推进平台多方面优化提升,引导全站创作向上向善。在挖掘优质内容方面,将深度考察up主创作生态,撷取一批有见地、有温度、有知识、有热情的优质稿件优先推送曝光。

针对信息茧房、同质化推送等问题,B站将主动升级产品功能,提高用户自主选择权。具体来说,在产品功能上会提高用户自主干预能动性,向用户提供信息负反馈选项,增设「此类内容过多」「推荐过」等反馈理由,用户可通过主动选择来降低某类内容的展现密度。

针对热搜榜单,将结合平台算法规则,从排序规则、更新规则、标识说明等维度进一步深入阐述。同时引入热度概念,便于用户理解,充分保障用户知情权和选择权,推动算法公开透明。

近期,反向“驯化”“大数据杀熟”成为一大热点话题。根据媒体报道,有网友通过反复评论“机票太贵了,买不起,不去了”后,发现机票价格从4309元降至1903元;还有网友称,在某外卖平台选好餐品后不支付下单,而是转到另一软件继续浏览,就有机会获得优惠红包。

目前,大多数平台并不承认大数据“杀熟”,认为这是针对不同用户的“差异化营销”。中国广告协会品牌营销生态安全服务中心智库专家廖怀学在接受媒体采访时指出,正常“差异化营销的条件至少有以下三点:第一,消费者对不同价格或收费标准知情;第二,经营者向消费者提供不针对个人特征的选项;第三,经营者要为消费者提供便捷的拒绝方式。

廖怀学表示,尽管“杀熟”和“差异化营销”不能混为一谈,但由于大数据“杀熟”与“差异化营销”的界限在法律上存在一定的模糊性,未来还需要进一步的认定规则作指引。

在严禁大数据“杀熟”方面,拼多多相关负责人对界面新闻表示,平台不断规范商品定价机制,严禁根据用户年龄、职业、消费水平等特征实施差异化定价行为,将加强平台活动、优惠券等规则公示,并及时回应消费者关切。

在商品的搜索推荐方面,平台目前主要根据商品的口碑、订单、用户是否乐于分享等,由系统自动计算和推荐,来帮助消费者更高效地匹配需求的商品和服务,另一方面可以引导商家更加专注于产品和服务本身。

围绕电商平台如何构建高质量发展生态等问题, 据介绍,2024年下半年,拼多多对商家售后服务体系进行专项升级。比如,取消商家的售后申诉限制,全面支持商家对异常订单、恶意投诉订单、消费者负向体验订单等进行申诉,商家申诉成功后将由平台对相关订单进行赔付。

1月8日,拼多多成立“商家权益保护委员会”,统筹平台治理、招商、客服、技术、产品等团队,全面研究商家需求,收集商家反馈意见,优化商家经营体验,完善商家服务机制,保障商家合法权益。

针对“仅退款”问题,拼多多先后推出了多项改进举措,包括:加强商家提示,对平台已明确判定行为有恶意的用户,主动向商家发出提醒;对商品存在轻微问题、短时间难以界定的订单,平台延迟主动介入,给予商家和消费者之间更多协商时间;在消费者申请仅退款时,平台主动引导消费者补充缺失的关键凭证、详细问题描述,确保消费者充分合理举证;调整平台主动介入的仅退款金额上限,降低平台主动介入比例,细化完善用户仅退款、商家仅退款以及商品仅退款的熔断阈值。

此外,拼多多针对价格竞争上线了“低价风险预警”功能,当发现商家提交的商品价格过低时,会结合商家历史价格数据发出弹窗提醒,做好价格风险管控;对于商家通过低价进行恶意引流、售卖劣质商品等行为,持续加大治理力度,为商家营造更有效、健康的生态环境。

1月21日,为全面加强骑手权益的保障力度,饿了么公布九项举措,包括落实算法公开常态化、建立更广泛的算法沟通机制、持续加大技术研发投入、完善算法样本的筛选机制、上线休息提醒功能防范骑手疲劳作业、正向引导及规范骑手配送过程中的行为、承诺骑手申诉解决时效、建立算法的骑手集体协商机制、加快共建骑手友好型数字化未来社区等。同时,饿了么在官方网站开设了算法的公示页面。

饿了么算法相关负责人向界面新闻介绍,公司在经营理念层面用“准确性”替代“时效性”,从单纯的“求快”发展为要求准确。这对算法的预估送达时间能力提出了更高的要求,需要不断通过大数据和异常信息反馈相结合从而给出科学合理的预估,并从全局最优的视角统筹匹配区域内的订单和骑手,把合适的订单在合适的时间匹配给最合适的骑手,从而实现消费者需求和骑手权益的兼顾。

饿了么上海办公室  摄影:范易成

具体来说,饿了么在配送时长规则上做了多方面的调整,包括提高配送时间的弹性,把预估送达时间从“时间点”调整为弹性的“时间段”,只要在时间段内送达均不会计为超时;发生特殊情况无法按时送达时,给予骑手报备和转单等解决方式;建设了压力预警辅助订单密度调配机制,针对特殊天气等状况,系统自动触发保护方案灵活调整预估送达时间,同时采取缩减配送范围等措施来进行压力调控,保障骑手不用承担过大的配送压力。

此外,饿了么还对派单调度规则进行了优化,重点增加了骑手安全因子的比重。基于配送的安全性考量,算法会参考道路交通事故情况等历史数据,并结合骑手接单时长、骑行速度等实时数据,综合判断骑手在当前配送状态下的安全负载系数,并相应调整订单分配。据了解,为了进一步解决外卖骑手群体中的闯红灯等交通违章问题,饿了么正在和高德合作,把实时“红绿灯”功能纳入骑手导航和违规行为管控,预计将于近期上线。

谈到外卖行业算法未来的改善方向,工信部信息通信经济专家委员会委员盘和林对界面新闻表示,重要的是做到算法的公开透明,特别是与公开骑手息息相关的部分,并充分倾听骑手的意见。此外,不要急于用外部人的视角替骑手来表达,因为有很多在旁人看来是关怀骑手的作法,有可能会影响骑手的收入,骑手未必愿意。盘和林认为,聚焦算法向善,关键在于构建一个沟通的桥梁和协商的机制,尽可能去找到平台、用户和骑手三方利益的平衡点。

上海市委网信办相关负责人指出,算法问题社会关注度高、影响范围广、用户反映强烈。算法不是单纯的技术问题、程序问题,背后体现的是企业的价值选择和社会责任。各网站平台要依法依规提供算法推荐服务,建立健全算法安全管理制度和技术措施,同时为用户实现算法自主选择权提供便利支持。算法的公开透明有利于规范和监督算法应用,也有利于消除社会疑虑,预防和减少争议纠纷,赢得公众对平台的信任。

近期,市委网信办会同市通管局、市公安局、市市场监管局,围绕算法治理开展了一系列合规指导。2024年12月底,组织召开面向属地100余家网站平台的算法治理合规指导会,全面开展普法培训。今年1月,针对算法透明公示、信息“茧房”、大数据“杀熟”等各方关注度高的细分场景,开展多场分类指导会,要求网站平台加强用户权益保障,重视各方意见建议,通过务实举措推动算法公开透明和机制优化,以善治回应社会的“算法向善”期许。

在全国层面,本轮的算法典型问题治理专项行动要求各大平台企业在2024年12月31日前自查自纠,2025年1月核验自查情况,并将在2月14日前完成治理成效评估。界面新闻从市委网信办获悉,上海地方层面,本次专项行动将持续至5月。

下一阶段,市委网信办将会同相关部门,通过受理举报线索、技术核验、约谈整改、现场检查等方式开展督查督导,进一步压实网站平台算法安全管理的主体责任,对自查不认真、整改不彻底的网站平台,依法依规进行处置处罚。

未经正式授权严禁转载本文,侵权必究。