破解二代大数据杀熟,需要算法公平性

大数据 算法
在大数据场景中,交易越来越多依靠算法完成。互联网平台通过不断进阶的算法和算力,向消费者提供更为高效、丰富、精准的全领域优质服务。但在提高交易效率的同时,算法的不透明性与难解释性也给消费者权益保护与反不正当竞争带来了新的挑战。

在大数据场景中,交易越来越多依靠算法完成。互联网平台通过不断进阶的算法和算力,向消费者提供更为高效、丰富、精准的全领域优质服务。但在提高交易效率的同时,算法的不透明性与难解释性也给消费者权益保护与反不正当竞争带来了新的挑战。

[[387625]]

上海市消费者权益保护委员会呼吁,健全数字规则,尽快出台算法规制,促进平台算法公平,保护消费者合法权益。

“熟客卖高价”是初代大数据杀熟的典型特征

初代的大数据杀熟,依靠算法的简单判断。比较典型的就是“熟客卖高价”——平台对新客展示低价,对老顾客展示高价。和“熟客卖高价”相类似的还有“新人插队”,比如打网约车时,算法会判断你是不是购买了代金券,而且会让没买过券的乘客“插队”。

差别定价不一定是“错事”,多年前洋快餐经常在店门口发优惠券,对价格比较敏感的顾客会收藏优惠券以确保“便宜两块钱”。“插队”也不一定就错,比如银行的VIP客户就有权优先办理业务。消费者之所以现在对大数据杀熟如此反感,源于平台的欺骗:老顾客不奢望打折,但也不愿意被套路;购买代金券的乘客一直打不到车,将其归因于高峰期影响,基于欺骗达成的交易没有公平性可言。

个性化推送下的“千人千面”与“千人千价”

由于人工智能等新技术的运用,算法快速迭代,再加上平台对消费者个人信息的全方位收集,个性化推送成为平台主要的营销手段,而竞争的核心变成推送精准度。

其一是内容推送,基本方法就是投其所好。算法如果更聪明些,还能潜移默化地固化或是改变消费者认知。比如,消费者曾搜索过“白芝麻黑芝麻”,那么他会在很多App里接收到关于芝麻的信息推文。如果他曾在网上买过两次白芝麻,那么大概率能看到“白芝麻比黑芝麻好”的文章,如果他刚满40岁,可能会看到“40岁以后应该吃白芝麻”的“知识科普”。

其二是产品匹配,就是根据个人信息匹配相关的广告或产品。去年下半年,市消保委曾使用多个手机终端模拟不同收入群体的消费者使用相同的App,并进行一段时间的虚拟人设操作。测试发现,不同手机接收到的广告差异度极大,模拟低收入人群的手机高频度收到各类低价劣质商品和网络贷款广告。

其三是价格组合,相较于初代大数据杀熟显而易见的欺骗性差异化定价而言,基于复杂算法的价格组合更为隐蔽,也更能被合理化解释。市消保委在不同平台测试了订房、买菜等业务,不同账号的价格差异比以前更大。值得一提的是,现在的“千人千价”是由原价与各种优惠券所组成的。而这些券大部分是算法临时生成的,算法也为这些优惠券陈述了不同理由,比如“上个月你打过车”“前天你买过菜”等等。

算法公平性是消费者权益保护的核心问题

在数字经济时代,“数据赋能”已成为最主要的经济驱动力。随着数据竞争日趋白热化,也暴露出不少问题,比如二代大数据杀熟。二代大数据杀熟中的“熟”,已经不是“熟客”,而是被平台充分掌握个人信息的“熟人”。杀熟的方法就是歧视性算法,杀熟的结果就是以消费者的权益换取平台数据价值的最大化兑现。

首先,基于算法的个性化内容推送客观上会扩大个体间的认知偏差,而平台出于商业目的的算法歧视,可能打造信息茧房,侵害了消费者的知情权。其次,基于歧视性算法的产品匹配,本质上是平台对算法权力的滥用。消费者因为缺乏免受算法决策支配的“退出”权利,从某种程度上被剥夺了依法享有的选择权。其三,基于歧视性算法的价格组合,究其实质就是对消费者公平交易权的侵害。算法从接受输入数据到输出决策结果的全过程,形成外界无法获知的“黑箱”,算法在其中进行数据的处理、评估及分析,并根据具体场景作出决策。算法“黑箱”的非透明性导致二代大数据杀熟行为更加隐蔽、难以察觉。

去年12月召开的中央经济工作会议将强化反垄断和防止资本无序扩张作为今年我国经济工作的八项重点任务之一,明确要依法规范发展,健全数字规则,完善平台企业垄断认定、数据收集使用管理、消费者权益保护等方面的法律规范。为此,市消保委呼吁,健全数字规则,尽快出台算法规制。

 

责任编辑:华轩 来源: 文汇客户端
相关推荐

2021-05-14 09:57:44

大数据IT互联网

2021-06-11 18:48:23

人工智能AI

2023-09-05 10:40:20

Meta人工智能

2022-09-29 08:00:00

人工智能运输公平性

2020-12-16 08:20:59

数据多样性数据大数据

2022-08-19 09:53:20

人工智能大数据风险

2024-02-07 08:00:00

算法推荐系统BPR

2020-11-17 07:55:22

大数据杀熟

2021-07-13 19:19:57

大数据大数据杀熟

2021-04-30 15:30:54

大数据互联网数据分析

2020-02-07 15:14:23

机器学习人工智能谷歌

2023-01-19 08:00:00

2020-11-06 11:37:42

大数据技术电商

2021-08-05 11:13:47

大数据杀熟大数据分析大数据应用

2021-07-18 22:47:08

大数据电商算法

2021-11-15 10:42:55

特斯拉自动驾驶技术

2010-06-01 14:18:09

UCS数据中心3.0

2014-09-25 15:58:25

乐泰导电性芯片

2021-08-29 23:37:18

大数据电商购物

2020-12-24 10:01:54

大数据网络阿里巴巴
点赞
收藏

51CTO技术栈公众号