余国鹏

2021年“双11”前，一则消息引起了广大网友的注意：据淘宝直播原负责人表示，要判断自己的购买力，在淘宝搜索“电饭煲”即可，如果“前四个价格低于300元的，基本都是淘宝认证的屌丝。”网友们纷纷亲身试验，发现尽管结果未必都能准确地反映购买力水平，但自身已经被贴上了“购买力高”“购买力低”等标签。这是一种真实的算法歧视现象，近年来在很多领域已经有所表现，值得引起警惕并及时采取措施进行矫正。

不少人认为，算法、网络程序有其本身的运行规则，不具有感情色彩，对所有人来说都应该是客观公正的。但事实上不是这样，尽管算法有自己的语言，但其运行规则还是由人来制定，其本质是社会规则的代码化，人类社会的多种特质包括“潜规则”等都会在算法世界里有所映射。同时，相比人类社会，算法歧视更为隐蔽，不易发现，在潜移默化间影响和改变着人们的工作和生活；更为冷酷，绝对理性，把不符合规则的群体完全排斥在外，绝无“通融”的可能。算法歧视就像一堵堵“墙”，一方面把不同群体的人按规则分割开，一方面又不断推动墙内的人认同其规则，这被认为是现代化、数字化发展带来的一大弊端。

算法歧视让很多人深受其害，比如“大数据杀熟”“性别歧视”等。同一个购物网站，同一款商品，对于不同的用户显示不同的价格，常常是“回头客”“熟客”的价格更高；人力资源部门在用算法系统筛选简历时，同等条件下男性求职者打分更高，或者推送消息时，更多推送给男性求职者；通过算法诱导用户沉迷冲浪、过度消费……这些人为造成的算法歧视，严重损害了消费者、求职者的权益，降低了个体平等参与社会生活的机会，剥夺了个人自我决定权，破坏了信息的多样性，对于社会的公开、透明、现代化发展都是有害的。

为推动解决这些备受诟病的算法歧视问题，近日，国家网信办、工信部、公安部、国家市场监督管理总局四部门联合出台《互联网信息服务算法推荐管理规定》，明确算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

通观《规定》，“公平”是贯穿始终的一大原则。消除算法歧视，应更加注重将公平嵌入算法伦理设计。从企业的营利性出发，根据消费者浏览网页、购买习惯等来调整商品价格可大幅增加企业利润，但这一做法损害了消费者利益，同时损害了社会公平。消除算法歧视，其实就是要在企业盈利和社会公平之间寻找平衡，让企业在实现经济效益的同时，也更加注重社会效益，强化正向引领带动作用。从这一点上看，事后的法规处理较为滞后，覆盖也不够全面，可加强事前监管，要求设计者在设计阶段严格遵守相关法律和准则，并通过计算机语言将公平原则嵌入到算法的全生命运行周期中，让公平时刻发挥作用。