朱婧

打开手机上的购物软件，同类商品琳琅满目怎么选择，根据你近期的点击偏好，“销售量的榜单”或许能帮你快速抉择；打开阅读新闻的软件，“今日热搜”早已把点击量较高的内容推荐给你；在一些公司，算法正按照编程者的设计和要求，筛选着一份份应聘简历，比起人工作业，可谓高效……算法像一个无形的精灵，每天运行着，记录搜集着你的信息、偏好、搜索记录，服务于你的工作生活。

以普遍适用性为现实难题提供最优解，这是算法背后的思路，无论是算法规则的设计者，还是应用算法的平台服务商，大多秉持算法“中立论”，认为算法并不承载任何价值观，是中立的，算法产生何种效用关键是看算法是被怎样使用的。但，事实真是这样吗？如果算法把有水分的“高销量”商品推送给你，把迎合猎奇心理的不良信息推送给你，那么量化的那些算法就开始影响用户的信任度、好感度，又或者，算法设计本身就有性别筛选功能，筛选简历都存在着性别歧视，那么看起来人畜无害，却在产生着不公的结果和对某些人群的歧视。

可见，算法的设计逻辑是承载着价值观的，也会潜移默化影响人们的价值观。从算法应用于新闻领域的角度看，给用户推荐的信息内容，以点击量、点赞数来置顶某些新闻，因为把关人角色的缺失，新闻的内容、图片等会直接影响用户的关注点、情绪，网友的声音和评论或许还会继续发酵，影响用户的观念和思想；一些媒体可能因为这样的结果反馈，又不可抑制地持续使用吸人眼球的标题和低俗内容，2017年今日头条的“头条问答”因讨论低俗话题被北京网信办约谈。当算法应用于商业环节，给用户推荐商品，企业为了扩大利润，提升用户黏性，一些算法“杀熟”，一些算法利用用户的购买信息诱导消费，影响用户的购买习惯和消费行为。曾经饱受热议的新闻“被困在代码里的外卖小哥”让人们开始意识到，算法的使用和效果评估问题兹事体大。在类似场景中，算法本致力于提供的最优解，却因为一些动机或设计缺陷变成了“代码困境”。

应当看到，“算法中立论”只是一种工具理性的视角，算法在设计层面其功能就有局限性，不可能覆盖所有样本，算法功能愈发强大，对人们工作生活场景的渗透性越强，如果再与商业利益挂钩，其作用范围就会突破基本的工程应用场景，不可避免地延伸到与人相关的社会环境中，影响人的情绪、观念、思想、关系、行为，算法的技术问题很容易就会演变为社会问题，更重要的是责任主体难以认定。

所以，这一领域亟需更多的介入和积极的干预。近日出台的《互联网信息服务算法推荐管理规定》指出，要定期审核、评估、验证推荐服务提供者算法机制机理、模型、数据和应用结果等，确保互联网企业既有章可循，也始终在监督下运行。监管，这既是把治理关口前置，也说明算法应当是服务于社会公众，体现公共属性，通过加强治理，才可能有效引导算法的应用从个性化服务到以人为本。