“算法归零”能否解决算法不公

信息来源: 中国法学创新网 发布日期: 2022-03-29 浏览次数: 10

 近年来,人们在享受以人工智能为代表的数字世界带来的便利同时逐渐发现,自己日益被智能背后的算法所支配。自2018年以来,“大数据杀熟”等事件频频见诸报端,主要表现为会员用户的价格比非会员用户更高、老用户的价格比新用户更高、同一商品的价格随着搜索次数的增多而涨价、下一次购买同一商品的价格比上一次更高等。如何解决类似“大数据杀熟”等人工智能带来的算法不公问题?有人认为,“算法归零”可以解决算法不公问题。笔者认为,这值得商榷。

  算法归零是不考虑用户的个人特征而作出的计算结果,但事实上,算法无法彻底归零。在数字世界中,许多业务的开展是以必要的数据利用为前提,脱离了一些基础数据,相关业务将无从开展。比如,有的银行在为个人提供网络信贷业务时,会根据用户的征信记录、已有贷款金额、持有的信贷银行卡数量等信息而自动计算个性化的贷款利率,若不得利用个人相关信息,则贷款利率将无从确定,或只能提供利率最高的选项。其次,算法归零未必能得到“公正”的算法结果。以“大数据杀熟”为例,假如会员用户界面呈现的商品价格比非会员用户更高,那么当企业提供不针对其个人特征的选项时,企业应向会员用户提供何种价格?是会员用户价格,还是非会员用户价格?因此,算法归零对实现保护用户权益的立法目标并不一定大有裨益。第三,用户利益是否因算法而受损,不应仅着眼于个体用户,还应考虑整体的用户。换句话说,类似于“大数据杀熟”等算法虽然有弊端,但也给人们的生活带来了诸多便利。最后,算法是否公平合理,取决于复杂的伦理、经济、学问等因素的综合衡量,而非简单的算法归零就能解决问题。因此,期待通过算法归零来解决算法不公问题,恐怕难以实现。

  当然,在立法层面,我国已进行了相关探索。比如2018年颁布的《中华人民共和国电子商务法》第十八条第一款规定:“电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项,敬重和平等保护消费者合法权益。”2020年出台的《在线旅游经营服务管理暂行规定》第十五条规定,在线旅游经营者不得滥用大数据分析等技术手段而设置不公平的交易条件,侵犯旅游者合法权益。《中华人民共和国个人信息保护法(草案)》也针对基于算法的自动化决策行为,提出了多项要求,包括事前风险评估、保证决策透明度和处理结果的公平合理,以及同时提供不针对个人特征的选项等规则。电子商务法、个人信息保护法草案都规定了网络平台负有向用户同时提供“不针对个人特征选项”的义务,但后者将电子商务法中仅适用于电商领域针对搜索结果的要求,扩展到适用于所有商业营销和信息推送中的自动化决策行为。这大大扩展了该规则的适用范围,也将显著提升该规则的影响力。


XML 地图 | Sitemap 地图