算法是个黑箱,让它“透明化”是不够的

我们的生活越来越被一种叫做“算法”的东西决定。

你在搜索引擎键入关键词,出来什么结果、按照什么顺序排列,是由算法决定的;你在微博和今日头条上刷出什么文章和广告,也是算法决定的;你打网约车、听歌、购物,往往都有算法的参与……在一些国家还出现了用算法来判案,用算法来决定是否拘捕一个人。《人类简史》的作者赫拉利甚至还预测:未来你的伴侣可能也是由算法计算,然后推荐给你的。

简单理解,算法就是由计算机自动执行的一套规则。它在人类社会中扮演的角色越来越重要,但人们对算法还知之甚少。而这自然是很危险的:如果我们不了解算法,它就可能被用于侵害我们的权益、伤害社会正义,而我们可能对此毫无察觉。

因此,近年来,有越来越多人呼吁:科技公司应该打开算法这个“黑箱”,让算法透明化,接受公众监督。比如,Facebook让哪些内容出现在人们的时间线上,他们是怎样决定的?为什么有时候会推荐假新闻?要不,公开代码给大家看看?

不过,美国南加州大学的两位研究者在传播学期刊《New Media & Society》上发表的一篇论文认为:仅仅讲“算法透明化”是不够的,甚至可能会让人误入歧途。

他们说,呼吁透明化,是因为人们理所当然地认为:当人们看见了一个东西,自然就有机会和义务去监督它。简言之,透明化带来一种掌控感。

然而,这样的想法是存在漏洞的。两位研究者总结了“算法透明化”的10大局限性。

第一,透明度和权力可能是脱离的。看见了,并不一定意味着能够采取行动。比如,在某些独裁国家,民众能够看见腐败,但也无济于事,因为民众什么都做不了,这样反而会助长犬儒心态。如果人们不能及时处理、消化、运用那些被公开的信息,那透明了也是白搭。

第二,透明化可能有副作用。有时,极端的透明化会让那些边缘化的反抗群体被暴露。商业公司则经常指出:算法透明化可能会使得一些人利用系统的特性来作弊。

第三,透明化有时反而会遮蔽真相。当信息过多、无用信息淹没了有用信息的时候,透明化可能适得其反,让人找不到头绪。

第四,透明化会制造一种二元对立的思维。信息的封闭和透明并不是非黑即白的选择,不是只有“完全黑箱”和“完全透明”两种选择。比如,斯诺登在曝光NSA的监控项目时,就没有直接向公众发布,而是选择与自己信任的、有能力解读这些信息的记者合作。

第五,透明化会过多强调个体责任。透明化假定的前提是,人人都能理解被公开的算法,并进行有意义的讨论。但这是过于理想化的设想,是不可能实现的。两位研究者将其称为“新自由主义模式的个体能动性”,即把重任都施加在个人身上。

第六,透明并不一定带来信任。信任是双向的。达芬奇拒绝发布早期潜水艇设计的详细手稿,因为他害怕被坏人用来制造水下暗杀。一些开发者不希望公布算法,不是因为商业秘密,而是不想被某些人利用。

第七,透明化可能让一些专业人士圈定自己的领域,拒绝公众参与和监督。即便是公开的信息,也可以被专业群体利用起来,塑造自身权威,甚至被利益集团腐蚀,通过对公开信息的曲解操作,为他们代言。

第八,透明化可能会让“看见”比“理解”更受重视。看见了黑箱里面,不代表理解了它的原理。要理解算法,仅仅看见一行行的代码是不够的,还要学会与它们互动。

第九,透明化是有技术方面的局限性的。算法越来越庞大、复杂,以至于在科技公司开发算法的过程中,出现了很多连程序员自己都无法理解的结果。如果他们自己都理解不了,那么公开给大家,也没什么用。

第十,算法有时间上的局限性。算法在不断变动中,看见了当下的算法,不代表能够预见未来的算法怎样运转。

两位研究者列举出这些局限性,并不是想说:透明化的方向是错误的。其实,他们的意思是:仅仅依赖“透明化”,不足以真正监督算法。他们想做的,是在透明化的基础上更进一步,想办法避免以上这些问题。

他们认为,我们要做的不是“朝系统里面看”,而是“将不同的系统结合起来看”,其中包括在这个系统中的人,也包括代码、机器等非人类元素。

比如说,如果透明化之后,人们还是没有足够的权力去监督,那么我们就应该重视:如何去改变不对等的权力关系,而不是仅仅停留在透明这一步。再比如,如果透明化导致有效信息被淹没,那么关注的重点就应该放在:系统是如何在信息过载当中,有意转移我们注意力的。如果连程序员自己都搞不懂算法的结果,那我们应该考虑的就是:是不是要推迟算法的应用时间,留出更多的时间给开发者,甚至,是否根本就不应该来开发这样一套系统?

总之,这篇论文指出的是透明化的局限性,而不是它的错误性。研究者认为,我们应该对算法有更多了解,而不能只停留在要求算法透明化这一步。

虽然文章说的是算法,但其实我们也可以联系到其他领域。无论在哪个领域,“透明化”都不是一个完全能实现监督的方式。

本文系网易新闻·网易号“各有态度”特色内容。

参考文献

  • Ananny, M., & Crawford, K. (2018). Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. New Media & Society, 20(3), 973-989.

欢迎分享。如需全文转载,请阅读版权声明

回到开头