热门标签

首页宏观正文

“算法严监管”时代来临:四部委新规剑指平台“大数据杀熟、二选一”

作者:程阔

来源:华夏时报

发布时间:2022-01-05 20:22:07

摘要:北京高勤律师事务所合伙人王源对《华夏时报》记者表示:“算法一定程度上决定了信息的内容,决定了用户能看到了哪些信息,将对舆论、价值观产生影响。因此,算法单独剥离出来进行规范是十分必要的。未来3年,算法将是一个被监管的重点。”

“算法严监管”时代来临:四部委新规剑指平台“大数据杀熟、二选一”

华夏时报(www.chinatimes.net.cn)记者 徐芸茜 见习记者 程阔 北京报道

大数据时代下,算法成为连接人和虚拟世界的枢纽。而算法的不规范使用也导致了算法歧视、信息茧房、大数据杀熟、饭圈文化、诱导沉迷等问题。

1月4日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(下称《规定》),自2022年3月1日起施行。

值得注意的是,算法推荐服务被从互联网应用中单独剥离出来为其单独制定管理规范,实属国内首次。

北京高勤律师事务所合伙人王源对《华夏时报》记者表示:“算法一定程度上决定了信息的内容,决定了用户能看到了哪些信息,将对舆论、价值观产生影响。因此,算法单独剥离出来进行规范是十分必要的。未来3年,算法将是一个被监管的重点。”

“对算法单独剥离出来进行规范,即是规范算法推荐行业的客观需求,也与国外实践相一致。”西南政法大学数字经济与法治研究中心研究员邓若翰告诉本报记者。

此外,《规定》还对“大数据杀熟、诱导沉迷、二选一”等问题做出了相应规定。

为何对算法单独剥离出来进行规范?

算法被单独剥离出来进行规范实属国内首次。

据了解,目前算法推荐技术是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。但算法自身的特质导致了一系列的问题。

算法根据用户兴趣将大量同质化内容被推送给用户,用户长期只能获取有限来源和单一倾向性的信息,导致用户被束缚在“信息茧房”中;而算法机制的不完善,导致外卖骑手在算法的“逼迫”下,陷入了“送餐只能越来越快、越来越不顾自身安全”的困局;而兴起“电饭煲测试”,则是暴露了电商平台上的算法歧视。

邓若翰表示:“算法系统因其自身在形成、运转和更新层面的诸多特质,其具有一定程度的独立性。”

他从技术层面向记者指出:“机器学习算法的培育更多采用‘设计者输入训练数据,算法自主学习这些数据’的方式进行,因此,即使算法的设计者也仅能掌握输入算法的数据,而无法把握算法学习的结果;其次,算法在运营过程中,通常会根据市场产生的新信息和自身输入的数据进行自我更新,进而保证其对于市场环境变化的适应性,但这也使得算法的更新和发展在一定程度上不受算法设计者和运营者的控制。而算法黑箱的存在使得算法的设计者和运营者仅能把握算法的输入数据和输出结果,而具体的分析和决策过程则难以被设计者和运营者知晓。”

“倘若不对算法进行单独的规范,并针对算法系统的特征设计相应的监管措施和风险防范规则,那么仅对算法运营企业进行约束的规制模式更多容易陷入‘隔山打牛’的窘境,即企业不仅不知道该如何约束算法,同时也倾向于将算法引发的问题归咎于‘技术失灵’,进而免除自身的管理责任。”邓若翰指出。

此外,邓若翰还认为,“算法推荐引发的信息茧房、思维诱导等问题已逐渐对整个社会公众的舆论、文化和价值观念产生影响,进而具有一定的公共属性,这也是监管部门应直接对算法予以规制的重要原因。”

禁止“大数据杀熟、诱导沉迷、二选一”等

算法作为互联网时代的产物,其双刃属性带来了正反两方面的影响,如何扬长避短,发挥其正面效果成为重点。

目前,我国已对网络安全、数据安全、个人信息安全等作出相关顶层设计。

在2020年印发的《法治社会建设实施纲要(2020-2025年)》中提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。而随后陆续出台了《网络安全法》《数据安全法》《个人信息保护法》等法律和《关于加强互联网信息服务算法综合治理的指导意见》等政策文件。

而此次《规范》从信息服务规范和用户权益保护两方面制定了详细的规定,避免算法的负面效果。

国家互联网信息办公室有关负责人表示:“出台《规定》主要基于以下两个方面的考虑:一是深入推进互联网信息服务算法综合治理的需要。二是积极促进算法推荐服务规范健康发展的需要。”

针对“二选一”的问题,《规定》第十六条明确了算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制,或者妨碍、破坏其合法提供的互联网信息服务正常运行,实施垄断和不正当竞争行为。

“大数据杀熟”的问题在第二十一条也作了明确规定,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

此外,对向未成年人、老年人、劳动者和消费者等主体提供算法推荐服务的,《规定》的第十八、十九、二十明确了具体要求,如不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,以及不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

算法驱动行业将迎来洗牌

“《规定》的出台意味着算法推荐相关行业开始迈入‘算法严监管’的时代。”邓若翰表示。

以算法驱动的企业势必要面临成本提升和盈利被压缩的情况。他表示:“《规定》提出的算法安全主体责任、算法评估验证机制、信息安全管理机制等算法管理机制以及算法解释义务、自然搜索结果提供义务等义务,必将在很大程度上提高算法驱动公司的合规成本。大数据杀熟、信息茧房等问题的扼制亦在一定程度上限缩了算法驱动企业的盈利空间。”

“企业正从数据驱动向算法驱动的转变,现在并不是数据掌握了多少,而是谁的算法更为先进、有效。”王源向本报记者点出此类企业的现状。

如何寻找新的、规范化的盈利增长点亦成为摆在算法驱动公司面前的难题。

邓若翰认为,“可以预见,相关公司必然将迎来‘阵痛’,在此期间,资金基础薄弱的、营利模式不成熟的、算法系统不完善的企业可能面临被淘汰的可能。”

邓若翰还补充道:“《规定》的出台仅仅是走出了算法规制的第一步,其中算法评估验证、算法解释等部分机制存在规定较为模糊的问题。要充分发挥《规定》的制度功效,标准化必然成为下一步亟待解决的问题。譬如,算法推荐服务的‘基本原理’包括哪些,应解释到什么程度,‘适当方式’包括哪些方式等等,均有待进一步完善。”

贵州数据宝产品研究院院长李可顺告诉《华夏时报》记者:“市场监督需要有效,必须企业整个运营过程及数据需要足够透明。算法设计的技术多样性、计算过程复杂,且部分算法解释性差,无法足够透明,会影响市场监督的有效性。”

不过,记者了解到,目前我国并没有算法的相应标准和实施准则。因此,“算法规制”的时代已来,但仍还有很长一段路要走。

责任编辑:徐芸茜 主编:公培佳

查看更多华夏时报文章,参与华夏时报微信互动(微信搜索「华夏时报」或「chinatimes」)

(0)收藏(0)

1
ArticleMeta Object ( [_new:CActiveRecord:private] => [_attributes:CActiveRecord:private] => Array ( [id] => 113817 [article_id] => 113819 [source] => 华夏时报 [allow_comment] => 1 [show_column] => 0 [editor] => [{"editor_nickname":"徐芸茜","update_time":1641376265}] [url] => [remark] => [create_time] => 1641376265 ) [_related:CActiveRecord:private] => Array ( ) [_c:CActiveRecord:private] => [_pk:CActiveRecord:private] => 113817 [_alias:CActiveRecord:private] => t [_errors:CModel:private] => Array ( ) [_validators:CModel:private] => [_scenario:CModel:private] => update [_e:CComponent:private] => [_m:CComponent:private] => )

评论