一场算法的攻防战

B站影视 2025-01-06 16:34 2

摘要:算法作为一种技术,本身是中性的,其在互联网生活中发挥怎样的作用,取决于控制算法的平台和人。时至今日,公众之所以担心被算法算计,既与平台算法应用过程中带来的系列问题有关,也与公众对平台算法不了解、无法参与监督有关。因此,推进算法公开、透明化,是完善算法治理的重要

中国战略新兴产业融媒体记者 卜文娟

算法作为一种技术,本身是中性的,其在互联网生活中发挥怎样的作用,取决于控制算法的平台和人。时至今日,公众之所以担心被算法算计,既与平台算法应用过程中带来的系列问题有关,也与公众对平台算法不了解、无法参与监督有关。因此,推进算法公开、透明化,是完善算法治理的重要一步。

2025年伊始,算法治理进入提速期。

1月3日,抖音、小红书、拼多多等多家网络平台发布算法典型问题治理专项公告,推进算法和平台治理透明化。

当前算法应用生态日益规范,但仍存在一些需要持续加强治理的典型问题,大数据“杀熟”、违规操纵干预榜单炒作热点,甚至制造非理性情绪化表达等案例屡见不鲜。伴随着整治算法滥用的专项行动的加速推进,这些网络平台算法典型问题,有望得到解决。

多家平台发布专项公告

“算法是一把‘有善有恶’的‘双刃剑’,要看人怎么用,但是人性和商业的准则,往往会共同把它推向恶的一边。在这样的情况下,每个人都无法躲避。”2024年12月22日,在浙江大学城市学院举行的“2024中国视频节目年度掌声·嘘声”发布活动现场,中央广播电视总台主持人白岩松表示。这场活动上,年度唯一的“嘘声”指向了“算法乱象”。

事实上,“算法乱象”已经引起了相关部门的重视。2024年11月,四部门发布开展“清朗·网络平台算法典型问题治理”专项行动,重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改,进一步提升算法安全能力。

近日,企业的自查自纠工作也在进行,多家网络平台发布了关于算法典型问题治理的专项行动公告。

抖音方面表示,在加强内容推荐多样性方面,将持续完善推荐算法,通过加强内容多样性探索机制、兴趣探索和匹配、搜索推荐联动、社交好友推荐等,补充各类推荐信号来源,尽可能多地满足用户长尾兴趣探索和覆盖;通过增加重复内容过滤,着重解决内容消费“密集感”的问题。

小红书公告表示,用户可在小红书App内了解个性化推荐算法的运行原理,并可自主开关个性化推荐功能。若用户想增加或过滤具体类目标签内容可进入功能页面进行自主调节,该功能赋予用户查看、修改、删除及增加兴趣标签的能力,可通过调节内容偏好标签影响首页双列信息流中的推荐内容强度,增强用户对内容选择权与知情权。

拼多多则表示,将结合平台实际情况,从以下四个方面展开算法问题治理:一是深入整治“信息茧房”、诱导沉迷问题;二是严禁利用算法实施大数据“杀熟”;三是增强算法向上向善服务保护网民合法权益;四是落实算法安全主体责任。

不断优化算法

算法作为一种技术,本身是中性的,其在互联网生活中发挥怎样的作用,取决于控制算法的平台和人。时至今日,公众之所以担心被算法算计,既与平台算法应用过程中带来的系列问题有关,也与公众对平台算法不了解、无法参与监督有关。因此,推进算法公开、透明化,是完善算法治理的重要一步。

“各大平台都在使用算法,算法并没有那么复杂和神秘。但算法的科普做得不好,透明度不够,同时对于谣言与网暴识别与打击力度不够,这个确实是我们平台公司需要加强的。”2024年12月初,抖音集团副总裁李亮在个人微博发文称,平台内容治理的难点是如何识别谣言。

据悉,在推进算法透明化方面,2025年,抖音将面向社会全面深入地公开抖音的算法基础运作原理、运营机制,也将对外公布各类热点榜单的计算原理和机制,提高透明度。

同济大学经济与管理学院副教授邓弘林曾撰文指出,不同领域和应用场景下,算法所面临的风险和挑战不同,因此监管框架应具有灵活性和差异化设计。比如,在金融、医疗等高度敏感的行业,算法应用的监管应更加严格,重点关注算法的透明性、可解释性、数据隐私保护以及避免歧视和偏见等问题。而对于娱乐或社交平台的推荐算法,监管的重点则可以放在防止信息误导以及防范过度依赖算法等方面。通过灵活设计监管框架,不仅能确保创新在不同行业中的适用性,还能在关键领域有效管控潜在的社会风险。

其实,推进算法公开、透明化的同时,更重要的是要履行平台的社会责任,不断优化算法,以算法的优化来助力破解互联网空间的种种乱象。

邓弘林认为,算法治理现已成为全球性挑战,在算法治理的过程中,面对技术发展、平台责任和公众信任等多重挑战,政府、企业、学术界及公众应共同参与,采取综合性的应对策略。通过加强法律法规建设、推动行业自律、增强公众参与等多方面的努力,为算法的健康发展提供坚实的基础。只有在确保算法技术创新的同时,妥善应对潜在的社会风险,才能实现技术与社会的和谐共进。

工信部信息通信经济专家委员会委员盘和林表示,从参与者角度来说,需要让平台企业和AI应用技术开发企业都参与到规则制定中来,找到算法治理的可行方案,形成法治红线的行业共识。从治理手段角度来说,需要以发展算法技术为根本的监管技术,如识别AI生成内容真假的监管AI等。

算法治理行动正在加快推进

当下,算法治理已是行业共识。

其实,从2021年9月九部门印发的《关于加强互联网信息服务算法综合治理的指导意见》,到2022年1月份多部门发布的《互联网信息服务算法推荐管理规定》,再到《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》,国家层面对算法技术的规范正不断完善。

复旦大学管理学院信息管理与商业智能系教授张成洪撰文表示,当算法决策或应用结果损害特定主体权益时,由于规则和原则不明确,可能导致利益救济不足的风险;滥用或误用算法也是一个潜在的风险,算法产生的决策效果可能会破坏社会的公正和社会凝聚力。因此行业迫切需要对AI算法进行有效的治理。

专项行动展开后,北京、上海、广东等地纷纷开设相关线索举报渠道。

近期,北京市委网信办牵头组织开展了北京市算法治理专项行动,此次行动主要针对同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”以及算法向上向善服务缺失等问题。

目前,算法治理行动正在加快推进。下一步,北京市委网信办将出台实施方案,通过现场检查、整改情况复查、算法机制公示、合规指引培训等方式,推动行业共治和企业自治,持续提升治理水平,打造更加健康的网络生态。

1月3日,深圳市委网信办组织召开属地平台算法专项治理工作推进会议,会议要求,属地网站平台要以专项行动为契机,落实算法治理主体责任,对照重点任务深入开展自查自纠,加强风险防控和隐患排查治理,健全算法透明机制,贯穿科技向善理念,推动算法健康发展。

下一步,深圳市委网信办将健全部门联动长效机制,通过举报线索受理、现场督导检查、整改情况复查、算法合规培训等措施,进一步压实平台主体责任,推动算法治理走深走实,切实保障广大网民合法权益,促进互联网信息服务健康有序发展。

此前,上海也开展了“清朗浦江·网络平台算法典型问题治理”专项行动,积极受理网民举报反映的算法乱象问题,并且上海市委网信办还发布了算法典型问题举报指引。上海市委网信办还向网站平台下发了《算法治理专项行动企业自查问题清单》,要求各企业进一步对照排查安全风险,依据问题复杂程度有序推进整改工作。

清华大学服务经济与数字治理研究院副院长高宇宁称,当前,算法治理的核心挑战在于,算法的控制权主要集中在少数平台手中,监管部门难以施展更为多元和细致的技术手段开展监管,相比过去,未来的治理工作可能更像是一场算法的攻防战。

来源:中国战略新兴产业一点号

相关推荐