摘要：□ 郭旨龙 （中国政法大学刑事司法学院教授） 随着信息技术的深度发展，个性化算法推荐已经深入公民生活的方方面面，改变了人们在互联网世界中获取信息的方式。作为数字原住民，算法推荐的个性化信息匹配为未成年人高效娱乐、学习与社交提供了便利。但与此同时，由于未成年人身

转自：法治日报

□ 郭旨龙 （中国政法大学刑事司法学院教授） 随着信息技术的深度发展，个性化算法推荐已经深入公民生活的方方面面，改变了人们在互联网世界中获取信息的方式。作为数字原住民，算法推荐的个性化信息匹配为未成年人高效娱乐、学习与社交提供了便利。但与此同时，由于未成年人身心尚未发育成熟的特殊性，加上算法推荐机制本身的技术局限、平台企业的价值观错位与法律责任的落实不力等多层次原因，未成年人在强算法推荐的网络环境中正面临过度娱乐化推送和不良信息推送等问题的冲击。 算法是人工智能技术的基石之一，其治理效能已经成为衡量数字时代国家治理能力的关键维度。特别是《互联网信息服务算法推荐管理规定》通过设置未成年人保护专条凸显了重点关注青少年群体网络权益的价值立场后，如何增强平台涉及未成年人算法推荐的合法性和合规性，成为法律界和社会热议的焦点。

算法推荐的技术机制与问题

算法推荐是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法向用户提供信息的技术机制。尽管技术开发者、企业或行业组织所发布的技术白皮书中常将算法推荐表述为“价值中立”的技术工具，但其在实际运作中对未成年人的影响已超越单纯的技术应用范畴，诱发网络沉迷、制造信息茧房和危害未成年人身心健康等多个痛点日益凸显。 第一，算法推荐易诱发未成年人网络沉迷。算法推荐通过即时反馈机制和成瘾性设计使未成年人陷入“观看—反馈—持续观看”的无意识行为循环当中。部分平台甚至强制用户选择兴趣标签以延长使用时长，使未成年人在持续“刷屏”中形成高频次、高黏性的使用习惯。网络沉迷不仅会挤占未成年人的学习、社交与运动时间，还可能引发视力下降、注意力分散、睡眠障碍等生理问题。 第二，算法推荐易导致未成年人受困于信息茧房。研发及使用算法推荐系统的互联网平台企业的出发点在于追求用户的高留存率和高使用时长，往往倾向于不断优化推送策略，通过“点击越多—推送越类似”的闭环来强化既有兴趣标签。一方面使得信息推送的高度同质化，另一方面将点击量作为评判推送价值的唯一标准会使得益于青少年成长的有价值内容占比不断衰减。被困于推荐算法所制造的“围城”中的未成年用户很难突破被技术性设定的兴趣边界，批判性思考的能力被削弱，最终成为“单向度的人”。 第三，算法推荐易导致未成年人身心健康受到侵害。网络世界的信息良莠不齐，低俗信息、虚假合成信息、煽动性信息等有害信息可能通过算法推荐机制呈现在青少年的智能终端。一方面，部分平台为提高用户黏性，对具有感官刺激性但又语义模糊、图像隐晦，能够逃避监管的有害内容实施流量倾斜，使这些有害内容呈现在未成年人面前。另一方面，利用生成式人工智能技术生成的深度伪造视频、虚假科普内容、虚假新闻等内容在相关标识及传播规则尚未得到充分落实的情况下，借助算法被大肆推送，极易扰乱未成年人对真实世界的感知。此外，平台为攫取流量或来自第三方的经济利益，通过炒作和推送热点来放大煽动性信息的情况也可能加剧未成年人的焦虑抑郁情绪或引发模仿行为。

算法推荐问题的主要原因

第一，算法推荐风险的滋生来源于算法黑箱的技术局限与制度庇护。技术性黑箱导致平台即便有治理意愿，也难以彻底规避算法偏差。更深层的矛盾在于制度性黑箱，平台常基于算法“商业秘密”的定性而拒绝公开算法参数，将其作为规避透明度及可解释性义务的理由。 第二，算法推荐风险的裂变被资本逻辑主导下的价值冲突加剧。平台从商业利益出发，将利润追求置于对未成年人身心健康的保护之上，在算法伦理建设滞后于技术创新时，资本主导下的价值异化会加大电子游戏、短剧等高商业价值内容的投放。 第三，算法推荐风险治理未能得到充分保障的根源是现有相关法律规范的适用逻辑未予充分厘清。网络安全法、《未成年人网络保护条例》《互联网信息服务算法推荐管理规定》等一系列规定中的部分条文较为笼统和模糊，导致实际落地存在困难，还需进一步细化和挖掘可操作性标准。

算法推荐问题的完善建议

算法推荐技术对未成年人网络权益的侵蚀背后存在多维复杂成因，难以通过单一维度的治理模式得到破解。有必要依托现有算法规范，着力构建技术突破、社会协同与法律规制有机联动的协同治理机制。 （一）优化平台技术治理路径 第一，平台应完善算法推荐机制下的防沉迷技术性措施。在平台的娱乐领域嵌入有效的未成年人识别机制，进而在准确识别身份的基础上限制其使用时长，以抵消算法推荐的成瘾性所带来的不利影响。 第二，平台应在技术上保障算法推荐信息的合法性、合规性，并满足基本的内容推送质量要求。一方面，平台应加大对有害信息的技术性审查及过滤力度。及时发现有害及违法信息并予以处理，及时发现生成合成信息并予以显著标识。另一方面，平台应通过技术性设计，提高推送内容的多样性，防止信息过度同质化和低质化倾向。 第三，平台应在技术上保障未成年用户就算法推荐服务的知情权和自主选择权。最低限度是平台不得将违法和不良信息关键词设置为用户标签。在此基础上，可考虑要求平台提供针对用于内容推送的个人兴趣标签的编辑功能。同时，平台应设定针对未成年用户默认关闭算法推荐服务的义务，或至少应提供易于未成年用户发现的关闭入口及易于操作的关闭流程，以保障其自主选择是否使用个性化推荐服务的权利。 （二）构筑社会协同治理屏障 第一，家庭作为影响青少年网络行为的第一道防线，需在数字时代相对应地提升监护能力。监护人应通过掌握基础设置工具主动介入算法推荐环境的管理，建立与青少年数字成长需求相匹配的监护模式，实现从被动应对到主动引导的角色转变。 第二，对于学校而言，应当将网络素养教育纳入学校素质教育内容。在基础教育阶段可开设网络素养通识课程，引导未成年人建立对算法操纵的警惕性与防护能力。高等教育机构则应对计算机相关专业的学生加强算法伦理教育。 第三，互联网行业组织应加强行业自律，考虑将未成年人网络权益及发展权保护作为制定相关行业规范或行业标准的理念指引，推动形成“底线合规+伦理引领”的行业治理范式。 （三）强化算法权力制度约束 第一，作为破解“黑箱”的利器，算法透明原则要求平台推荐算法在涉及未成年用户时实施强制性透明度及可解释性标准。 第二，作为算法透明义务的延伸和履行途径之一，算法备案原则要求，将以未成年人为主要或重要服务对象的算法推荐服务提供者纳入应履行备案义务的主体范围。 第三，作为当前算法治理的重要工具，算法影响评估制度要求建立算法分级分类安全管理制度。其中，涉及未成年人的推荐算法具有敏感性，应被归于高风险级别，进而匹配更为严格和完整的影响评估程序。

来源：新浪财经