据上海市政府消息, 昨日,第三届上海反网络暴力大会在沪举行。大会以“共建向上向善和谐网络生态”为主题,由监管部门、互联网平台、主流媒体及专家学者等各界代表共同参与,深入探讨应对网络暴力新挑战的系统性治理策略,旨在强化“网络空间不是法外之地”的社会共识,探索数字生态建设的上海样本。
AI技术发展带来了新的治理挑战。抖音安全副总编辑全森指出,AI合成内容攻击成为平台治理的新难题,其表现形式更多、扩散更快、范围更广,对平台识别审核能力提出更高要求。
“饭圈”相关场景是当前网络暴力的高发区。平台代表反映,尤其在体育赛事期间,运动员表现易引发极端言论。咪咕视讯为此建立了“三级防控+专项治理”模式与敏感识别模型,构建“预防—监测—处置—评估”全链路治理体系。
监管部门已将整治“饭圈”乱象列为工作重点。2024年以来,上海网信部门针对网暴问题突出的“饭圈”领域,尤其是其向体育、游戏等领域蔓延的趋势,开展专项整治,指导平台发布治理公告并制定《上海属地网站平台饭圈网暴治理参考指引》,提供可操作的治理建议。
平台强化热点事件关联治理与用户防护。小红书和B站等上海属地重点平台,对社会热点保持高度敏感,结合人工审核与技术模型,及时拦截人身攻击、隐私泄露等内容。同时,平台推出“一键防护”功能,在评论、私信等环节减少陌生人骚扰,构建清朗生态。
法律界代表强调网络暴力治理需多方“协同共治”。为此,上海市互联网业联合会、澎湃新闻和大成(上海)律师事务所于大会现场联合宣布建立上海反网暴平台,旨在为网络暴力受害者提供舆论支持和法律服务。澎湃新闻总编辑刘永钢表示,主流媒体应发挥链接各方的优势,勇担系统责任。