【编者按】网络空间绝非法外之地，内容安全是平台不可推卸的责任。新加坡资讯通信媒体发展局最新报告剑指两大社交巨头——X与TikTok，揭露其在儿童性剥削材料与恐怖主义内容管控上的严重漏洞。当算法失守、审核失灵，我们的孩子可能正暴露在危险的数字阴影下。这份报告不仅是一记警钟，更是一次对全球平台责任的拷问：科技向善不应只是口号，而必须是嵌入产品基因的底线。以下为报告核心内容编译，每一个数据都值得深思。
新加坡讯：资讯通信媒体发展局因发现X平台与TikTok在侦测及移除有害网络内容方面存在“严重缺陷”，已向两家平台发出警告信，并将其置于强化监督之下。
该局于3月31日发布的《2025年线上安全评估报告》发现，X平台未能有效处理儿童性剥削与性虐待材料，而TikTok在侦测和移除涉恐内容方面存在严重不足。
根据资讯通信媒体发展局说明，警告信旨在对受监管实体在监管中发现严重缺陷予以谴责，并要求其采取措施解决这些问题。
在强化监督措施下，两家平台必须定期向资讯通信媒体发展局汇报整改措施进展，直至监管机构认为问题得到充分解决。
CNA 游戏 猜词游戏 逐行破解单词 热词拼拼乐 用给定字母组词 迷你数独 小巧谜题，烧脑挑战 迷你填字 小格子，大挑战 单词搜索 找出尽可能多的单词 显示更多 显示更少
整改措施包括利用人工智能加强侦测系统，并考虑不良行为者为针对新加坡用户所使用的特定暗语和手法。
资讯通信媒体发展局表示，两家平台也已同意培训人工审核员，以更好地识别涉及新加坡的儿童性剥削材料与恐怖主义内容，并改善与技术社群及监管机构的信息共享。
他们必须在6月30日前向资讯通信媒体发展局提交支持性数据和信息，以证明其整改措施的有效性。
该局声明：“若X或TikTok未能使资讯通信媒体发展局确信其已提升措施效能，以处理该局侦测到的特定类型儿童性剥削材料与恐怖主义内容，本局将毫不犹豫地探索进一步选项，包括可能依据《广播法》采取监管行动。”
根据新加坡《广播法》，违规者可能面临最高100万新元的罚款，连续违规还将面临额外罚款。
资讯通信媒体发展局表示，两家平台均已接受该局的调查结果，并承诺整改问题。
有害内容激增
资讯通信媒体发展局发现，X平台未能遏制涉及新加坡用户的儿童性剥削材料案件激增。尽管监管机构已于2024年告知该平台此问题并分享了侦测指标，此类案件数量仍从2024年的33起增加一倍以上，至2025年的73起。
涉及分享或链接至儿童性剥削材料的内容（占2025年案件的68%）牵涉到使用与儿童性剥削材料常见相关术语的协同账户网络，这些链接将新加坡用户导向托管儿童性剥削材料的外部网站。
2025年剩余32%的案件为自生成的儿童性剥削材料。这些案件涉及账户分享包含据称未满18岁的新加坡用户自生成的露骨性爱图像。
这些用户的个人资料中包含通常表示其出生日期或年龄的数字组合。
报告还发现，这73起案件中的大多数在平台上存在时间较长，平均持续9至31周。
资讯通信媒体发展局在报告中指出：“因此，X平台本有充足时间主动侦测并移除这些案件。”
资讯通信媒体发展局指出，所有73起案件均违反了X平台自身的反儿童性剥削材料政策，然而，X平台仅在资讯通信媒体发展局标记后才将其移除。
去年，资讯通信媒体发展局首次侦测到由新加坡账户分享的恐怖主义内容。
2025年，TikTok上存在17起由新加坡账户分享的恐怖主义内容案件，未被主动侦测和移除。
部分视频使用了与已知恐怖组织相关的经过编辑的影像或音频，并与无害内容混合。在某些案例中，涉恐音频还被隐藏在平台的“原声”标签下，这使其被添加到TikTok的数据库中，供其他用户在其帖子中使用。
根据报告，存在TikTok在用户举报后仍初步评估内容未违规的情况。这些内容仅在资讯通信媒体发展局介入后才被移除。
该局表示，这显示了TikTok用户举报系统的薄弱。
资讯通信媒体发展局强调，根据新加坡《社交媒体服务线上安全业务守则》的要求，儿童性剥削材料与恐怖主义内容是“危害极其严重的内容”，必须在用户接触到之前主动侦测并迅速移除。
针对资讯通信媒体发展局的调查结果，TikTok回应称，其平台不允许暴力及仇恨组织或个人存在。
该平台补充说，在2025年第四季度，其主动系统在内容被举报前成功移除了超过99%的违规内容，其中超过93%的内容在24小时内被移除。
TikTok在资讯通信媒体发展局的报告中表示：“随着暴力极端主义手法和规避技术不断演变，我们也在持续进步。我们不断评估并强化我们的政策和系统，并致力于在强化监督计划下与资讯通信媒体发展局合作。”
X平台表示，其对儿童性剥削材料持零容忍政策，并补充说其深切致力于儿童安全。
该平台在资讯通信媒体发展局的报告中表示：“我们在限制未成年人访问X平台上的成人内容方面取得了有意义的进展，并热烈欢迎资讯通信媒体发展局对此的认可。”
“我们非常认真地对待对年轻用户的责任，并继续加强此领域的保障措施。”
对儿童安全措施的担忧
最新报告建立在去年首份报告确立的基线安全措施之上，并突出了指定社交媒体服务——Facebook、HardwareZone、Instagram、TikTok、X和YouTube——需要解决的薄弱环节，以及它们在过去一年中的改进。
尽管自2024年以来各平台已有所改进，但最新报告对儿童安全措施提出了担忧，指出儿童仍可在多个平台上访问不适合其年龄的内容。
调查发现，Facebook和YouTube存在儿童账户可浏览涉及裸体或性主题内容的情况，而HardwareZone的年龄限制在1月底推出近期改进措施前很容易被绕过。
尽管Instagram和TikTok报告了更全面的儿童安全功能，但资讯通信媒体发展局表示，此类措施的有效性在不同平台间差异很大。
资讯通信媒体发展局在报告中表示：“鉴于线上安全风险形势，尤其是对儿童而言，正在快速演变，指定社交媒体服务必须继续优先考虑增强其措施的全面性和有效性，以尽量减少儿童接触有害及不适合其年龄的内容。”
更广泛地说，资讯通信媒体发展局发现，性内容、暴力内容和网络霸凌内容是社交媒体平台主动和/或根据用户举报移除的前三类有害内容。
尽管存在这些问题，资讯通信媒体发展局表示，自首份报告发布以来已取得进展，特别是在响应用户举报的速度方面，2025年平均响应时间为2至5天。而在2024年，平均处理时间为3至10天。
线上安全评分
该报告旨在帮助用户，包括家长，自行并为子女判断各社交媒体网站的风险和可用安全措施。
六家社交媒体服务根据其措施全面有效满足《线上安全业务守则》的程度进行了评估。
虽然六家指定社交媒体服务均未获得五分的整体评分，但Facebook、Instagram和YouTube保持了相对稳定的整体评分，并在响应用户举报的速度方面有所改善。
HardwareZone也略有进步，是唯一在用户举报与处理方面获得满分的平台。
然而，根据报告，TikTok的整体评分较2024年下降，因其举报与处理机制的有效性在2025年显著下滑而受到拖累。
Instagram和TikTok在儿童用户安全措施方面获得满分，而HardwareZone得分最低，为2.5分（满分5分）。
X平台虽然在限制儿童访问成人性内容等领域有所改进，但在2025年主动侦测儿童性剥削材料方面仍表现薄弱。
透明度仍是另一个薄弱环节。Facebook、Instagram和YouTube未能提供关于其响应用户举报速度的新加坡具体详细数据，限制了用户评估平台安全性的能力。
资讯通信媒体发展局表示，将继续密切监督各平台，并随着线上威胁的演变审查其法规的相关性，同时补充说，该局也正在研究如何加强对儿童的线上安全要求。
