北京观察》私聊也算犯罪?快手AI审查神话破功,“涉黄私讯入刑”引爆恐慌
岁末年终,北京方面近日向社会公布即将在明年一月一日起实施的新版《治安管理处罚法》的详细细则,其中“私聊涉黄内容将入刑”的条款引爆年末大陆社交媒体。该条款明确指出“对传播淫秽信息的处罚规定作出明确细化,删除了传播场景的限制,无论传播对象是多人还是单人、场景是公开还是私密,只要实施传播行为并被查证属实,即可启动行政处罚程序。”
在官方公布的新政引发中国民间不满之际,大陆知名短视频平台快手昨夜在台北时间22点到24点左右遭到来自不知名骇客大规模的攻击,不少在线直播间直接秒变“爽片直播”,快手方面随即发布公告称“平台审核机制遭到境外大规模的网攻导致直播审核机制停摆,并以告知警方处理”。截止目前尚未有任何组织或个人及大陆方面披露最新进展。
言论审核机制成烫手山芋,民众担心旧案重演
大陆方面近期公布于明年元月实施的《治安处罚条例》(以下简称条例)不由得让众人想起2002年位于陜西延安宝塔区一新婚夫妇看黄碟遭警察上门殴打并最终撤销其处罚行为一事;从中国民间反映来看,公众认为该条款实施存在“处罚条件不明确、无监督程序规范、情节认定无明确内容”等问题。
在此之前,大陆新版《治安管理处罚法》也曾增加有关“穿著有损民族情感和公共道德的服饰进行处罚”的条款,该条款曾在2024年和2025年连续两年在北大、清华及中国一些知名律师和众多网民的批评下,让官方不得不从中删除。
此外,明年元月即将实施的大陆新版《治安管理处罚法》中对于国人赴大陆旅游、学习和工作时,也存在部分容易触雷的地方。其中,明确“不得私自使用未经批准的国际互联网通信信道(即不准私自翻墙)、不得在社交媒体发布涉危害政治安全和分裂的信息”等等。对于,该条例的处罚力度,目前大陆公安部尚未对外公开说明;从一些长期接触办理该法刑事案件的律师透露,目前各地司法局也在与律师协会沟通,组织学习该法的主要内涵,并称“未来若是触犯,违法成本和处罚力度将大幅提升”。
对“涉及境内社会时政热点与主流思想相左、传播资产阶级自由化思想、鼓吹、煽动崇尚过洋节”等内容将予以重点打击。不少大陆民众也反映称“自己最近的抖音账号还有知乎账号收到“因点赞或者查看了一些擦边时政热点评论遭到禁言或是关停账户的通知”。包括一些常年在北京永定门外国家信访局上访的访民介绍,自己因有冤屈在快手上发视频,就是拍摄国家信访局门口排队的景象,在被当地驻京办带离时被告知“日后若是再发直接让你消失”等言论。
从今年伊始,北京方面就高度重视“意识形态引发的社会危机”的影响,在今年中共四中全会上,中共高层又高调谈及“防范意识形态风险的问题”让不少地方党政部门成为年末提冲政绩考核的又一指标。
另外一点,由于财政收入逐渐下降也导致了各地在用于言论维稳上的经费大打折扣。今年九月到十一月期间,陆续像是大陆年轻人喜爱的“B站、抖音、小红书”等出现审查不及时的问题,前一段时间在大陆“B站”上就出现大量以解读“明朝皇帝崇祯惨死”的“悼明风”的内容。由于类似内容属于大陆官方定义的“历史虚无主义论调”,如此高调出现,也引发了公众的猜测。
人工智能审查内容趋严的中国短视频平台,为何也遭骇客沦陷?
“快手审核机制遭境外骇客攻击”被大陆互联网界认为是“重大安全等级的事件”。该事件的发生时间节点如下:
22:00 左右:大量涉黄违规直播间集中涌现,多个账号在此期间直播淫秽影片或进行露骨表演,单场最高观看破10万人,最高达28万人。
22:00-22:30:违规内容快速扩散,推荐页被批量刷屏;举报通道拥堵、提交失败,客服队列排至99+,审核系统短时过载。
22:30 前后:平台紧急关闭直播入口,启动集中处置,同步报警并上报监管部门,北京海淀公安介入(因快手总部设立在北京市海淀区,按照中共网信部门对应急事件快速处置的要求,由企业总部的公安处理)。
22:30-23:30:清理违规直播间、封禁涉事账号,修复风控与推流系统,期间部分正常直播被误断流,少量用户反馈账号误封、支付短时异常。
23:30 后:快手官方表示,平台遭到黑灰产攻击,已紧急处理修复中。“平台坚决抵制违规内容,相应情况已上报给相关部门,并向公安机关报警。”
12月23日00:00 攻击基本停止,平台持续清理存量违规内容。
03:00前 涉事账号全部冻结,账号安全核验机制上线,用户陆续收到改密提醒。
记者昨日晚间在快手购物时发现,一些商家会采取直播的方式销售商品,但是在切换下一直播内容时,则出现了上述内容。有大陆互联网从业者认为“发生这种情况,是攻击者利用自动化脚本批量注册或盗用账号(约1.7万个僵尸号),绕过实名认证和审核机制,同时开启大量直播推送预存违规内容”。
也有观点认为“这起事件,对于快手股价短期走势冲击影响应该不小,负面舆情会放大投资者对平台内容治理能力、监管风险和声誉损害的担忧”。这样的问题也暴露依赖人工智能审核的中国短视频平台的安全机制存在重大漏洞。
另据海外简中知名时政博主“墙国蛙哈哈”介绍,此前曾收到过有大陆短视频平台审核员在给其投稿的内容中提到了“人工智能审核成为主要方式,之后再提交人工审核”。据“墙国蛙哈哈”分析,在舆情维稳经费缩减的情况下,许多企业为了降低成本不得不依赖人工智能,其次又得合规,常常使企业陷入两难的境地。
纵观此次事件,目前大陆以外的‘黑灰产’已全面迈入“自动化攻击”时代,而这些短视频的平台仍依赖传统人工防御模式。对于持续强调网络安全的中国而言,能否得到改善还有待进一步的提升。


