“在被‘开盒’这件事上,仅靠个人维权意识提升远远不够,伤害依然会发生。关键是要斩断将披露他人隐私‘武器化’的黑灰产利益链条。” 长期从事个人信息保护合规实务的王新锐注意到,从早年的网络暴力到如今的查档开盒,从互联网IT技术到如今的人工智能,新技术被用于非法窃取他人信息并批量传播、披露牟利等行为猖獗,简而言之,“开盒”被“武器化”了,而攻击对象可以是任何一个普通人。
当新技术成为“开盒挂人”的“武器”,相应的平台治理和技术反制手段能否跟得上?“开盒”网暴的违法性和危害性明显,如何强化打击和治理?9月16日,南都在京举办数字经济治理论坛第20期活动,主题聚焦当“开盒”成网暴工具,如何给隐私“上锁”,论坛上多位学界和实务界专家热议“反开盒”的有效治理路径。
与会专家在交流中都提到一个共识,即仅靠个人网络隐身无痕才能避免被“开盒”,这在当今生活全面迈入智能网联的时代已然不现实,反“开盒”治理必须上升到多方协同的生态治理高度。最为关键的是,要从源头加强数据安全防护,压实各方责任,才能让每个人的隐私真正“上锁”,远离“开盒”的威胁。
从“替天行道”到有组织的群体犯罪:
对个体创伤与公共秩序的“双重侵蚀”
过去十年间,“开盒”已然从散见偶发的自发攻击行为演化到有组织的、有复杂利益链条的群体行为。北京大学法学院教授王锡锌观察到,“开盒”行为背后的个体心理动机很复杂,“有些是基于好奇或炫技,有些纯粹是基于牟利、获取流量”,但同时他也观察到,还有许多开盒行为则是以“维权”或“替天行道”为名,部分施暴者曾经也是“开盒”的受害者,自认为在以正义之名复仇制裁、以暴易暴,这使得行为人在违法心理上获得了某种合理性。
王锡锌谈到,他理解的“网络开盒”行为分为三个阶段,首先要确定一个具体的目标对象,通过黑灰产交易等手段获取目标对象的信息,然后将这些信息公布在网络平台——这个过程中,信息公开往往被“武器化”,是给目标对象造成伤害的关键环节。
王锡锌表示,前两个环节中,通过非法手段获取他人个人信息肯定是违法的。第三个环节最关键,造成的危害最为显著和严重。当目标对象的“开盒”信息被最大化披露,可能引发“蝴蝶效应”,不少网民被组织、动员起来,对目标对象进行辱骂、造谣,逐渐升级为网络暴力。
“在这个意义上,它的违法性是非常清楚的,社会危害性也是非常巨大的。”他指出,“开盒”行为直接侵害了自然人的隐私权、人格权、敏感个人信息权益等,这些权益不仅受民法典、《个人信息保护法》等法律保护,在《网络安全法》《个人信息保护法》以及《刑法》等之中也有明确规定。
除了对个体权益的侵害,“开盒”的另一危害体现在公共利益层面。王锡锌认为,这种行为的泛滥会直接压抑网络当中理性、真诚的表达和交流,甚至出现“寒蝉效应”,给公众带来普遍的焦虑和不安感,“每个人都会感觉到自己暴露在这样的(网络)环境中是危险的,最好的办法还是做‘蒙面大侠’。”同时,“开盒”及其引发的网暴行为还会助长社会戾气,加剧整个社会在部分关键问题上的分裂情绪,对网络空间公共秩序、安定性带来巨大威胁。
技术扩散下的治理困境:
去中心化下的“开盒”武器化
“过去被网暴被‘人肉’、被伪造照片的,不说都是名人,往往也不是普通人,需要留下了很多数字足迹才能被伤害,但今天网暴对象已经扩展到任何一个人。世辉律师事务所合伙人王新锐观察到,如今在技术的加持下已经出现很多自组织的行为,这也令“开盒”问题从利益驱动的中心化行为变成了多重目的、去中心化的群体行为。
在此基础上,王新锐提到了一个关键概念——“新技术武器化”。不难看到,新技术作为非法披露隐私的网络攻讦武器亦正在平民化。
“原先具备这类技术能力的人都是超级牛的黑客,现在普通一个高中生,在网上花点钱用AI就能实现。”王新锐指出,这种变化直接导致网络安全治理面临范式转换的挑战。
有鉴于此,王新锐强调,治理需要关注“武器化”这个核心问题。
“目前的开盒治理,谁违法犯罪了就揪出来让他坐牢,但靠个案的入刑判罚能威慑到何种程度?治理效用是要打个问号的。”在王新锐看来,宏观治理开盒,要做的不仅在具体局部上的个案惩戒,更核心的是要运用新技术的对应攻防手段,从非法泄露隐私的源头到传播、利用的每一环上都设卡阻断,以尽量将社会面上开盒风气的危害降到最低。
谈及如何防范“开盒”乱象,王锡锌直言,对个人而言事前的风险防控非常困难,即使个人维权意识在加强,但依然存在维权成本过高等问题,也易反向滋生以暴易暴报复开盒的恶性循环。“从它的成本收益比来看,任何一个理性的人可能都觉得只要忍一忍能过去,就算了吧。”因此,他认为治理“开盒”行为最重要的责任主体是监管部门和网络平台。
破局之道:
构建平台协同与标准明晰的治理体系
平台在“开盒”治理中的角色备受关注,这也是论坛中各界专家交流的重点。
“社媒平台的盈利模式本质上就是注意力经济,参与或动员对某些热点事件当事人进行开盒攻击,本身也成为部分网民造热点博流量的一种方式,而平台流量机制在其中往往起到推波助澜的作用,因此平台生态治理是关键。”基于此王锡锌直言不讳地指出,一方面,国家必须针对“开盒”网暴等行为做出清晰的、明确的立场宣告,从国家层面带动相关监管部门重视此类乱象,加强对平台的管控力度。另一方面,平台应进一步落实主体责任,加强内容审查,对于“开盒”相关违法内容及时采取删除、屏蔽、取证等措施,并向有关机关报告,不能为了追求流量而放任违法行为发酵。
具体到平台治理上,怎么让平台有动力主动参与到网络“开盒”行为的治理?
谈及治理内驱力,百度安全副总经理冯景辉从企业角度回应表示:“越高层会越关注企业的健康生态平衡发展,越到执行层会越多关注于KPI、流量、短期效应。”他透露,百度内部正在推动数据安全治理,通过定义不同数量级的系统级别和敏感级别来平衡治理成本与风险。
现实中,各大平台都有一系列技术手段去识别“开盒”挂人等信息,治理“开盒”的技术攻防也在逐步升级。但冯景辉还提到一类新的开盒黑灰产手法,“现在很多‘开盒’的源头信息是从外网回流到国内平台,以小作文小段子等马甲形式出现,以投流信息方式在各平台间串联、相互投流。因此,具体落实到监管规制和技术攻防的层面,冯景辉提醒,“宏观治理要取得实效,需要更大范围内在各大平台间联动、打通对齐颗粒度。”
王新锐亦有同感,他直言,清朗网络空间、严打“开盒”乱象的治理逻辑核心,在于各大平台一定要协同治理,“不要囿于竞争关系导致无法形成合力,导致环境恶化让大家都受影响。”
王新锐在实务中注意到,证据明显的网暴案例平台往往能做出快档处理,但司法纠纷中更多是模棱两可的案例,涉及到调查取证难、因果判定复杂等诸多因素。“建议各大平台在集中性的议题上合力做一些清晰的分级治理指引,形成一定的共识。”
冯景辉还建议,在协同平台快速处置上,法院、检察院等职能部门可牵头明确一套流程化的固定取证实操指引,或者出台一些能够清晰认定开盒行为的规范——比如开出哪些信息属于敏感信息,需要达到什么量级才算达到侵犯公民个人信息的违法认定,建立群组是否算非法利用网络信息罪等。
出品:南都数字经济治理研究中心
采写:南都N视频记者 吕虹 樊文扬