首页> 科技 > > 正文

环球信息:剑指霸凌、AI换脸 网信办专项行动整治涉未成年人网络问题

2023-06-29 05:43:02 来源:南方都市报

6月27日,为了保护未成年人的网络安全和身心健康,国家网信办发布了关于开展“清朗·2023年暑期未成年人网络环境整治”专项行动(下称“清朗”行动)的通知。这是今年国家网信办首次针对未成年人网络保护的专项行动,也是暑假期间的重要举措。

这次“清朗”行动首次明确提出,针对利用新技术新应用生成涉未成年人低俗色情图片视频,将成整治重点。对此,中国科学技术大学公共事务学院、网络空间安全学院教授左晓栋向南都记者指出,由于青少年接受新技术的能力强,对外部世界充满更多好奇,但社会经验有限,明辨是非的能力不足,更容易受到AI风险的影响,故需特别关注。

根据网信办消息,此次专项行动将重点整治以下七类问题:有害内容隐形变异、网络欺凌、隔空猥亵、网络诈骗、不良内容、网络沉迷、新技术新应用风险。


(资料图)

从2016年初开始,“清朗”行动至今已持续7年。左晓栋观察发现,清朗行动不是一项独立、单一的行动,而是每年有不同的目标,针对不同的突出问题。例如,2023年“清朗”系列专项行动重点针对9方面问题,如从严整治“自媒体”乱象专项行动、打击网络水军操纵信息内容专项行动、规范重点流量环节网络传播秩序专项行动等,现在到了暑期,则重点关注未成年人网络环境整治。

历年的专项行动以“推动形成良好网络生态”为工作目标,为广大网民营造文明健康的网络环境,其中也聚焦与未成年人网络权益保护更为密切的问题,比如“隔空猥亵”、“网络沉迷”等。左晓栋表示,由于这类问题在青少年中多发高发,危害巨大,而背后往往又有着不法商业利益在做推手,所以整治的难度较大,需重点打击。

值得注意的是,此次的“清朗”行动首次明确提出整治针对利用新技术新应用生成涉未成年人低俗色情图片视频的问题。

随着人工智能技术的发展,一些不法分子利用“AI换脸”“AI绘图”“AI一键脱衣”等技术,将未成年人的照片或视频进行篡改或合成,制作出含有色情内容的图片或视频,并在网络上进行传播或贩卖。国家网信办指出,这种行为严重侵犯了未成年人的隐私权和肖像权,损害了未成年人的身心健康,扰乱了网络秩序,必须坚决打击和清除。

对此,北京清律律师事务所首席合伙人熊定中指出,这一规定可能是对近期发生的AI换脸诈骗等相关案件的回应,由于未成年人分辨能力可能较低,因此更容易被误导。但他同时指出,AI换脸、生成式人工智能技术仍在发展,现阶段被用于负面场景的案例并不是特别突出,对于未成年人的影响有限。

南都记者注意到,此次“清朗”行动中还将关注视角延伸至线下,提及了有关家庭矛盾、师生矛盾的内容,同时聚焦校园霸凌、欺凌等。

左晓栋分析认为,这类问题本身是青少年教育领域近年来出现的新矛盾,本质上不是网络问题,但却很快延伸到了网上,网络要么成为制造这些社会矛盾的工具,要么成为传递、放大这些社会矛盾的媒介,为互联网治理带来了新挑战。

熊定中则指出,这一条和最近频繁发生的霸凌、家庭矛盾和校园矛盾事件有关。在他看来,网络霸凌的定义相对模糊,而家庭矛盾、师生矛盾也是公权力向来不太主动介入的领域,现在清朗行动关注到这些领域,是监管进入到深水区的表现。

以网络霸凌为例,熊定中补充道,网络欺凌案例的特点在于第三方介入难,受害青少年往往难以向师长、家长求助,“当传统的救济渠道无法保证未成年人的身心健康时,有监管机构的介入关注,我认为这是一个比较值得赞许的地方。”

(文章来源:南方都市报)

标签: