【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花,水中望月,你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲,用来描述当下互联网时代的“云”上生活,在技术发展与风险伴生之下,“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来,人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态,但其被恶意利用制作虚假信息内容,进而带来了政策干扰、谣言泛滥、低俗内容等。因此,我们也在呼吁——“借我一双慧眼,把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程,技术治理本身就是一场攻防对抗博弈,也是技术从创新应用到规范发展的必经之路。近日,这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”, 迈出我国新技术新应用立法的重要一步,也将有效维护网络空间良好生态。
明确义务要求,强化主体责任
事实上,深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展,深度合成技术门槛大幅降低。2017年11月,Reddit网站的用户“deepfakes”发布伪造视频,曾一度将这项技术推至风口浪尖,其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”?《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括:篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然,从技术进步的角度看,深度合成技术应用的初衷是让生成合成内容更逼真,但技术在愈趋“智能”的同时,也不可避免地带来更多风险。对此,中国科学院信息工程研究所所长孟丹介绍,除深度伪造风险外,还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者,也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现,《规定》明确了深度合成技术定义和服务范围,提出了服务提供者落实信息安全主体责任,指出了服务提供者和技术支持者备案义务,并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价:《规定》分析梳理了深度合成活动边界,对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如,服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务,服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系,促进科技向上向善
从此起彼伏的社会案件中可以看出,深度合成信息内容制作和传播数量正在高速增长,尤其伴随“元宇宙”等新模式、新场景不断落地,深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为,《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步,标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》,对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上,加强对深度合成服务全过程管理,也深化了备案与评估标本兼治。
然而,从技术发展阶段看,深度合成技术与应用管理仍处于起步阶段,在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设,是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间,凸显了“以技术管技术”的逻辑,也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架,提出了明确的数据和技术管理规范,为促进深度合成技术向上向善,引导相关产业健康发展,确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向,在明确‘红线’的同时,为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如,《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议,从深度合成信息内容源头上,解决其衍生的内容安全风险,利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力,不仅着眼于管理好、使用好、发展好深度合成技术及相关服务,也致力于深度合成技术的合法合理合规使用,促进深度合成技术及相关服务健康有序的发展。
引导多方参与,推动治理走深向实
随着数字化、智能化进程不断加快,互联网信息服务综合治理不断细化,规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示,深度合成服务治理需要政府、企业、社会、网民等多方主体参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展。
《规定》明确提到,国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责,国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为,《规定》构建了统筹协调、多方参与的监管体制;《规定》鼓励相关行业加强行业自律,搭建齐抓共管、协同共治的治理机制;《规定》通过系统化的制度安排,进一步构建完善了我国网络综合治理法治体系。
孟丹也提到,《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面,仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中,建议业内推进产业联盟建立,以产业自治、多方共治的方式,不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实,徐波建议,强化智能监管平台支撑。比如,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设;加强人机混合的智能监管技术,研究深度合成服务提供者的安全可控技术保障方案,把监管规范转化为评估标准,建设面向网络全域监管的监测管理平台;研发深度合成与鉴别对抗机制,鼓励新兴科技企业与研究机构开展技术演练,共同推动深度合成服务健康发展。
中国共产党第二十届中央纪律检查委员会第二次全体会议公报******
中国共产党第二十届中央纪律检查委员会第二次全体会议公报
(二○二三年一月十日中国共产党第二十届中央纪律检查委员会第二次全体会议通过)
中国共产党第二十届中央纪律检查委员会第二次全体会议,于2023年1月9日至10日在北京举行。出席这次全会的有中央纪委委员127人,列席207人。
中共中央总书记、国家主席、中央军委主席习近平出席全会并发表重要讲话。李强、赵乐际、王沪宁、蔡奇、丁薛祥、李希等党和国家领导人出席会议。
全会由中央纪律检查委员会常务委员会主持。全会全面贯彻习近平新时代中国特色社会主义思想,深入贯彻落实党的二十大精神,研究部署2023年纪检监察工作,审议通过了李希同志代表中央纪委常委会所作的《深入学习贯彻党的二十大精神,在新征程上坚定不移推进全面从严治党》工作报告。
全会认真学习、深刻领会习近平总书记重要讲话。一致认为,讲话从新时代新征程党和国家事业发展全局的高度,深刻分析大党独有难题的形成原因、主要表现和破解之道,深刻阐述健全全面从严治党体系的目标任务、实践要求,对坚定不移深入推进全面从严治党作出战略部署。讲话高屋建瓴、思想深邃、内涵丰富、论述精辟,充分彰显了习近平总书记高瞻远瞩的战略眼光、无私无我的崇高境界、深切真挚的人民情怀、直面问题的使命担当,具有很强的政治性、指导性、针对性,是深入推进新时代党的建设新的伟大工程的根本遵循,为做好新时代新征程纪检监察工作提供了根本指引。习近平总书记对纪检监察干部队伍寄予殷切期望,提出明确要求。要深入学习贯彻习近平总书记重要讲话精神,自觉把思想和行动统一到党中央决策部署上来,在新时代新征程上一刻不停推进全面从严治党,把党的伟大自我革命进行到底。
全会指出,各级纪检监察机关要把学习贯彻党的二十大精神作为当前和今后一个时期的首要政治任务,深学习、实调研、抓落实,把党的二十大精神学深悟透、融会贯通、落实落地,转化为深入推进新时代新征程纪检监察工作高质量发展的强大奋进力量,转化为坚定不移正风肃纪反腐的具体行动,转化为坚定维护党的先进纯洁、永葆党的生机活力的实际成效。要深入贯彻落实党的二十大关于全面从严治党战略部署,深刻领悟“两个确立”的决定性意义,增强“四个意识”,坚定“四个自信”,坚定不移担负“两个维护”重大政治责任;始终坚持正确政治方向,坚定不移用习近平新时代中国特色社会主义思想统领纪检监察一切工作;学习党章、尊崇党章,坚定不移履行党章赋予的职责;时刻保持解决大党独有难题的清醒和坚定,坚定不移推动健全全面从严治党体系;敢于斗争、善于斗争,坚定不移推动正风肃纪反腐向纵深发展,更好担负起党和人民赋予的使命责任。
全会强调,2023年是贯彻党的二十大精神的开局之年,是实施“十四五”规划承前启后的关键一年,是为全面建设社会主义现代化国家奠定基础的重要一年。做好纪检监察工作,要坚持以习近平新时代中国特色社会主义思想为指导,全面贯彻落实党的二十大精神,坚决贯彻坚定不移全面从严治党战略部署,认真落实健全全面从严治党体系任务要求,深入开展党风廉政建设和反腐败斗争,深入推进新时代新征程纪检监察工作高质量发展,为全面建设社会主义现代化国家开好局起好步提供坚强保障。
第一,围绕落实党的二十大战略部署强化政治监督。坚定维护党中央集中统一领导,推动各级党组织加强党的政治建设,提高政治判断力、政治领悟力、政治执行力,确保全党在政治立场、政治方向、政治原则、政治道路上同以习近平同志为核心的党中央保持高度一致。严明政治纪律和政治规矩,及时发现、着力解决“七个有之”问题。推进政治监督具体化、精准化、常态化,围绕完整准确全面贯彻新发展理念、加快构建新发展格局、着力推动高质量发展等重大战略部署,围绕党中央因时因势作出的决策部署加强监督检查,确保执行不偏向、不变通、不走样。
第二,推动完善党的自我革命制度规范体系。促进完善党内法规制度体系,研究修订党纪处分条例,推进反腐败国家立法,不断健全完善纪检监察法规制度体系。按照党统一领导、全面覆盖、权威高效的要求,推动完善纪检监察专责监督体系、党内监督体系、各类监督贯通协调机制和基层监督体系,形成监督合力。把日常监督做细做实,使监督常在、形成常态。强化对“一把手”和领导班子监督,督促其严于律己、严负其责、严管所辖。加强与审计机关协调配合,用好审计监督成果。压实全面从严治党政治责任,用好问责利器,既防止问责乏力,也防止问责泛化。
第三,有力发挥政治巡视利剑作用。突出政治巡视定位,全面贯彻中央巡视工作方针,把“两个维护”作为根本任务,把严的要求贯彻到巡视全过程各环节。修订巡视工作条例,制定中央巡视工作五年规划。统筹安排常规巡视、专项巡视、机动巡视和巡视“回头看”,有序推进中央巡视,扎实做好二十届中央第一轮、第二轮巡视。加强巡视整改和成果运用,完善巡视巡察上下联动工作格局。
第四,持续深化落实中央八项规定精神、纠治“四风”。严肃整治损害党的形象、群众反映强烈的享乐主义、奢靡之风,对顶风违纪行为露头就打、从严查处,坚决防反弹回潮、防隐形变异、防疲劳厌战。紧盯反复性顽固性、改头换面、隐蔽隐性问题,加大查处问责力度,坚决破除特权思想和特权行为。重点纠治形式主义、官僚主义,紧盯贯彻党中央重大决策部署不担当、不用力,对政策举措和工作部署片面理解、机械执行、野蛮操作,玩忽职守不作为,任性用权乱作为,权力观异化、政绩观扭曲、事业观偏差等问题,深挖根源、找准症结,精准纠治、增强实效。坚持纠“四风”树新风并举,教育引导党员干部牢记“三个务必”,推进作风建设常态化长效化。
第五,全面加强党的纪律建设。强化经常性纪律教育,融入日常管理监督,促进党员干部增强纪律意识,把党的纪律规矩刻印在心。高度重视年轻领导干部纪律教育。督促指导发生重大违纪违法案件的相关单位党委(党组)召开专题民主生活会,举一反三、以案明纪。严格执行党的纪律规定和规章制度,对违反党纪的问题,发现一起坚决查处一起。精准运用“四种形态”,落实“三个区分开来”,激励干部敢于担当、积极作为,实现政治效果、纪法效果、社会效果有机统一。
第六,坚决打赢反腐败斗争攻坚战持久战。坚持不敢腐、不能腐、不想腐一体推进,更加有力遏制增量,更加有效清除存量。严查重点问题,坚决查处政治问题和经济问题交织的腐败,坚决防止领导干部成为利益集团和权势团体的代言人、代理人,坚决防止政商勾连、资本向政治领域渗透等破坏政治生态和经济发展环境;突出重点领域,深化整治金融、国有企业、政法、粮食购销等权力集中、资金密集、资源富集领域的腐败;紧盯重点对象,把党的十八大以来不收敛不收手、胆大妄为者作为重中之重,严肃查处领导干部配偶、子女及其配偶等亲属和身边工作人员利用影响力谋私贪腐问题。坚决整治各种损害群众利益的腐败问题。坚决查处新型腐败和隐性腐败。坚持受贿行贿一起查,加大对行贿行为惩治力度,营造和弘扬崇尚廉洁、抵制腐败的良好风尚。深化反腐败国际合作,持续开展“天网行动”,一体构建追逃防逃追赃机制。
第七,深入推进纪检监察体制改革。巩固拓展改革成果,一体深化推进党的纪律检查体制改革、国家监察体制改革、纪检监察机构改革,健全统筹推进“三项改革”的领导体制和工作机制。完善派驻监督体系机制,推进派驻机构、派出机构全面运用监察权。通过改革推进力量和资源整合,推动完善信息沟通、线索移送、措施配合、成果共享工作机制。健全党纪国法相互衔接、权威高效的执行机制。
第八,锻造堪当新时代新征程重任的高素质纪检监察干部队伍。强化政治建设,发挥中央纪委常委会表率作用,带动全系统做遵规守纪的模范,打造对党绝对忠诚的纪检监察铁军。强化能力建设,发扬斗争精神,坚定斗争意志,增强斗争本领,用好深学习、实调研、抓落实工作方法,打造敢于善于斗争的纪检监察铁军。强化廉洁建设,把一体推进“三不腐”理念贯穿自身建设,对执纪违纪、执法违法现象零容忍,坚决清除害群之马,坚决防治“灯下黑”,打造自身正自身硬的纪检监察铁军。
全会号召,要更加紧密地团结在以习近平同志为核心的党中央周围,沿着党的二十大指引的方向,弘扬伟大建党精神,自信自强、守正创新,踔厉奋发、勇毅前行,以一往无前的奋斗姿态、永不懈怠的精神状态履职尽责,不断取得全面从严治党、党风廉政建设和反腐败斗争新成效,为全面建设社会主义现代化国家、全面推进中华民族伟大复兴而团结奋斗!
(新华社北京1月10日电)
《光明日报》( 2023年01月11日 01版)
(文图:赵筱尘 巫邓炎)