对外交流
对外交流
首页 > 国际技术贸易 > 对外交流

《数字技术伦理规范导则指南》发布,一起来看解读→

2025-12-12 09:07:05     浏览数量:

数字技术深度融入经济社会重塑未来生活图景,如何让创新不越界、发展不失序?如何保障算法公平个人隐私?如何弥合数字鸿沟?推进数字教育过程中,如何充分尊重教学规律和教育本质?指导数字技术稳健向善发展,防范数字技术科技伦理风险,中国科协正式发布《数字技术伦理规范导则指南》。


无论是数字技术研发者、平台运营者,还是每一位数字技术的使用者,这份指南都你我息息相关一起来看这份清晰的行动指引,共同守护安全、公平、包容的数字生态


为贯彻落实《“十四五”国家信息化规划》,进一步健全规范有序的数字化发展治理体系,中国科协组织专家学者,在深入调研国内外现有的数字技术伦理治理相关法律法规、标准、规范、指南的基础上,制定了《数字技术伦理规范导则指南》(以下简称《指南》)。


一、回应发展关切


当前,数字技术已深度融入研发应用全环节,数字经济已成为全球发展的核心动力,但同时暴露出的责任界定不清、伦理标准缺失等突出问题,衍生出的规则冲突、数据垄断、算法歧视、数字鸿沟等伦理隐患,制约着数字技术稳健向善发展。


在此背景下,《指南》以“防范科技伦理风险、实现精准数字治理”为目标,通过明确伦理原则、规范操作要求、强化多方协同,保障数字技术赋能经济升级、社会进步与生态可持续发展,为加快建设数字中国、推动构建数字命运共同体筑牢伦理根基。


二、聚焦伦理痛点


《指南》重点瞄准数字技术研发应用中的各类潜在伦理痛点。例如,在合规管理方面,个人信息过度收集、违规共享问题频发,部分平台借数据垄断阻碍市场公平竞争,合理的数据要素流动受到限制;在算法与数据治理方面,算法偏见、数据安全隐患、技术使用门槛高等问题易引发身份歧视,破坏社会公平;在风险防控方面,不成熟技术的盲目部署易引发公众负面情绪与资源浪费,并存在监管滞后或过度干预等治理失衡问题;此外,不同能力群体面临技术使用障碍,制度性数字鸿沟问题突出。


针对上述痛点,《指南》提出系统性解决方案,包括明确伦理原则确立价值基准、规范伦理要求划定操作边界、加强能力建设夯实治理基础、推动协同治理凝聚多方合力、开展监测评估实现动态优化。其中,能力建设环节特别兼顾了就业保障、生态保护与和平发展目标,全方位护航数字技术可持续赋能。


三、突出三大特色


一是以系统性与完整性构建全链条伦理治理架构。围绕数字技术伦理治理的核心环节构建起闭环体系,从明确“技术向善”等底层伦理原则确立价值导向,细化研发应用各阶段的伦理要求,以能力建设提升主体素养,以协同治理凝聚多方合力,以监测评估实现动态优化,覆盖了从技术源头到应用落地的全流程。


二是以针对性与可操作性精准回应实践痛点。通过明原则、定要求、给路径、强评估,让各参与主体清晰知晓“该遵循什么、该怎么做”。紧扣数字技术发展中的主要伦理矛盾,明确了四大伦理原则,提出了五项明确要求:第一,要求技术全生命周期严守法规与伦理底线,规范数据流动、保护知识产权;第二,对数字技术自动生成的服务和内容加设醒目区分标识,为高风险服务标注风险提示,化解算法偏见误导、用户技术风险认知不足等治理难题;第三,明确服务授权机制,特殊群体需监护人同意,为拒绝数字服务的用户提供等效替代方案;第四,强化敏感信息全流程保护,建立授权与撤销机制,落实未成年人信息监护人专属管理;第五,建立技术成熟度评估机制,杜绝技术滥用,确保达标后再规模化落地。在能力建设层面,聚焦应用场景适配、技术支撑搭建等维度,给出了具体实操路径。最后,强调建立监测评估机制,为规范执行提供依据,便于各主体对照自查、迭代优化。


三是以协同性与多元性凝聚多方共治合力。数字技术伦理问题涉及面广、关联性强,仅靠单一主体难以有效应对,呼吁构建“多方协同、共建共享”的伦理治理格局,引导各方力量明确职责、良性互动,形成上下联动、内外协同的治理合力,推动伦理治理从“被动应对”转向“主动共治”。


四、注重四个强化


一是强化主体责任。倡导科研机构、企业将伦理要求嵌入研发与运营全流程。企业可结合自身业务特点设立伦理审查机制,对新产品、新服务开展伦理评估;科研项目可将伦理考量纳入立项、实施等关键环节,从源头规避潜在伦理风险。同时,明确“最终应由人类承担责任”的责任归属原则,为数字技术全流程伦理责任划定根本归属。


二是强化分类施策。倡导针对不同技术领域、应用场景制定差异化落实方案。强调将专属伦理要求与领域特性深度结合,制定符合学术规律与行业实际的伦理审查规范、技术应用指引及风险评估手册,为有关单位开展伦理审查提供专业依据,推动行业形成统一的伦理审查标准与实践路径,实现“一类一策”的精细化治理。


三是强化社会协同。倡导以多元方式构建“政府引导、行业自律、公众参与”的社会协同体系,凝聚数字伦理治理合力。一方面,通过教育、培训、科普提升全民数字素养,引导公众正确认知技术伦理风险、规避隐患,减少技术误解与非理性炒作;另一方面,推动媒体案例宣传、学校课程融入、学(协)会自律,夯实共识基础。


四是强化全球协作。倡导积极参与国际数字伦理规则制定,加强与各国科研机构、企业的伦理治理经验交流,推动构建公平合理的全球数字伦理治理体系,助力数字命运共同体建设。




数字技术伦理规范导则指南


一、目的


为指导数字技术稳健向善发展,防范数字技术研发与应用过程中的科技伦理风险,实现数字治理精准高效,保障数字技术更好赋能经济、社会及生态可持续发展,加快建设数字中国、推动构建数字命运共同体,研究提出数字技术伦理规范导则指南。


二、术语


(一)数字技术(digital technology)

利用电子计算机、互联网、大数据、人工智能等现代信息通信技术,对信息进行采集、处理、传输、存储、分析和应用的一系列技术总称。它打破了传统的时间和空间限制,实现了信息的高速流动和资源的优化配置。


(二)数字经济(digital economy)

以数字技术为核心驱动力,以数据资源为关键要素,以现代信息网络为主要载体,以信息通信技术融合应用、全要素数字化转型为重要推动力,促进公平与效率更加统一的新经济形态。


(三)数据要素(data factor)

投入到生产经营活动、参与价值创造的数据资源。


(四)数字治理(digital governance)

通过数字技术实现公共价值创造的系统性过程,包含政策制定、制度安排、技术应用、组织协调等要素。


(五)科技伦理(science & technology ethics)

开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范,旨在促进科技健康发展、防范科技滥用风险,确保科技活动符合人类福祉、社会公平和生态保护的要求。


三、基本原则


(一)以人为本,数字向善

数字技术应以人类需求、利益与福祉为根本出发点,秉持审慎负责的科技向善理念,尊重人的主体地位和尊严,保障合法权益,避免技术应用损害人类身心健康,或对现有社会生态与秩序造成颠覆性冲击,将伦理要求贯穿于技术全生命周期,确保数字技术服务于人类健康发展、生活品质改善与创造力提升,实现技术发展与人文关怀的统一。


(二)公正公平,数字普惠

数字技术的发展应尊重、保护并促进人的自由与平等,保障不同种族、肤色、性别、年龄、语言、宗教及能力差异的群体在数字环境中获得平等对待,依法享有数字领域的参与权、发展权与成果共享权,不因先天禀赋或后天条件被排斥于数字发展进程之外。防范数据要素流动受限、数字平台垄断等问题,从制度保障层面弥合数字鸿沟,推动数字发展的均衡性与包容性,让数字技术真正惠及全人类。


(三)技术可信,信息安全

在数字技术应用的全生命周期,坚持技术可信与信息安全,增强数字技术应用的透明性、可解释性、可靠性与可控性,实现数字技术应用的可审核、可监督、可追溯、可信赖;保障数据、平台、数字环境的安全稳定,防范数据泄露、滥用、信息篡改、系统漏洞等风险。高度关注数据信息的安全保障与技术的可信度,提升技术鲁棒性和抗干扰能力,强化全流程安全设计、规范操作及安全评估与风险管控,筑牢数字技术发展的安全防线。


(四)包容互鉴,开放合作

搭建开放、包容的数字交流平台,助力不同文化间的沟通理解与共识凝聚,增进国际互信、管控分歧。以全球视野践行数字技术发展的共同价值,为构建数字命运共同体、实现人类共同发展奠定理念基础。


四、伦理要求


(一)合法合规

数字技术的研发、部署、应用与推广,须严格遵守国家法律法规、行业监管规定及科技伦理要求,合法开展数据要素流动,规范数字技术和内容的发布、制作与传播。尊重和维护著作权、商标权、专利权等知识产权,杜绝制造、复制、传播虚假内容,防范剽窃、篡改、假冒等侵害个人或组织合法权益的行为,恪守公序良俗与社会伦理共识。


(二)数字标识

针对数字技术自动生成的服务和内容,须通过醒目、易识别的标识,明确区分于人类创作成果,避免用户混淆。对存在算法偏见、数据安全隐患、使用门槛较高等潜在风险的数字技术服务,应设置清晰的警示标识,明确提示风险类型及注意事项,保障用户对技术服务的风险认知权。


(三)知情同意

在为用户提供数字技术自动生成的服务及内容前,需先获取其明确同意,若用户拒绝,须提供人工或非数字技术类、可满足核心需求的替代方案;向未成年人或因认知障碍等丧失/部分丧失民事行为能力的群体提供服务时,还须额外获得其法定监护人或看护人的知情与明确同意。


(四)隐私保护

严格保护数字技术应用中所涉及的包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等在内的个人隐私与敏感个人信息。对个人信息进行收集、存储、使用、加工、传输、提供、公开、删除等处理,须事先告知本人并获得明确同意;对基于生物特征数据等敏感个人信息自动生成数字内容的相关行为,应建立完善的授权与撤销机制;处理未成年人信息时,须取得其监护人的明确同意。


(五)风险防控

采取有效措施避免数字技术的误用、滥用、恶用,防范技术用于散播负面价值观、颠覆社会秩序、危害安全稳定及违法犯罪等风险。以提供高质量服务为目标,尽可能避免因不成熟技术的部署和推广引发公众情绪、资源浪费及社会风险。应确保数字技术具备足够成熟度后,再进行规模化应用和推广。


(六)责任明晰

数字技术(尤其是自动化技术、人工智能技术)引发的各类后果,最终应由人类承担责任,相关负面影响的问责需明确由参与技术设计、研发、部署和使用的相关组织或个人承担。所有参与上述环节的组织和个人,均应被明确告知其法定与伦理责任。推动责任追溯的技术落地,强化责任履行的伦理约束。


五、能力建设


(一)赋能发展

以数字技术发展提升人类福祉,赋能国家治理、社会治理、经济发展、环境保护等各领域,促进数字经济提质增效与数字治理能力现代化。建设安全、可靠、可互操作的数字基础设施,保障各类社会主体平等获取数字技术和服务的机会,重点关注困难地区和欠发达地区、弱势群体的数字需求,提升公共服务质量与普惠水平,实现技术赋能与可持续发展目标。


(二)稳增就业

密切关注数字技术对就业结构的影响,审慎推进可能对现有就业产生重大冲击的数字技术应用。社会各界需协同发力,加强对失业人群的职业技能培训,提升其再就业能力。积极探索数字技术赋能下的新就业模式与工作形态,创造更能发挥人类优势的新岗位。鼓励产业界在数字化升级过程中主动拓展就业空间,新增更多高质量就业机会。


(三)普及优质教育

数字技术发展应助力为公众提供更包容、更公平、更优质的教育,遵循开启智慧、发展个性、提升能力的育人原则,充分发挥其对于教育的赋能价值。推进数字教育过程中,需充分尊重教学规律和教育本质,审慎对待替代人类主导核心教学环节的数字技术应用,防范其不合理应用对师生身心健康造成的负面影响,保障教育质量与学术诚信。


(四)保护生态

数字技术发展应助力生物多样性保护与生态环境改善,为环境治理、气候变化应对等生态保护工作提供技术支撑。在技术设计、部署与应用中贯穿绿色发展理念,推动硬件、能源与数据资源的高效利用与循环回收,尽可能避免数字技术自身发展对自然环境和生态系统带来的负面影响,保障生态可持续性。


(五)促进和平

防止数字技术被用于破坏社会秩序、挑起冲突或加剧不稳定因素,避免对全球和区域稳定产生负面影响。数字技术的发展应助力实现全球与区域的和平与安全,促进不同国家、社会群体间的互信合作。


六、协同治理


(一)构建多元协同的数字治理生态

坚持多元主体协同参与,尊重技术发展规律,结合技术发展水平科学制定治理政策。在鼓励创新的同时,加强对技术潜在社会影响的持续研究,及早研判风险、优化治理体系,确保治理不阻碍技术创新、不忽视伦理底线。推动建立跨学科、跨领域、跨部门、跨地域及全球性的综合数字治理机制,将政府及监管机构、政府间组织、学术界、产业界、社会组织、媒体、用户等多利益攸关方纳入治理体系,明确各方在技术全生命周期治理的权责边界,形成“政府引导、学(协)会自律、社会监督、公众参与”的多方协同治理,提升治理的全面性与有效性。


(二)推动全球治理数字协同合作

秉持开放包容理念推进全球数字治理协同,构建全球性、开放性、包容性的治理合作平台,联合应对数字技术带来的共性风险挑战。加强国际数据要素流通、数字基础设施建设、治理能力建设等领域合作,促进全球数字治理经验与发展成果共享,保障不同国家、地区及群体在数字治理中享有平等话语权,构建公平普惠、协同共进的全球数字治理格局。


(三)强化数字伦理教育与素养培育

通过教育、培训与科普等多元方式,推动公众形成对数字技术及其伦理风险的正确认知,提升全民数字素养与应用技能,助力公众适应数字技术发展,充分利用技术优势并规避潜在风险。减少对新兴技术的误解与非理性炒作,凝聚社会共识,为数字技术治理提供良好社会基础。


七、监测评估


(一)建立监测管理机制

在数字技术学术研究、成果转化及应用推广全流程中,建立全生命周期监督、评估与审计机制,重点聚焦新兴技术及高风险场景,确保技术发展与人类治理能力相适配。


(二)制定伦理规范

联合领域内专家及单位,针对人工智能大模型、算法应用、数据安全等关键技术领域,制定符合学术规律与行业实际的伦理审查规范、技术应用指引及风险评估手册,为有关单位开展伦理审查提供专业依据,推动行业形成统一的伦理审查标准与实践路径。


(三)完善评估规则

建立数字技术伦理影响评估程序,构建覆盖算法、数据和设计流程及可审计性、可追溯性、可解释性的综合评估体系。评估需吸纳多学科、多利益攸关方参与,兼顾多元包容原则,通过综合评估预测技术后果、规避潜在风险、防范负面影响,回应社会关切与挑战。


(四)落实审查责任

有关单位(科研机构、技术企业)应将数字技术伦理要求嵌入技术研发、学术研究全流程,设立人工智能伦理及数字技术相关伦理审查工作小组,对科研项目设计、数据采集使用、算法迭代优化等环节开展学术性伦理审查,将伦理审查结论作为科研项目立项、结题验收和评奖评价的重要依据。组织行业培训,提升科研人员、技术团队的伦理认知与责任意识,推动主动规避恶意攻击、歧视性筛选等违背伦理的技术研发方向。


(五)明确责任归属

引导行业明确数字技术后果的责任归属,清晰界定科研人员、技术团队、应用单位等主体的责任边界,在技术设计、研发、部署、使用各环节,向对应参与主体清晰告知责任范围与问责标准。联合学术机构、技术企业研发适配行业的责任追溯技术工具与评估方法,助力数字技术伦理风险可查、可证。


(六)加强伦理监督

联合媒体、公益组织搭建数字技术伦理交流平台,通过发布行业伦理实践案例、曝光学术研究与技术应用中的伦理失范行为(如数据滥用、算法歧视),引导规范技术应用。开展伦理科普活动,向公众普及数字技术伦理知识,推动形成“尊重伦理、崇尚向善”的行业氛围与社会共识,助力构建多元协同的数字技术伦理治理生态。


来源:科协官微

0