中国储能网讯:当前,算力在数字政府、AI、金融科技、医疗健康、交通运输、信息安全、科学研究等领域产生巨大影响,成为驱动新质生产力的核心引擎。然而,在算力规模指数级增长和算力应用场景多元化的发展态势下,算力安全风险的形态、边界、阈值持续变化。作为一种新兴的科技安全类型,算力安全及其治理正在成为国家安全治理的重要领域。但在理论研究中,有关算力安全治理的基本概念、理论框架构建的研究还比较薄弱,致使对算力安全治理的重要性与特殊性的理解亟待拓展和深入。因此,针对目前算力安全治理研究的碎片化现状,有必要引入新的理论视角来分析。总体国家安全观是一个系统完整的理论体系,强调安全的系统性、关联性、辩证性特征,具有丰富的内涵和外延,适合作为分析算力安全治理的理论工具。
1 算力安全治理的内涵透视及驱动逻辑
1.1 算力安全治理的内涵透视
算力安全可被视为安全在算力领域的聚焦化表达,是一种结合算力这一安全标的物形成的融合性概念。作为新兴技术发展的产物,算力被认为是集信息计算力、网络运载力、数据存储力于一体的新型生产力,而算力安全则用于描述算力效能能够稳定有序释放的安全状态。算力安全的基本目标,便是尽可能将风险控制在可接受程度范围内。算力安全治理则是一种风险控制活动,强调将人的主观能动性与算力的安全功能衔接起来,相关治理主体通过治理过程和治理举措来消解、降低及防御系统内外的算力安全风险,其治理范畴包括对算力这一技术现象本身及其应用相关的安全风险治理。
1.2 总体国家安全观视域下算力安全治理的驱动逻辑
1.2.1 以算力安全保障国家安全体系和能力现代化的目标使然
《算力基础设施高质量发展行动计划》强调了保障算力平稳运行的系列重点任务,保障算力安全已经成为维护总体国家安全的重要关切点。作为数字时代的核心生产力,算力以“倍增效应”为千行百业赋能,算力安全问题直接关系到经济社会的稳定,推动算力安全治理对于筑牢维护国家安全屏障具有关键支撑作用。
1.2.2 积极应对各类算力安全风险挑战的现实使然
新态势下,算力愈加成为世界主要大国竞争的重要战略领域。与此同时,近年来全球网络攻击重心也从个人电脑(PC)向非传统计算领域迁移,各种算法攻击、数据泄露、供应链攻击事件多发,各国面临的算力安全挑战日益复杂,加强我国算力安全治理迫在眉睫。
1.2.3 主动创造和引领高质量算力安全防护体系的实践必然
我国相继启动“东数西算”工程、建设国家超算互联网、上线运行“东数西算”一体化算力服务平台等,在实践中逐渐形成连点成线、密织成网的算力布局。在数智时代把握好发展的主动权,就要拧紧算力安全这个支撑产业数字化转型和智能化发展的关键“阀门”,形成高质量算力安全防护体系。
2 总体国家安全观下算力安全风险的识别与分析
总体国家安全观强调大安全理念和大安全格局。大安全理念是一种系统全面的安全观念,重点强调系统思维、整体思维的应用。系统性地识别算力生成和落地的全链条过程,才能准确把握算力安全的风险来源。从算力的生成和落地的过程来看,前端环节的数据要素和算法工具、保障环节的基础设施支撑、落地环节的算力应用等,都可能成为算力安全风险的多维来源(图1)。
图1 算力生成过程及应用表现
2.1 算料输入:数据风险带来的算力安全风险
2.1.2 数据采集阶段的安全风险
在数据采集过程中,数据造假、恶意数据插入等都会造成数据失真,在“质”的层面影响算力结果的准确性和可信性。
2.1.2 数据存储阶段的安全风险
在数据存储过程中,无论是内部数据管理层的操作失误、技术漏洞,抑或自然灾害、基础设施损坏或老化、黑客攻击等,都可能导致数据资源在调度、访问和传输过程中被篡改、删除、泄露和丢失,影响作为算料的数据质量及其稳定供给。
2.1.3 数据分析阶段的安全风险
当前,全球范围内的网络攻击、数据投毒、数据陷阱等事件频发,导致受攻击数据库的数据参数、结构和功能改变,而基于此类数据形成的分析结果会导致算法结论误导决策,使得算力结果失真、失效,进而影响算力的有效生成。
2.2 算法嵌入:算法工具带来的算力安全风险
2.2.1 算法的程序设计风险
算法逻辑缺陷、算法漏洞或恶意植入、算法模型更新滞后等原生性算法安全风险,可能会引起算力分析结果异常。并且,掌握算法的技术强势一方也可能会滥用算法权力,引致算法操控、技术专制、“信息茧房”等问题。
2.2.2 算法“黑箱”的运行风险
“算法黑箱”的存在使得算法运行过程难以理解,算法在执行过程中即便出现了算法误用、算法歧视等问题也很难被识别和排查,进而影响到算力运行结果。
2.2.3 算法监管引致的风险
算法产业监管模式通常包括备案式和主动检查式两种。由于当前算法安全测试标准不统一、测试技术和手段不健全,导致算法备案和第三方监管等无法发挥真正的监管作用,使得算法安全风险仍具有不确定性。
2.3 底座支撑:基础设施带来的算力安全风险
在保障环节,算力的生成和落地离不开基础设施的保障和支撑。从算力基础设施的基本样态出发,可划分为制度组件、技术组件和能源组件。
2.3.1 制度组件
现有法律、行政法规等对于保障算力运行的网络环境、数据、算法和设备安全发挥了一定的支撑作用,但相对于算力安全的复杂形势任务变化和高质量发展的目标来说,立法保障仍然相对比较零散,不能充分满足算力安全领域快速发展的现实需要。
2.3.2 技术组件
算力技术的发展衍生了新的安全治理议题,带来诸如算力基础设施的外包风险、算力硬件设备复杂化风险、数据中心过度分散等新的难题。并且,美西方国家对我国采取严格的技术封锁、出口管制、算力融资渠道截断等措施,压缩了我国算力发展能力和空间,加之国内智能计算生态仍相对孱弱,进一步放大了我国算力安全面临的技术风险和挑战。
2.3.3 能源组件
算力流转过程中,服务器运转、制冷/散热设备的驱动、大模型平台资源调度需要消耗大量水热电等能源。不稳定的水电热供应以及对能量供应链路和设施的物理破坏,都会导致宕机风险,引致算力安全问题。
2.3 算力落地:算力应用带来的算力安全风险
2.3.1 算力安全治理与业务场景相对分离值得关注
算力嵌入到不同行业不同领域的场景,因此要实现因时因地的安全治理,就要以场景和需求为牵引。但在实践中,不同行业和领域的算力安全防护表现参差不齐,尚未形成针对性的安全防护举措和方案,在某种程度上会造成算力安全治理的被动。
2.3.2 算力应用引发社会不确定性问题日益凸显
依托算力开展的AI泛在使用对安全、隐私、伦理提出了更多挑战,如利用AI算法进行精准网络攻击、通过AI“换脸”实施诈骗,以及在应用过程中衍生的算力监管等,形塑了算力应用风险的新样态,导致算力安全边界泛化程度加大。
2.3.3 算力安全在国家发展布局中具有重要战略地位
算力发展和应用的国际化程度持续加深,其伴生而来的全球智能鸿沟加大、隐私泄露严重、技术的歧视性壁垒加剧、算法意识形态加深等现实问题,也对国家安全,乃至全人类命运带来了多重威胁和挑战。
3 总体国家安全观下推进算力安全治理的路径导向
算力安全风险广泛性地存在于前置环节的数据输入和算法嵌入、保障环节的底座支撑和落地环节的算力应用中。因此,既需要在治理理念上形成对算力安全治理的整体性认识,也需要在治理行动中针对不同环节的算力安全治理需求,以明确算力安全的治理侧向。
算力安全治理要以总体国家安全观为指导,贯彻统筹发展和安全的理念,强化算力安全治理的总体战略布局,在治理行动上主动关注前端环节的数据和算法衍生的潜在安全问题,加强算力安全的前瞻性治理。同时,要在保障环节兼顾不同风险来源条件下算力安全底座的治理侧重点,加强算力安全的精细化治理。此外,还要主动创设算力安全发展和应用的新图景,加强算力安全的适应性治理(图2)。
图2 总体国家安全观下的算力安全治理路径
3.1 以统筹安全和发展的理念强化算力安全治理的战略布局
算力安全治理“统筹”的核心在于把握“全面”,体现在内容层面的系统性、时间层面的动态性以及主体层面的多元性3个维度。
3.1.1 注重算力安全治理内容的系统性
与算力有关的制度框架、数据要素、算法工具、基础设施、平台应用等安全隐患风险都应纳入关注范畴,并分析这些要素的关键节点及安全防护中存在的不足、可能波及的影响程度和范围等,将安全技术组合起来形成整体安全防御体系。
3.1.2 突出算力安全治理实践的动态性
算力的内涵范畴、应用场景、内容体系与时俱进,随着外部形势的变化而不断调整,因此要把握算力安全的在不同阶段的新内涵,主动面向经济社会发展全局,提升网络安全、强化数据安全、算法安全创新、供应链安全等,加强算力安全保障能力建设。
3.1.3 突出算力安全治理主体的多元性
构建由政府、算力服务企业、跨学科专家、行业和个人用户等相关方共同参与的多元化治理机制。同时,明确算力安全治理主体的治理范畴、安全要求和法律责任等,形成政府监管、企业履责、行业自律、社会监督的算力安全多元共治体系。
3.2 以前瞻性治理应对数据安全、算法安全衍生的算力安全风险
3.2.1 在认识上,把握数据安全、算法安全对保障算力安全的重要嵌入作用
跳出对算力单一技术现象的静态解构,关注算力安全与数据安全、算法安全的系统性关联,以前瞻视角预见、预判数据输入和算法嵌入环节可能衍生的算力安全风险。
3.2.2 在知识生产上,加强算力安全风险演化中新的安全关系和风险规律研究
算力行业组织、企业、科研机构和有关专业机构可通过具体的知识生产活动,推进数据安全、算法安全与算力安全风险要素关联研究,发现风险演化过程中新的因果关系和风险规律,为算力安全治理提供新理解、新经验。
3.2.3 在行动创新上,探索和推动数据安全、算法安全和算力安全的协同共治模式
一方面,引导多元治理主体参与,针对数据安全和算法安全可能衍生的影响范围和危害程度深入研讨,形成系统性的算力安全治理方案和行动计划。另一方面,建立数据安全、算法安全和算力安全的协同共治方案,明确不同界面、不同阶段治理主体的责任。
3.3 以精细化治理应对算力底座支撑可能引发的算力安全风险
3.3.1 完善算力安全相关的制度设计,加强算力制度供给
加强统筹规划和宏观引领,加快涵盖算力治理全流程、内容相互衔接的制度建设。同时结合算力产业的发展需求、市场化需求,在精准定位算力安全治理主体责任的基础上,构建算力安全防护的行业规范,贯彻算力安全保护制度。
3.3.2 保障算力关键基础设施安全,加强算力技术自主创新
针对支撑算力运行的各类硬件安全及软件安全风险,采取技术保护和其他必要措施来应对风险冲击。同时要有序加大资金投入和政策扶持,推动高性能计算技术、算法模型、高端芯片等关键软硬件的自主研发,解决算力技术的可控性问题。
3.3.3 保障支撑算力发展的能源安全,加强运行保障能力
保障各类供给设备和管线设施正常生产运行的能源供应链安全,切实做到能源供应自主可控可靠,实现风、火、水、电等绿色能源的高质量、可持续供给。
3.4 以适应性治理应对算力落地和应用过程中衍生的安全风险
3.4.1 加强算力安全需求分析,确保风险治理的匹配性
重点是结合算力的一般技术特性和具体应用领域的情境特征,以及不同应用领域或任务特征来选择对应的算力安全治理方式,完善行业性方案,形成安全有机体。
3.4.2 创新算力安全机制,确保风险治理的灵活性
基于算力安全需求分析,构建算力安全风险预警体系和评价指标,建立健全算力安全风险研判机制、防范化解机制、沟通机制、激励机制和合作机制等。
3.4.3 加强算力安全运营监管,确保风险治理的准确性
一是根据不同业务场景和应用情境锚定安全节点,构建内容精细化、拓展性强的算力安全评估标准。二是善用人机协同模式推进算力监管模式创新,如引入自动化和智能化漏洞发现技术、模拟攻击等,推进算力安全风险的智慧排查。三是推动政府、企业、网民共同参与算力安全监督和治理,发挥各类监督主体的优势并形成互补性。
3.4.4 全面深化算力安全国际合作,确保风险治理的长效性
推动算力安全的国际治理,重点在于顺应国际算力产业发展大势,推动我国算力发展积极融入全球算力产业链。在此基础上,积极寻求对外合作,打造安全稳定、互利共赢的算力网络环境。