记者看ISC2023：人工智能时代，安全是头等大事

2023-08-16 05:22:09 来源：通信世界网小 中

安全是人类对美好生活的向往与追求，是社会发展的永恒主题，当前人工智能正在深刻改变人类的生产生活方式，在给人类带来重大发展机遇的同时，也对数据安全、社会治理以及科技伦理带来严峻的挑战。近日，在ISC2023第十一届互联网安全大会上，来自安全领域的领导、专家纷纷为针对人工智能监管、数据资源整合、网络安全建设等主题提出了自己的真知灼见，为我国未来安全产业发展提出了宝贵建议。

(资料图)

人工智能监管时不我待

当前，通用人工智能发展日益体现出技术创新快、应用渗透强、经济社会影响大、国际竞争激烈的特点。我国人工智能产业发展也已进入快车道，数据安全是网络空间安全的基础，也是国家安全的重要组成部分。

最近这段时间，以ChatGPT为代表的生成式人工智能热度一直不减，它大力推动了我国经济社会发展，已经和将要发挥更重要的作用。但是也会看到，当前生成式人工智能还有很多亟待解决的问题，比如生成信息的准确性、真实性，以及价值观等方面存在一些问题，亟待研究解决。

第十三届全国政协经济委员会副主任苏波指出，未来要完善人工智能数据安全监管体系，用规范监管保障安全发展，加快完善人工智能健康发展的监管规则和法律法规，推进明确人工智能数据安全法律原则，确立不同参与主体在人工智能生命周期各阶段所享有的数据权利与承担的安全责任，制定人工智能产品应用服务的数据安全服务产品体系，通过检测验证提升人工智能产品安全性和成熟度，降低人工智能数据安全风险。

对人工智能的监管已经在路上。日前中央网信办会同相关部门起草并发布了《生成式人工智能服务管理暂行办法》(以下简称《办法》)，于8月15日正式施行。《办法》在起草过程中始终把推进人工智能等新技术发展应用作为工作的重要出发点和落脚点，支持和促进人工智能产业发展。

中央网信办网络安全协调局副局长罗锋盈表示，《办法》将规范的范围限制在生成式人工智能，也就是大家熟悉的大语言模型领域，并且只规范向公众提供服务的情形，企业、科研机构、高校等开展科研公关不在监管之列，自动驾驶等其他人工智能应用不受影响。在监管方面，未来还将全面提升新技术、新应用安全风险防范能力，坚持促进发展和依法管理相统一，极大地培育人工智能、物联网、下一代通信网络等新技术新应用，又积极利用法律法规和标准规范引导新技术、新应用。

因此未来还要积极创新人工智能技术手段，用技术进步解决安全风险难题，加强人工智能数据安全保护基础理论研究和技术研发。苏波指出，要发展负责任、可信任、能受控的通用人工智能，鼓励企业建设完善人工智能开源学习框架，增强框架内置学习数据和基础设施，并通过我国巨大的市场优势，加快培育人工智能开源平台生态圈和产业链。

与此同时，罗锋盈指出，未来还需要构建网络安全教育技术产业融合发展良性生态。要坚持网络安全教育、技术、产业融合发展，形成人才培养、技术创新产业（300832）发展的良性生态；要坚持开拓创新，网络安全人才以创新发展规律，深化国家网络安全基底建设，打造人才高地、创新高地、产业集聚区；要坚持固本强基，持续深化网络安全建设示范项目，不断完善课程、教材、实验环境等教学体系；要创新企业和高校联合培养机制，大力实施网络安全学院学生创新资助计划，由企业根据网络安全实际需求和产业共性问题提出研究问题，遴选优质在校的学生开展创新研究，培养交叉型、复合型的人才队伍。

将数据资源转化为数据优势

数据是人工智能发展的基础。很多专家学者提出现在生成式人工智能发展的瓶颈是数据集的问题，境外一些数据开源数据质量不是很好，有些数据存在价值观问题，有些数据存在违反法律法规问题，不合格的数据生产出的大模型就会存在问题。因此将海量数据（603138）转换为真正能为大模型训练所用的数据是下一步的重点。

因此未来还要加快人工智能数据资源的建设，建立适合我国国情的数据流通共享机制，培育规范数据交易市场，鼓励不同主体安全的进行数据交换，从而构建支撑我国人工智能产业发展的优质数据资源。

随着数据上升为重要的生产要素，数据安全已经成为数字经济发展的焦点，人工智能等数字技术的应用本身既是安全防御的重点、手段，也是保障的有力手段，需要将大数据、人工智能、互联网等这些技术融合，提升保障能力。数字安全需要从产业技术管理多个维度保障，还需要人才、法规来支撑。

在海量的数据需求面前，跨境数据流动管理也面临巨大的挑战。关于如何保证数据安全，中国工程院院士邬贺铨指出，应该主动迎接IPv6主导的互联网时代。通过IPv6提升数据的安全能力，支撑跨境数据流动的有效管理，护航数据安全流动。还要摒弃硬件式碎片化弱协同的传统安全防护手段，向云化、服务化的理念升级。

“数字安全企业需要建立体系化的安全运营服务框架，面向各行各业输出数字安全能力，帮助企业构建安全防御体系，保护数据安全与商业秘密。完善数字安全的生态系统，要覆盖工业企业设备供应商、基础电信运营商、云服务商、工业互联网平台运营商、工业应用提供商、数字安全提供企业、第三方检测机构与用户等，实现危险威胁处置情报共享。”邬贺铨指出。

作为安全领域的领军企业，360集团创始人周鸿祎指出，人工智能带来了安全问题比我们相信的要更多，生成式AI带来内容安全问题、安全可控问题将更为显著。所以数字化攻击的后果就是企业业务停顿，政府的数据丢失直接威胁国家安全。在此次大会上，360发布了新一代安全产品“360安全云”，进一步服务产业数字化，为企业、城市和政府机构筑牢数字安全屏障。

“360安全云”提供的数字安全托管运营服务将全面超越传统安全服务，是真正云化的服务，底气在于360在“云服务”方面沉淀的三大优势，即服务规模和响应速度、算力资源以及专家资源。据了解，360数字安全托管运营服务模式下，企业的安全成本投入将降至原来的1/3~1/4，针对中小微企业还将提供免费服务，让“数字安全一个都不能少”。

网络安全还需保持高度警惕

当今世界网络空间已经成为大国博弈焦点，全面加强网络安全保障体系和能力建设是应对新形势、新挑战的必然之举。中国互联网协会理事长尚冰指出，互联网行业要把握数字经济快速发展新机遇，高度关注人工智能等新技术引发的安全问题，积极应对新挑战，以高水平安全能力保障高质量发展。

尚冰指出，互联网龙头企业要积极开展原创性、引领性、基础性安全技术攻关，延伸技术领域拓展产品服务范围，完善产品矩阵，互联网初创企业要发挥快速灵活、资源集中的特点，以创新技术和产品切入细分领域，推动产品服务和行业发展紧密结合。严格落实网络安全相关法律法规和政策文件要求，加强自身安全能力建设，构建全流程、全环节隐私合规体系，抓实技术保障和引用分发审核，坚决打击网络诈骗、网络赌博等行为，构建和谐、安全的网络生态圈。

网络安全也是互联网安全发展的重要基石。当前世界大变局和产业大变革历史性交汇，网络空间成为大国博弈的主战场，网络安全保障的基础性、关键性作用更加突出。近年来，工业和信息化部系统推进网络安全保障体系和能力建设取得积极成效，统筹推进网络安全法律法规、政策标准建设、制度体系不断健全，加快完善集事前防范、监测预警、应急处置、信息共享于一体的行业联防联控防护体系，监测和处置能力初步构建，网络空间环境大幅度改善，人民群众利益得到切实保护。

工业和信息化部网络安全管理局局长隋静指出，未来应着力强化网络安全保障体系建设，集聚力量进行原创性、引领性科技攻关，着力提升产业链、供应链韧性和安全水平。前瞻布局人工智能与网络安全技术融合创新，增强产业链、供应链韧性和安全水平；完善网络安全法规制度，加强政策供给和标准指引，健全重要领域安全管理体系，加快新型融合领域安全管理制度建设，落实网络安全主体责任，建立分类分级管理制度，加强安全技术能力建设，提升自身安全防护水平；创新网络安全服务模式，大力发展网络安全保险服务，深化产融合作，引导资本加大对产业支持力度，加快培育一批网络安全专精特新企业。

关键词：

资讯

关注

记者看ISC2023：人工智能时代，安全是头等大事

2023-08-16 05:22:09 来源：通信世界网 小 中

相关新闻

资讯

关注

2023-08-16 05:22:09 来源：通信世界网小中