加强AI安全能力以实现AI应用的最大价值释放

在日前召开的绿盟科技智慧安全大会上，中国工程院院士邬江兴强调，AI深度应用对数据、算法、算力的要求很高，同时也对安全隐私能力提出了巨大挑战。他指出，只有在确保数据安全和隐私保护的前提下，同时健全AI能力与安全，才能真正释放AI技术的应用价值

谭建荣院士在会上表示，生成式人工智能、元宇宙数字空间和拟人化机器人是三个具有颠覆性的技术。这些技术的交叉融合将会开创信息技术理论方法和应用的新局面。然而，生成式人工智能的应用也存在着数据合规和数据质量等方面的风险。这些风险不仅来自应用层面，也来自开发层面，因此需要进行预警和预防

如何预防生成式人工智能的风险？在网络安全领域存在着许多未知漏洞的情况下，我们应该如何有效地防范呢？

数据安全事关多个层面的协同防护

国家信息中心副处长国强表示，争夺“数据主权”成为全球数据安全发展新态势，各国纷纷出台数据战略，立法维护国家数据主权。

“《关于构建数据基础制度更好发挥数据要素作用的意见》对原始数据提出了‘可用不可见’的要求，基于此，我们团队将数据作为资产进行梳理和管理，对数据进行分类分级，并进一步提高对资产台账敏感数据发现的准确性和效率。”绿盟科技集团首席技术官叶晓虎表示，以资产的方式管理数据需要技术创新，再通过工程化实现成熟的行业应用。

在国家相关办法和政策的指引下，各层面数据系统建设主体进行了协同创新的探索。

国强介绍，国家层面的“数盾”系统旨在保障数据安全，以安全平台为基础，整合现有的网络和数据安全能力，建立起贯穿网络层、计算层（云平台）、应用层、数据层的协同数据安全防护体系

叶晓虎介绍说，绿盟科技的"风云卫"安全大模型是基于海量安全专业知识训练而构建的。该系统覆盖了安全运营、检测响应、攻防对抗、知识问答等多种场景，可以辅助网络安全运营的决策。系统的建设从"场景牵引，技术驱动，生态协同"三个维度进行，通过大模型解决了实战态势指挥调度、红蓝对抗辅助决策以及安全运营效能提升方面的难题

通过创新数据安全技术，可以实现安全且有效的应用

“数字经济发展离不开数字安全保障。加快推动数字经济可持续发展，必须维护数据安全和网络安全，构建好安全底座。”邬江兴指出，当前应进一步加快提升数字技术核心技术的研发和发展，构建数据安全和网络安全新态势，为数字经济的发展保驾护航。

保障数据安全是为了有效应用，创新技术应在安全基础上促进其有效流转实现价值。国强表示，国家信息中心将不断推动“数盾”体系建设试点验证，以安全赋能“东数西算”等算力基础设施，构建全国算力网络安全生态。

“数据安全技术创新的重点，应放在以技术支撑解决数据共享交换如何安全流转等方面。”叶晓虎表示，为保障数据和应用在存储态、运行态、传输态的机密性和完整性，更高性能实现数据“可用不可见”，绿盟科技的数据保险箱通过可信计算环境、全密态数据处理、动态权限管控等技术，实现数据可靠保护、任务可信计算和数据可控流转等功能，帮助数据共享合法合规、安全高效地实现。

中国计算机学会与绿盟科技在会上共同发布了2023年度的"鲲鹏"科研基金项目。据介绍，今年的"鲲鹏"科研基金将重点关注数据安全与隐私计算、人工智能赋能与对抗、新型网络安全攻防技术三个方向，旨在促进国家科研成果的有效转化和落地，并通过产学研三方的合作，最大限度地激发安全产业的潜力，推动国内整体安全市场适应人工智能广泛应用的进程

需要重写的内容是：（大会主办方提供的图片）

（来源：科技日报）

以上是加强AI安全能力以实现AI应用的最大价值释放的详细内容。更多信息请关注PHP中文网其他相关文章！