搜索
首页科技周边人工智能人工智能时代下算法治理的内核与路径

2021年12月底,四部门联名签署对外公布《互联网信息服务算法推荐管理规定》(简称“《算法推荐规定》”),并已于2022年3月1日正式实施。基于此,有必要进一步厘清算法治理的基础内核,探究算法时代治理新路径。

人工智能时代下算法治理的内核与路径

一、当前我国算法治理的法律体系

当前我国算法治理的立法体系已初步建成,构建起立法层级广、多部门联动、快速扩张的法律体系。立法监管由此前聚焦在网络安全、数据信息保护转变为当前深度的治理,即人工智能时代的算法治理。

在顶层设计方面,《法治社会建设实施纲要(2020-2025年)》就提出健全算法推荐、深度伪造等新技术应用的规范管理办法。另外,《“十四五”数字经济发展规划》指出加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系。

在法律法规依据方面,《民法典》《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》分别从人格权、网络安全、数据安全、信息保护利用、互联网服务等角度进行了统筹性的规范。

在算法的专门性规范方向,有2021年9月发布的部门规范性文件《关于加强互联网信息服务算法综合治理的指导意见》和2022年《算法管理规定》对算法相关规范进行了全面细致的规范。

在其他规范性文件或国家标准方面,多部门对机器学习、人工智能伦理、信息合成、平台监管等多方面有间接性的规范,如《国务院反垄断委员会关于平台经济领域的反垄断指南》《国家市场监督管理总局、国家网信办、国家发展改革委、公安部、人力资源社会保障部、商务部、中华全国总工会关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》《新一代人工智能伦理规范》《互联网信息服务深度合成管理规定(征求意见稿)》《信息安全技术 机器学习算法安全评估规范(征求意见稿)》《信息安全技术个⼈信息安全规范》等。

虽然我们已经在多个层面进行立法,但是当前算法相关立法体系还存在问题。一是立法层级分散,主要聚焦在部门规范性文件。法律法规的制定时间成本明显高于部门规章和各类规范性文件,这就导致目前针对算法这一新兴问题主要在部门规范性文件及国家标准中,容易出现强制性不够、执法监管效果打折扣、部门职责划分不清等问题。同时多部门的规范性文件给平台企业也造成无法适从、标准不统一、专项行动式的紧急应对等情形发生。二是对平台的监管主要在事后被动监管,缺乏精细化的平台监管规范。对平台的监管主要根据平台的过错、行为、责任采取行政处罚措施,而此种监管模式在于缺乏事前的过程性监管,即便现在有算法备案制度,也是主要停留在特定重要领域的算法备案,再者对于备案的算法审查逻辑和标准也需要根据算法分级分类制度及时调整。三是对算法的技术性规范监管较少,立法缺少回归算法本源。算法是一个技术概念,是“计算的方法”或“处理数据的方法”,同时算法也是具备一定的学习能力的,能够根据现有的算法基础和数据不断演变。对于这些计算机指令的技术规范当前仍缺乏立法上的规范,目前主要规范是从网络安全、法律风险等角度来规制的。

二、算法治理的内核、路径与体系建设

为了促进算法相关立法体系的完善,实现算法的精准治理,笔者认为算法治理的内核在于数据信息安全。一方面算法是在自然语言基础上建构起来的一系列程序逻辑,本质上就是且、或、非的逻辑运算。但无论算法多么复杂,其本质也是“用数据训练的模型”,也就是通过不断投喂数据来实现算法的不断运行和进化。算法离不开数据的支持,当数据的处理活动出问题,那算法必然就出问题。因此关注算法的治理,本质就是数据的安全和合理处理。

另一方面自动化决策算法引发的“大数据杀熟”等法律风险已引起越来越多的社会关注,这说明算法治理的本质还在于信息的合理利用。此外,算法的灵魂在于其正向的价值观。数据信息的利用处分需要追求正向价值观,逐步实现算法的可验证、可审核、可监督、可追溯、可预测、可信赖,同时具备普惠性、公平性和非歧视性。

需要说明的是,数据信息安全包括数据安全和信息安全两大块,数据安全就是规范数据处理活动,保障数据安全,维护各方利益,保障数据开发利用和产业发展;信息安全就是以《个人信息保护法》为主体,规范个人信息处理活动,促进个人信息合理利用,从严保护个人隐私。

明晰了算法治理的内核,才能聚焦立法规范和监管的重点,对于当前实践中算法治理的困境问题有新的解决方案。人工智能乃至整个经济社会的发展离不开海量数据和个人信息的填充,自动化决策算法充分利用数据信息发挥更大的经济和社会价值。因此,笔者认为应当构建算法治理的“两内在一外延”保障路径,两个内在要素是强化隐私保护和拓宽数据的广度、深度和精度,一个外延保障是算法安全保障机制。

一是强化隐私保护。《民法典》对于隐私权的保护是在人格权编中的,足以显示隐私保护的重要性。当下各大平台的隐私政策都在调整更新,而这一轮的更新势必会对相关平台的算法无序发展带来更多的限制。隐私保护与算法发展是相对的,强化隐私保护势必会阻碍算法的更多元化发展,但正是基于隐私保护的重要性,避免算法侵害他人合法权益。强化隐私保护可以从以下几点着手:

其一,强化隐私保护体现在立法内容、算法设计和应用、备案审查、执法监管重点、法律责任承担等方面,这是算法治理的基本理念也是底线原则。

其二,强化重点人群的隐私保护,特别是不满十四周岁的未成年人、老年人隐私保护,劳动者和消费者等群体也十分重要。按照《民法典》隐私权保护相关规定和《个人信息保护法》中敏感个人信息的相关规定进行信息保护与数据处理。个人信息处理活动满足个人信息处理的五项重要原则,还有遵照“告知-知情-同意”的核心个人信息处理规则。

其三,有关隐私保护的纠纷主要是通过私法救济的方式解决,而算法治理中涉及到的隐私保护问题就必然需要结合更多公法救济的渠道,因此更多公法治理算法时需要关注隐私保护的传统属性与公私法治理的融合问题。

二是拓宽数据的广度、深度和精度。算法治理绝不是过度强调监管惩罚,而是要强调事前的统筹管理。类似深度学习等自动化决策是需要海量数据的投喂,缺乏数据量基础、数据不精准都会导致算法算到错误的方向。如企业在进行“用户画像”的时候,当用户数据基数少或某一维度数据缺失的时候,就无法精准推送相关信息或提供相应服务。而在拓宽数据的广度、深度和精度的时候,必然要受到数据合法处理活动的限制,处理该问题的要点如下:

其一,拓宽数据的过程首要是保障数据安全,数据安全才能确保算法的安全稳定,此为数据处理的基石。

其二,建立重要数据和数据分级分类管理制度。大量数据的涌入可能会打乱算法的基本秩序,因而对数据进行分级分类是各大平台,尤其是超大型平台需要规范的。

其三,建立算法中的验证纠错机制,即对数据的质量进行验证,如抽检机制、结果预警等发现数据的缺陷,以便及时纠偏。

三是算法安全保障机制。有了前两者隐私保护和数据的基础,接下来健全算法安全保障机制就尤其重要。安全保障机制包括科技伦理审查、立法保障、安全评估监测与安全事件应急处置等多方面,形成技术、法律、管理的多重保障。具体措施包括如下:

其一,算法向善。算法备案审查的基础性要点在于科技伦理审查,此项审查的难点在于算法的不可预判性,即便当下算法规则审查合理,但随着算法本身外延式的延伸,就会导致算法的结果存在不确定性。因此,应当建立类似算法伦理工作小组的专门性组织,由科技、法律等领域专家及监管部门和第三方行业代表等共同组成,加强定期审查与跟踪监督,严防算法价值观问题。

其二,立法保障方面。当前有关算法治理的立法顶层设计已逐步完成,接下来除了算法推荐管理外的其他算法活动需要加以重视,如算法的技术研发、数据挖掘、规则内容、运营支持、人员管理等多角度构建起算法治理新格局。

其三,健全安全评估监测、安全事件应急处置等管理制度和技术措施。对企业来说,要落实算法安全主体责任,守住算法安全的第一道防线,建立健全算法机制机理审核。对监管部门和行业组织来说,制定算法安全行业标准体系,宣扬算法安全基本理念,形成全社会多渠道监督合力。

算法化的时代给各行各业带来了深刻的影响,也导致现在的组织形态发生新的动态变化。算法滥用所导致的问题可能是行业巨大的,算法治理需要跟算法开发同步开展,有效构建算法治理的“两内在一外延”保障路径,建立良好的数字营商环境,促进数字经济社会的稳步健康发展。

以上是人工智能时代下算法治理的内核与路径的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:51CTO.COM。如有侵权,请联系admin@php.cn删除
大多数使用的10个功率BI图 - 分析Vidhya大多数使用的10个功率BI图 - 分析VidhyaApr 16, 2025 pm 12:05 PM

用Microsoft Power BI图来利用数据可视化的功能 在当今数据驱动的世界中,有效地将复杂信息传达给非技术观众至关重要。 数据可视化桥接此差距,转换原始数据i

AI的专家系统AI的专家系统Apr 16, 2025 pm 12:00 PM

专家系统:深入研究AI的决策能力 想象一下,从医疗诊断到财务计划,都可以访问任何事情的专家建议。 这就是人工智能专家系统的力量。 这些系统模仿Pro

三个最好的氛围编码器分解了这项代码中的AI革命三个最好的氛围编码器分解了这项代码中的AI革命Apr 16, 2025 am 11:58 AM

首先,很明显,这种情况正在迅速发生。各种公司都在谈论AI目前撰写的代码的比例,并且这些代码的比例正在迅速地增加。已经有很多工作流离失所

跑道AI的Gen-4:AI蒙太奇如何超越荒谬跑道AI的Gen-4:AI蒙太奇如何超越荒谬Apr 16, 2025 am 11:45 AM

从数字营销到社交媒体的所有创意领域,电影业都站在技术十字路口。随着人工智能开始重塑视觉讲故事的各个方面并改变娱乐的景观

如何注册5天ISRO AI免费课程? - 分析Vidhya如何注册5天ISRO AI免费课程? - 分析VidhyaApr 16, 2025 am 11:43 AM

ISRO的免费AI/ML在线课程:通向地理空间技术创新的门户 印度太空研究组织(ISRO)通过其印度遥感研究所(IIR)为学生和专业人士提供了绝佳的机会

AI中的本地搜索算法AI中的本地搜索算法Apr 16, 2025 am 11:40 AM

本地搜索算法:综合指南 规划大规模活动需要有效的工作量分布。 当传统方法失败时,本地搜索算法提供了强大的解决方案。 本文探讨了爬山和模拟

OpenAI以GPT-4.1的重点转移,将编码和成本效率优先考虑OpenAI以GPT-4.1的重点转移,将编码和成本效率优先考虑Apr 16, 2025 am 11:37 AM

该版本包括三种不同的型号,GPT-4.1,GPT-4.1 MINI和GPT-4.1 NANO,标志着向大语言模型景观内的特定任务优化迈进。这些模型并未立即替换诸如

提示:chatgpt生成假护照提示:chatgpt生成假护照Apr 16, 2025 am 11:35 AM

Chip Giant Nvidia周一表示,它将开始制造AI超级计算机(可以处理大量数据并运行复杂算法的机器),完全是在美国首次在美国境内。这一消息是在特朗普总统SI之后发布的

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
4 周前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳图形设置
4 周前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您听不到任何人,如何修复音频
4 周前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.聊天命令以及如何使用它们
4 周前By尊渡假赌尊渡假赌尊渡假赌

热工具

mPDF

mPDF

mPDF是一个PHP库,可以从UTF-8编码的HTML生成PDF文件。原作者Ian Back编写mPDF以从他的网站上“即时”输出PDF文件,并处理不同的语言。与原始脚本如HTML2FPDF相比,它的速度较慢,并且在使用Unicode字体时生成的文件较大,但支持CSS样式等,并进行了大量增强。支持几乎所有语言,包括RTL(阿拉伯语和希伯来语)和CJK(中日韩)。支持嵌套的块级元素(如P、DIV),

Dreamweaver Mac版

Dreamweaver Mac版

视觉化网页开发工具

安全考试浏览器

安全考试浏览器

Safe Exam Browser是一个安全的浏览器环境,用于安全地进行在线考试。该软件将任何计算机变成一个安全的工作站。它控制对任何实用工具的访问,并防止学生使用未经授权的资源。

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

PhpStorm Mac 版本

PhpStorm Mac 版本

最新(2018.2.1 )专业的PHP集成开发工具