众多AI领域的探索者、实践者齐聚一堂,分享研究成果、交换实践经验,畅叙科技之美,2023北京智源大会近日顺利召开,作为人工智能领域综合性内行盛会,这场闪烁智慧光芒的思想交流,以百场精彩报告研讨,共同见证一场关于智能的惊叹演化。
在AI安全与对齐论坛上,众多专家学者展开交流,进入大模型时代,如何确保越发强大和通用的人工智能系统安全可控,符合人类意图和价值观,是极为重要的一个问题。这一安全问题又被称为人机对齐(AI alignment)问题,它代表了本世纪人类社会面临的最紧迫和最有意义的科学挑战之一。
论坛上「深度学习之父」Geoffrey Hinton、OpenAI创始人Sam Altman和张钹院士等14位国内外嘉宾围绕人机对齐、大模型的可同时,与此次论坛议题高度契合的科学作家布莱恩·克里斯汀(Brian Christian)的最新作品--The Alignment Problem,中文版书名:《人机对齐》也在会上正式发布。该书由湖南科学技术出版社引进出版,安远AI审校。安远AI创始人谢旻希主持了此次新书发布仪式。
《人机对齐》作者Brian Christian应邀线上发言。在发言中,他首先向读者与与会嘉宾发来问候。他为新书《人机对齐》的发布感到荣幸,并希望该书可以为中国人工智能领域的持续研究做出贡献。同时对《人机对齐》的主要内容做了简要介绍:全书共分为三篇,第一篇就当前影响机器学习系统的伦理和安全问题进行了探讨,第二篇名为自主,焦点从监督和自监督学习转移到强化学习,第三篇在监督学习、自监督学习、强化学习的基础上探讨我们如何在现实世界中对齐复杂的AI系统。希望《人机对齐》在国内的发布不仅对研究人员起到帮助,更能有助于我们把自己对于这个领域的热情传递给每一位非专业人士。他最终表达了期望,希望通过本次大会的讨论和中国在AI领域的研究来促进人工智能领域的全球发展。
《人机对齐》
【美】布莱恩·克里斯汀著;唐璐译
出版社:湖南科学技术出版社
现代的机器学习系统已经变得非常强大,可以在各种情境中代替我们观察和听取信息,并为我们作出决策。但是警钟已经敲响。随着机器学习飞速发展,人们的担忧也在与日俱增。当人工智能(AI)的行为与我们的真正目标不符时,可能会引发潜在的风险和道德问题。The researchers refer to it as the alignment problem.。
布莱恩·克里斯汀以生动的笔调,清晰地阐述了AI与我们密不可分的问题,使其畅销作品的阅读者受益匪浅。在书中,我们将认识第一批积极应对对齐问题的学者,了解他们为了避免AI发展的局面失控,付出的卓绝努力和雄心勃勃的计划。克里斯汀不仅精练地描绘了机器学习的发展史,并且亲自深入科研一线同科学家对话,准确呈现了机器学习最前沿的进展。对齐问题的研究成败将对人类未来产生至关重要的影响,读者可以深刻认识到这一点。
对齐问题还是一面镜子,将人类自身的偏见和盲点暴露出来,让我们看清自己从未阐明的假设和经常自相矛盾的目标。这是一部精彩纷呈的跨学科史诗,不仅审视了人类的科技,也审视了人类的文化,时而让人沮丧,时而又柳暗花明。
这本书在国外的出版反响热烈,被微软首席执行官萨蒂亚·纳德拉评为2021年最激励他的五本书之一,被《纽约时报》评为关于AI关键技术和道德问题的best书籍,如作者布莱恩·克里斯汀所言:“希望中国AI领域以及更广泛的中国读者也可以读到这本书,希望对你们而言,这本书是内容丰富、发人深省、鼓舞人心的,不仅对于作为研究人员有帮助,也有助于你们把自己对这个领域的热情传递给生活中的非计算机科学家。”
潇湘晨报记者周诗浩
以上是2023智源大会AI安全话题备受关注,《人机对齐》新书首发的详细内容。更多信息请关注PHP中文网其他相关文章!

在约翰·罗尔斯1971年具有开创性的著作《正义论》中,他提出了一种思想实验,我们应该将其作为当今人工智能设计和使用决策的核心:无知的面纱。这一理念为理解公平提供了一个简单的工具,也为领导者如何利用这种理解来公平地设计和实施人工智能提供了一个蓝图。 设想一下,您正在为一个新的社会制定规则。但有一个前提:您事先不知道自己在这个社会中将扮演什么角色。您最终可能富有或贫穷,健康或残疾,属于多数派或边缘少数群体。在这种“无知的面纱”下运作,可以防止规则制定者做出有利于自身的决策。相反,人们会更有动力制定公

许多公司专门从事机器人流程自动化(RPA),提供机器人以使重复性任务自动化 - UIPATH,在任何地方自动化,蓝色棱镜等。 同时,过程采矿,编排和智能文档处理专业

AI的未来超越了简单的单词预测和对话模拟。 AI代理人正在出现,能够独立行动和任务完成。 这种转变已经在诸如Anthropic的Claude之类的工具中很明显。 AI代理:研究

快速的技术进步需要对工作未来的前瞻性观点。 当AI超越生产力并开始塑造我们的社会结构时,会发生什么? Topher McDougal即将出版的书Gaia Wakes:

产品分类通常涉及复杂的代码,例如诸如统一系统(HS)等系统的“ HS 8471.30”,对于国际贸易和国内销售至关重要。 这些代码确保正确的税收申请,影响每个INV

数据中心能源消耗与气候科技投资的未来 本文探讨了人工智能驱动的数据中心能源消耗激增及其对气候变化的影响,并分析了应对这一挑战的创新解决方案和政策建议。 能源需求的挑战: 大型超大规模数据中心耗电量巨大,堪比数十万个普通北美家庭的总和,而新兴的AI超大规模中心耗电量更是数十倍于此。2024年前八个月,微软、Meta、谷歌和亚马逊在AI数据中心建设和运营方面的投资已达约1250亿美元(摩根大通,2024)(表1)。 不断增长的能源需求既是挑战也是机遇。据Canary Media报道,迫在眉睫的电

生成式AI正在彻底改变影视制作。Luma的Ray 2模型,以及Runway的Gen-4、OpenAI的Sora、Google的Veo等众多新模型,正在以前所未有的速度提升生成视频的质量。这些模型能够轻松制作出复杂的特效和逼真的场景,甚至连短视频剪辑和具有摄像机感知的运动效果也已实现。虽然这些工具的操控性和一致性仍有待提高,但其进步速度令人惊叹。 生成式视频正在成为一种独立的媒介形式。一些模型擅长动画制作,另一些则擅长真人影像。值得注意的是,Adobe的Firefly和Moonvalley的Ma

ChatGPT用户体验下降:是模型退化还是用户期望? 近期,大量ChatGPT付费用户抱怨其性能下降,引发广泛关注。 用户报告称模型响应速度变慢,答案更简短、缺乏帮助,甚至出现更多幻觉。一些用户在社交媒体上表达了不满,指出ChatGPT变得“过于讨好”,倾向于验证用户观点而非提供批判性反馈。 这不仅影响用户体验,也给企业客户带来实际损失,例如生产力下降和计算资源浪费。 性能下降的证据 许多用户报告了ChatGPT性能的显着退化,尤其是在GPT-4(即将于本月底停止服务)等旧版模型中。 这


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

Video Face Swap
使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

热工具

SublimeText3 Linux新版
SublimeText3 Linux最新版

SecLists
SecLists是最终安全测试人员的伙伴。它是一个包含各种类型列表的集合,这些列表在安全评估过程中经常使用,都在一个地方。SecLists通过方便地提供安全测试人员可能需要的所有列表,帮助提高安全测试的效率和生产力。列表类型包括用户名、密码、URL、模糊测试有效载荷、敏感数据模式、Web shell等等。测试人员只需将此存储库拉到新的测试机上,他就可以访问到所需的每种类型的列表。

SublimeText3汉化版
中文版,非常好用

VSCode Windows 64位 下载
微软推出的免费、功能强大的一款IDE编辑器

PhpStorm Mac 版本
最新(2018.2.1 )专业的PHP集成开发工具