検索
ホームページテクノロジー周辺機器AIChatGPT は知的革命を引き起こします! OpenAI が AGI ロードマップをリリース、最終的には超インテリジェントな世界につながる

ChatGPT が普及した後、Microsoft、Google、Meta などの大手企業がこのゲームに参入しました。

その結果、人々はその広範な適用についても懸念を表明しています。

元アルファベットエグゼクティブディレクターのエリック・シュミット氏と他の共著者は、WSJに掲載された記事の中で、

生成人工知能は啓蒙主義以来経験したことのない哲学的かつ実践的な課題を提起していると述べた。

ChatGPT は知的革命を引き起こします! OpenAI が AGI ロードマップをリリース、最終的には超インテリジェントな世界につながる

つい昨日、OpenAI CEO の Sam Altman 氏は、OpenAI の汎用人工知能 (AGI) に関する現在および今後の計画を共有する記事を発表しました。

この記事では、OpenAI の使命は、AGI が全人類に確実に利益をもたらすことであると強調しています。

ChatGPT は知的革命を引き起こします! OpenAI が AGI ロードマップをリリース、最終的には超インテリジェントな世界につながる

OpenAI ビジョン: AGI が全人類に利益をもたらすことを保証する

この記事では、OpenAI が最も懸念している 3 つの原則を提唱します。

AGI が最終的に構築に成功すれば、この技術はより多くの可能性をもたらし、世界経済の発展を促進するだけでなく、新たな科学的知識の発見を変え、人類があらゆる面で生活水準を向上させるのに役立ちます。

AGI は誰にでも驚くべき新しい能力を与えることができます。

AGI が手の届く世界では、誰もがほぼすべての認知能力のサポートを受けることができ、AGI は人間の知性と創造性を高める大きなパワーアンプになる可能性があります。

しかしその一方で、一部の人々が心配しているように、一般的な人工知能は深刻な虐待、事故、社会的混乱を引き起こす可能性もあります。

しかし、AGI の利点は驚くべきものであり、この問題を無視して社会の発展を永久に停止させることはできません。逆に、社会と AGI 開発者はそれをうまく実現する方法を見つけなければなりません。

一般的な人工知能と共存する将来像を予測することは困難です。現在の AI の進歩は新たな課題に直面する可能性がありますが、ChatGPT が成功した時点で、当社が最も懸念している原則をいくつか挙げました。 about:

1. AGI が人類に力を与え、人類が宇宙で最大の繁栄を達成できることが期待されています。私たちは未来が偽りのユートピアになることを望んでいませんが、テクノロジーの良い面を最大限に活用し、悪い面を最小限に抑えて、AGI が人間の善意を増幅させる存在になれることを望んでいます。

2. AGI の利点、アクセス、ガバナンスが公平な方法でより広く共有されることを願っています。

3. 潜在的なリスクに正しく対応します。こうしたリスクに直面すると、理論上は正しいと思われることでも、実際にコントロールするのは予想以上に難しいことがよくあります。私たちは、「復帰不能点」を最小限に抑えるために、テクノロジーの強力ではないバージョンを導入することで学習し、適応し続ける必要があります。

短期目標: AGI に向けた 3 つの準備をする

したがって、OpenAI は短期的には次のことを行う予定です。

まず第一に、当社はより強力な AI システムの構築を継続しており、AGI を迅速に展開して、対応するアプリケーション エクスペリエンスを蓄積したいと考えています。

OpenAI の見解では、AGI を慎重に管理する最善の方法は、AGI が遍在する世界に徐々に移行することです。将来的には、強力な人工知能テクノロジーが世界の進歩のペースを加速させることができると私たちは予想しています。

段階的なアプローチにより、国民、政策立案者、研究機関は、AGI テクノロジーによってもたらされる変化を理解し、経験する時間を確保できるようになります。これらの制度のメリットとデメリットを直接理解し、経済組織の形態を調整し、効果的な監督を実施します。

ChatGPT は知的革命を引き起こします! OpenAI が AGI ロードマップをリリース、最終的には超インテリジェントな世界につながる

#同時に、段階的開発手法は社会と AI の進歩を促進し、人々が比較的低いリスクで自分自身を理解できるようにすることもできます。

OpenAI は、AI アプリケーションの課題をうまく解決する最善の方法は、迅速な学習と慎重な反復による緊密なフィードバック ループを採用することであると考えています。新しいテクノロジーの影響下で、社会は「人工知能システムに何ができるのか、偏見をどう排除するのか、雇用の喪失にどう対処するのか」といった大きな課題に直面することになる。

AI テクノロジーの使用を増やすことは大きな効果をもたらします。OpenAI は、モデルをサービス API に組み込んでオープンソースにすることで、このテクノロジーの推進に貢献したいと考えています。

OpenAI は、開発するシステムが AGI に近づくにつれて、モデルの作成と展開の両方においてますます慎重になっていると述べました。

OpenAI は、大規模なモデルを使用するメリットとデメリットを比較検討する必要があります。先進的な大規模モデルの使用は重要な科学技術の進歩を示す一方で、企業や機関はモデルの使用後、悪意のある行為者をどのように制限し、悪影響を回避するかなどの問題も考慮する必要があります。社会も経済も。

第二に、OpenAI は、より一貫性があり、制御可能なモデルを作成するために懸命に取り組んでいます。 GPT-3 の最初のバージョンから InstructGPT および ChatGPT まで、この段階的な変換は AI セキュリティにおける OpenAI の取り組みを示しています。

人間社会は、人工知能の使用方法に関して非常に幅広い境界線に到達する必要があることは注目に値します。モデルがより強力になるにつれて、OpenAI は新しい調整技術を開発する必要があります。

OpenAI の短期計画は、AI を使用して、人間がより複雑なモデルの出力を評価し、複雑なシステムを監視できるようにすることであり、長期的には、OpenAI は AI を使用して、より優れたアライメント テクノロジの取得を支援します。

OpenAI は、人工知能の安全性と機能は同様に重要であり、この 2 つを別々に議論すべきではないと考えています。 OpenAI は、最も安全な作業は最も有能なモデルから得られると述べています。つまり、人工知能の安全性を高めることは、AI研究を進める上で非常に重要なのです。

第三に、OpenAI は、人工知能システムのガバナンス、AI システムによって生み出される利益の分配、アクセス権の共有という 3 つの重要な問題を地球規模で解決したいと考えています。

さらに、OpenAI の会社憲章によれば、OpenAI はセキュリティを向上させるために他の組織を支援する必要があり、AGI のその後の開発において競合他社と競合することはできません。

OpenAI の投資ルールは、研究機関自体が壊滅的に危険なテクノロジーを使用して無制限の価値やリスクを獲得しようとする誘惑にかられないように、株主が獲得できる利益に上限を設定しています。

OpenAI は、非営利組織によって管理されており、この組織が人類の利益のために運営され、いかなる営利目的も優先されます。

最後に、OpenAI は、世界中の政府が一定規模を超えた機械学習トレーニングの監督を維持する必要があると考えています。

長期目標: より豊かな超インテリジェントな世界

短期計画と比較すると、OpenAI の AGI の長期開発はより野心的であるように見えます。

OpenAI は、人類の未来は人間自身によって決定されるべきであり、進歩に関する情報を一般の人々と共有することが重要であると考えています。したがって、すべての AGI 開発プロジェクトは厳密に精査され、重要な決定については一般の人々の意見を聞く必要があります。

OpenAI の見解では、最初の AGI は人工知能の継続的な開発における小さなノードにすぎず、新たな進歩はこのノードから引き出され続けるでしょう。同社は、将来の AI の発展は、私たちが過去 10 年間に長い間経験してきた進歩のペースと同様になる可能性があると予測しています。

もしかしたら、いつか世界は激変し、テクノロジーの進歩は人類に大きなリスクをもたらすかもしれません。 「置き場所を間違えた」超インテリジェント AGI は、世界に深刻な危害を引き起こす可能性があります。

したがって、OpenAI は、AGI の開発スピードを遅くしたほうが安全性を確保しやすいと考えています。テクノロジーの進歩により、AGI を急速に開発できるようになりましたが、減速を維持することで社会が適応するのに十分な時間が与えられます。

超知性を備えた世界への移行の成功は、人類の歴史の中で最も重要で、有望で、そして恐ろしいプロジェクトかもしれません。その日がいつ来るかは誰も保証できませんが、賭け金は明らかであり、全員が団結するのに役立ちます。

何があっても、想像を超える豊かな世界になるでしょう。そしてOpenAIは、この繁栄に見合った汎用人工知能を世界に貢献したいと考えています。

ChatGPTは知的革命の到来を告げる

最近、ヘンリー・キッシンジャー元米国国務長官、元アルファベット常務取締役エリック・シュミット、そしてMITシュワルツマン・スクール・オブ・コンピューティングの初代学部長ダニエル・ハッテンロッカーは次のように書いた。記事「ChatGPT は知的革命を告げる」。

記事は、現在の生成型人工知能に対する彼らの懸念を明らかにしました:

生成型人工知能は、啓蒙主義以来経験されていない哲学的および実践的な課題をもたらします。

この記事は、ChatGPT が人間に及ぼす現在の影響についての説明から始まります。

新しいテクノロジーは、印刷の発明以来一度も衰えることなく、人間の認知プロセスを変えることを目指しています。

1455 年にグーテンベルクの聖書を印刷するために使用された技術により、人間の抽象的な概念が広く急速に広まりました。しかし、今日の新しいテクノロジーはこのプロセスを逆転させます。

印刷機は現代の人間の思考のほとばしりを引き起こし、新しいテクノロジーによってその洗練と精緻化が可能になりました。

その過程で、人間の知識と人間の理解の間にギャップが生じます。

この移行をうまく乗り切るには、人間の心と機械との相互作用に関する新しい概念を発明する必要があります。これは人工知能の時代における根本的な課題です。

この新しい技術は生成型人工知能と呼ばれるもので、代表的なものはOpenAI研究所が開発したChatGPTです。

その機能がさらに広範になるにつれて、人類の知識を再定義し、現実構造の変化を加速し、政治と社会を再編成するでしょう。

生成人工知能は、人間の合理性への革命的な道を切り開き、知識の統合のための新たな地平を切り開きます。

しかし、この 2 つには明らかな違いもあります。悟りの知識は段階的に達成され、各段階は測定可能であり、教えることが可能です。

ChatGPT などの AI システムは、大量の既存の情報を保存して絞り込むことができ、人間にはできないプロセスを説明することなく結果を出力できます。

さらに、人工知能の能力は静的なものではなく、テクノロジーの進歩とともに指数関数的に増加します。

私たちは、人々が生成型 AI の双方向性に異議を唱え、AI の答えを正当化または説明するだけでなく、質問することもできる洗練された弁証法を開発することを緊急に必要としています。

私たちは、一定の懐疑心を持ちながら、人工知能を系統的に調査し、その答えが信頼できるかどうか、またどの程度信頼できるかを評価する方法を学ぶ必要があります。これには、無意識の偏見を減らすための意識的な努力、厳しいトレーニング、そして多くの練習が必要です。

疑問は残ります: 私たちは従うのではなく挑戦するほど早く学習できるでしょうか?それとも最終的には従わなければならないのでしょうか?私たちがエラーと認識しているものは、意図的な設計の一部なのでしょうか?人工知能に悪意のある要素が存在したらどうなるでしょうか?

もう 1 つの重要なタスクは、どの質問を人間の思考に任せる必要があり、どの質問がリスクを負って自動化に委ねられるかを熟考することです。システム。

しかし、懐疑論と尋問技術が高まったとしても、ChatGPT は生成テクノロジーの魔神が瓶から出てきたことを証明しています。私たちは質問についてよく考えなければなりません。

このテクノロジーがより広く理解されるようになると、国際関係に大きな影響を与えるでしょう。知識の技術が普遍的に共有されない限り、帝国主義は人工知能の最新の進歩を達成するためにデータの取得と独占に焦点を当てるかもしれません。

モデルは、収集されたデータに応じて異なる結果を生成する場合があります。社会のさまざまな進化は、ますます異なる知識ベース、つまり課題に対するさまざまな認識に基づいて進化する可能性があります。

この記事の最後では、人々に深く考えさせる 2 つの質問が提起されています:

このテクノロジーを完全に制御できなかったらどうなるでしょうか?

嘘をつく方法が常に存在し、偽の写真やビデオを作成し、人々が見聞きするものを信じないことを決して学ばないとしたらどうなるでしょうか?

ChatGPT は知的革命を引き起こします! OpenAI が AGI ロードマップをリリース、最終的には超インテリジェントな世界につながる

Meta のチーフ AI サイエンティスト、LeCun 氏は次のように答えました。

- 人々はソースをより適切に追跡し、見聞きするものの信頼性を評価する方法を学ぶでしょう。これは最も効果的です。新しいテクノロジーの助けを借りている可能性があります。

- 現在の自己回帰 LLM は制御不可能であることで悪名高いですが、新しい AI システムは必要に応じて制御可能で現実的で無害です。

ChatGPT は知的革命を引き起こします! OpenAI が AGI ロードマップをリリース、最終的には超インテリジェントな世界につながる

一部のネチズンは、アンディ・グローブの「選択肢は 2 つある。適応するか、死ぬかだ」という言葉を引用しました。

ChatGPT は知的革命を引き起こします! OpenAI が AGI ロードマップをリリース、最終的には超インテリジェントな世界につながる

あなただったらどうしますか?

参考文献:

https://openai.com/blog/planning-for-agi-and-beyond/

https://www.wsj.com / Articles/chatgpt-heralds-an-intellectual-revolution-enlightenment-artificial-intelligence-homo-technicus-technology-cognition-morality-philosophy-774331c6

https://twitter.com/ericschmidt/status/ 1629361652574621701

以上がChatGPT は知的革命を引き起こします! OpenAI が AGI ロードマップをリリース、最終的には超インテリジェントな世界につながるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明
この記事は51CTO.COMで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。
Word文本框没有旋转按钮怎么办Word文本框没有旋转按钮怎么办Dec 08, 2022 am 09:50 AM

Word文本框没有旋转按钮的解决办法:打开兼容模式文档后按F12键另存为高版本,再打开就可以了。

令人惊艳的4个ChatGPT项目,开源了!令人惊艳的4个ChatGPT项目,开源了!Mar 30, 2023 pm 02:11 PM

自从 ChatGPT、Stable Diffusion 发布以来,各种相关开源项目百花齐放,着实让人应接不暇。今天,着重挑选几个优质的开源项目分享给大家,对我们的日常工作、学习生活,都会有很大的帮助。

Word文档拆分后的子文档字体格式变了怎么办Word文档拆分后的子文档字体格式变了怎么办Feb 07, 2023 am 11:40 AM

Word文档拆分后的子文档字体格式变了的解决办法:1、在大纲模式拆分文档前,先选中正文内容创建一个新的样式,给样式取一个与众不同的名字;2、选中第二段正文内容,通过选择相似文本的功能将剩余正文内容全部设置为新建样式格式;3、进入大纲模式进行文档拆分,操作完成后打开子文档,正文字体格式就是拆分前新建的样式内容。

学术专用版ChatGPT火了,一键完成论文润色、代码解释、报告生成学术专用版ChatGPT火了,一键完成论文润色、代码解释、报告生成Apr 04, 2023 pm 01:05 PM

用 ChatGPT 辅助写论文这件事,越来越靠谱了。 ChatGPT 发布以来,各个领域的从业者都在探索 ChatGPT 的应用前景,挖掘它的潜力。其中,学术文本的理解与编辑是一种极具挑战性的应用场景,因为学术文本需要较高的专业性、严谨性等,有时还需要处理公式、代码、图谱等特殊的内容格式。现在,一个名为「ChatGPT 学术优化(chatgpt_academic)」的新项目在 GitHub 上爆火,上线几天就在 GitHub 上狂揽上万 Star。项目地址:https://github.com/

vscode配置中文插件,带你无需注册体验ChatGPT!vscode配置中文插件,带你无需注册体验ChatGPT!Dec 16, 2022 pm 07:51 PM

​面对一夜爆火的 ChatGPT ,我最终也没抵得住诱惑,决定体验一下,不过这玩意要注册需要外国手机号以及科学上网,将许多人拦在门外,本篇博客将体验当下爆火的 ChatGPT 以及无需注册和科学上网,拿来即用的 ChatGPT 使用攻略,快来试试吧!

30行Python代码就可以调用ChatGPT API总结论文的主要内容30行Python代码就可以调用ChatGPT API总结论文的主要内容Apr 04, 2023 pm 12:05 PM

阅读论文可以说是我们的日常工作之一,论文的数量太多,我们如何快速阅读归纳呢?自从ChatGPT出现以后,有很多阅读论文的服务可以使用。其实使用ChatGPT API非常简单,我们只用30行python代码就可以在本地搭建一个自己的应用。 阅读论文可以说是我们的日常工作之一,论文的数量太多,我们如何快速阅读归纳呢?自从ChatGPT出现以后,有很多阅读论文的服务可以使用。其实使用ChatGPT API非常简单,我们只用30行python代码就可以在本地搭建一个自己的应用。使用 Python 和 C

用ChatGPT秒建大模型!OpenAI全新插件杀疯了,接入代码解释器一键get用ChatGPT秒建大模型!OpenAI全新插件杀疯了,接入代码解释器一键getApr 04, 2023 am 11:30 AM

ChatGPT可以联网后,OpenAI还火速介绍了一款代码生成器,在这个插件的加持下,ChatGPT甚至可以自己生成机器学习模型了。 ​上周五,OpenAI刚刚宣布了惊爆的消息,ChatGPT可以联网,接入第三方插件了!而除了第三方插件,OpenAI也介绍了一款自家的插件「代码解释器」,并给出了几个特别的用例:解决定量和定性的数学问题;进行数据分析和可视化;快速转换文件格式。此外,Greg Brockman演示了ChatGPT还可以对上传视频文件进行处理。而一位叫Andrew Mayne的畅销作

ChatGPT教我学习PHP中AOP的实现(附代码)ChatGPT教我学习PHP中AOP的实现(附代码)Mar 30, 2023 am 10:45 AM

本篇文章给大家带来了关于php的相关知识,其中主要介绍了我是怎么用ChatGPT学习PHP中AOP的实现,感兴趣的朋友下面一起来看一下吧,希望对大家有帮助。

See all articles

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

PhpStorm Mac バージョン

PhpStorm Mac バージョン

最新(2018.2.1)のプロフェッショナル向けPHP統合開発ツール

Dreamweaver Mac版

Dreamweaver Mac版

ビジュアル Web 開発ツール

SecLists

SecLists

SecLists は、セキュリティ テスターの究極の相棒です。これは、セキュリティ評価中に頻繁に使用されるさまざまな種類のリストを 1 か所にまとめたものです。 SecLists は、セキュリティ テスターが必要とする可能性のあるすべてのリストを便利に提供することで、セキュリティ テストをより効率的かつ生産的にするのに役立ちます。リストの種類には、ユーザー名、パスワード、URL、ファジング ペイロード、機密データ パターン、Web シェルなどが含まれます。テスターはこのリポジトリを新しいテスト マシンにプルするだけで、必要なあらゆる種類のリストにアクセスできるようになります。

DVWA

DVWA

Damn Vulnerable Web App (DVWA) は、非常に脆弱な PHP/MySQL Web アプリケーションです。その主な目的は、セキュリティ専門家が法的環境でスキルとツールをテストするのに役立ち、Web 開発者が Web アプリケーションを保護するプロセスをより深く理解できるようにし、教師/生徒が教室環境で Web アプリケーションを教え/学習できるようにすることです。安全。 DVWA の目標は、シンプルでわかりやすいインターフェイスを通じて、さまざまな難易度で最も一般的な Web 脆弱性のいくつかを実践することです。このソフトウェアは、

MinGW - Minimalist GNU for Windows

MinGW - Minimalist GNU for Windows

このプロジェクトは osdn.net/projects/mingw に移行中です。引き続きそこでフォローしていただけます。 MinGW: GNU Compiler Collection (GCC) のネイティブ Windows ポートであり、ネイティブ Windows アプリケーションを構築するための自由に配布可能なインポート ライブラリとヘッダー ファイルであり、C99 機能をサポートする MSVC ランタイムの拡張機能が含まれています。すべての MinGW ソフトウェアは 64 ビット Windows プラットフォームで実行できます。