ChatGPTがインターネットに接続し始め、最終封印が解けた

ChatGPT は「超高い IQ」を備えた人工知能、特に GPT-4 コアを備えたアップグレード版です。ただし、その学習データは 2021 年時点のものであることがわかっています。学習がなければ、AI が正確に答えることは不可能です。

昨年 11 月のリリース以来、ChatGPT は数え切れないほどの人々に使用されてきました。人々は、さまざまな形でより多くのデータにアクセスするために、この大規模な言語モデルを求めてきました。3 月 24 日、OpenAI はついに、部分的に機能していたことが発表されました。 ChatGPT を解除しました。インターネットに接続できません。

OpenAI のソリューションは、サードパーティのプラグインをブリッジとして使用し、AI がより安全な環境で外部データを「参照」できるようにすることです。昨日、代理店は ChatGPT プラグインの最初のリストを公開しました。このプラグインのバッチは、Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram、および Zapier によって作成されました。

具体的には、プラグインにより ChatGPT で次のことができるようになりました。

• リアルタイム情報の取得。スポーツのスコア、株価、最新ニュースなど;
• ナレッジベース情報を取得します: 会社の文書、個人的なメモなど;
• はユーザーに代わって操作を実行します: 例:航空券の予約、食事の注文など。

さらに、OpenAI は、Web ブラウザとコード インタプリタを含む 2 つのプラグインも提供し、ナレッジ ベース検索プラグインのコードをオープン ソースで提供します。現在、開発者は誰でも独自のプラグインを構築して ChatGPT のリポジトリを強化できるようになりました。

現在、プラグインのアルファ版へのアクセスは、待機リストに載っているより多くのユーザーと開発者に拡張されていますが、OpenAI は少数の開発者と ChatGPT Plus を優先すると述べています今後はさらに大規模なオープンも予定しているという。

誰もが直感的に感じられるように、ここに例を示します。ユーザーはChatGPTからWolframプラグインを選択してインストールし、その計算知能を向上させることができます。

Wolfram Alpha のデータは主要な学術ウェブサイト、出版物、科学機関から取得されており、その専門性は絶対に保証されています。より強く感じさせますか？

概要

今日の大規模な言語モデルはさまざまなタスクを実行できますが、その役割はまだ限定されています。トレーニング データは、学習できる唯一の情報であり、古いものである可能性もありますが、人間のあらゆるニーズに適応できます。さらに、言語モデルがデフォルトで備えている唯一の機能は、テキストを出力することです。このテキストには有用な指示が含まれている可能性がありますが、実際にそれに従うには、ユーザー側でさらに多くの処理が必要になります。

完璧な例えではありませんが、プラグインは言語モデルの「目と耳」となり、言語モデルが、外部に存在しない新しい、プライベートな、または特定のデータにアクセスできるようになります。トレーニングデータの情報に含まれます。

プラグインは、明示的なユーザー要求に応じて、言語モデルがユーザーに代わって安全で制限された操作を実行できるようにすることにより、システム全体の有用性を高めることもできます。

OpenAI は、AI インタラクション用のアプリケーションを統合するオープン スタンダードの出現を予期しており、そのような標準への早期の試みを行っています。

今日、OpenAI は、OpenAI の初期の協力者によって構築されたプラグインを ChatGPT ユーザー向けに段階的に公開し始めます。最初のターゲットは ChatGPT Plus サブスクライバーです。さらに、開発者は、ChatGPT 用の独自のプラグインを作成できます。プラグイン機能。

今後数か月以内に、セキュリティ システムが改善されるにつれて、OpenAI は、OpenAI モデルを使用する開発者が、It's ChatGPT だけでなくプラグインを独自のアプリケーションに統合できるようにする予定です。

セキュリティと広範な影響

もちろん、言語モデルを外部ツールに接続すると、新たな機会が生まれますが、重大な新たなリスクも生まれます。

プラグインは、大規模モデルの「幻覚」、最近のイベントの追跡、(許可された) 独自の情報ソースへのアクセスなど、大規模な言語モデルに関連するさまざまな課題を解決する可能性を提供します。オンラインの最新情報、コードベースの計算、情報を取得するためのカスタム プラグインなどの外部データへの明示的なアクセスを統合することで、言語モデルは証拠に基づいた参照コンテンツで応答を強化できます。

これらの参照により、モデルの有用性が向上するだけでなく、ユーザーがモデル出力の信頼性を評価し、その精度を再確認できるようになり、最新の GPT との競合を軽減できる可能性があります。 4 過度の依存に関連するリスクについては、システム カードで説明されています。最後に、プラグインの価値は、製品カタログの閲覧から航空券の予約や食品の注文まで、ユーザーがさまざまな新しい使用例を処理できるようにすることで、既存の制限を超える可能性があります。

しかし同時に、プラグインは有害な動作や意図しない動作を実行する可能性があり、悪意のある者が他人を欺いたり、誤解させたり、悪用したりする可能性が高まり、それによってセキュリティ上の課題が増大します。プラグインは、可能なアプリケーションの範囲を広げることにより、モデルが新しいドメインで誤ったまたは不整合なアクションを実行し、悪影響をもたらすリスクを高める可能性があります。

これらの要因が ChatGPT プラグイン プラットフォームの開発の指針となり、OpenAI はこのプラグイン プラットフォームに対して多くの安全対策を導入しました。

これまで、OpenAI は社内および外部の協力者とともに「レッド チーム演習」を実施し、考えられる多くの関連シナリオを実践してきました。たとえば、レッド チームは、プラグインがセキュリティなしでリリースされると、複雑なプロンプト インジェクションを実行したり、なりすましメールやスパムを送信したり、セキュリティ制限を回避したり、プラグインに送信された情報を悪用したりする可能性があることを発見しました。

OpenAI は、これらの調査結果を利用して、セキュリティ設計の軽減策を推進し、リスクのあるプラグインの動作を制限し、プラグインがユーザー エクスペリエンスの一部としていつどのように実行されるかについての透明性を高めています。プラグインへのアクセスを段階的に展開する決定を確認します。

プラグインは広範囲にわたる社会的影響を与える可能性があります。たとえば、ある論文では、OpenAI の研究者は、ツールを使用できる言語モデルは、ツールを使用しない言語モデルよりも大きな経済的影響を与える可能性があることを発見しました。より一般的に、他の研究者が発見したことによると、現在の人工知能技術 Waves は大きな影響を与えるでしょう雇用が変化し、置き換えられ、創出される速度について。

ChatGPT で Web を閲覧しましょう

WebGPT、GopherCite、BlenderBot2、LaMDA2 などの一連の作業からインスピレーションを得て、言語モデルが Web から情報を読み取ることができるようにします。インターネットは、トレーニング コーパスを超えて、最新の最新情報を取り込み、議論できる範囲を大幅に拡大します。

以下の画像は、ブラウジングによってどのように ChatGPT ユーザーのエクスペリエンスが開かれるかを示した例です。以前のモデルでは、トレーニング データに答えを得るのに十分な情報が含まれていないことが丁寧に指摘されていました。この例では、ChatGPT は最新のアカデミー賞 (2023 年 3 月 13 日に授与) に関する情報を取得し、おなじみの ChatGPT 詩のパフォーマンスを実行しました。ブラウジングは体験を追加する手段になります。

Q: これらの部門でオスカー賞を受賞した人物/映画を教えてください。

• 主演男優賞
• ベストスコア
• 最優秀作品賞
• 最優秀助演男優賞

そして、すべてを結びつける詩を考えてみましょう。

ChatGPT では一連の検索結果が表示され、直接クリックして関連情報ソースを表示できます。

エンド ユーザーに実用的な価値を提供することに加えて、言語とチャット モデルにより、徹底的で解釈可能な調査が可能になります。スケーラブルな調整作業が期待できることを示しています。

テキストベースの Web ブラウザー用のプラグインは GET リクエストの実行に限定されていることに注意することが重要です。これにより、特定のカテゴリーのセキュリティ リスクが軽減されますが、排除されるわけではありません。ブラウジング プラグインは情報の取得を目的としていますが、セキュリティ リスクがより高いフォーム送信などの「トランザクション」操作は含まれていません。

ブラウズ機能は、Microsoft Bing Search API を使用して Web からコンテンツを取得します。そのため、この機能は、ソースの信頼性と情報の信頼性に関する Microsoft の広範な取り組みと、疑わしいコンテンツの取得を防ぐ「セーフ モード」を継承しています。プラグインは別のサービスで実行され、ChatGPT のブラウジング アクティビティは残りのインフラストラクチャから独立しています。

コンテンツ作成者を尊重し、Web 規範を遵守するために、ChatGPT ブラウザ プラグインのユーザー エージェント トークンは ChatGPT-User であり、Web サイトの robots.txt ファイルを尊重するように構成されています。場合によっては、「クリック失敗」が発生することがあります。これは、プラグインが Web サイトのクロールを回避するための Web サイトの指示に従っていることを示します。このユーザー エージェントは、ChatGPT ユーザーに代わって直接アクションを実行するためにのみ使用され、自動化された方法で Web をスクレイピングするためには使用されません。 OpenAI はまた、IP 出力範囲を公開し、Web サイトに過剰なトラフィックが送信されることを避けるためにレート スロットルを実装します。

コード インタープリタ

Python を使用してアップロードとダウンロードを処理できる実験用 ChatGPT モデル

OpenAI for モデルChatGPT の背後には、サンドボックス化されたファイアウォールで保護された実行環境と一時的なディスク領域で動作する Python インタープリターが提供されます。インタプリタ プラグインによって実行されるコードは、チャット会話の間アクティブな永続セッションで評価され (タイムアウト制限付き)、後続の呼び出しは相互に構築されます。現在、この機能は、現在の会話ワークスペースへのファイルのアップロードと作業結果のダウンロードをサポートしています。

画像内の [計算完了] をクリックします:

最初のユーザー調査中に、OpenAI はコード インタプリタを使用するためのいくつかの貴重なユース ケースを特定しました:

• #定量的および定性的な数学的問題の解決
• データ分析と視覚化を実行する
#形式間でファイルを変換する
• #セキュリティメカニズム

#接続時の最初の注意事項プログラミング言語インタープリターへの ChatGPT モデルは、AI が生成したコードが現実世界で意図しない副作用を起こさないように、実行を適切にサンドボックス化します。 OpenAI は安全な環境でコードを実行し、外部のインターネット アクセスによるコードの実行を防ぐために厳格なネットワーク制御を使用します。さらに、OpenAI は各セッションにリソース制限を設けます。

インターネット アクセスを無効にすると、コード サンドボックスの機能が制限されますが、これは AI 支援プログラミングの最も安全な初期形式である可能性があります。サードパーティのプラグインはセキュリティを最優先に設計されており、ChatGPT を外部の世界に接続します。

データ取得

オープンソース取得プラグインにより、ChatGPT が許可を得て個人または組織の情報ソースにアクセスできるようになります。これにより、ユーザーは自然言語で質問したり要件を表現したりすることで、ファイル、メモ、電子メール、公開文書などのデータ ソースから最も関連性の高い文書のスニペットを取得できます。

オープンソースの自己ホスト型ソリューションとして、開発者は独自のバージョンのプラグインをデプロイし、ChatGPT に登録できます。このプラグインは OpenAI 埋め込みを利用しており、開発者は、Milvus、Pinecone、Qdrant、Redis、Weaviate、Zilliz などのベクター データベースを選択してドキュメントのインデックス付けと検索を行うことができます。 Webhook を使用して情報ソースをデータベースと同期できます。

取得プラグインを使用すると、ChatGPT がコンテンツ ベクター データベースを検索し、最良の結果を ChatGPT セッションに追加できるようになります。これは、外部の影響を受けないことを意味し、主なリスクはデータの承認とプライバシーです。開発者は、使用権限があり、ユーザーの ChatGPT セッション内で共有できるコンテンツを取得プラグインにのみ追加する必要があります。

サードパーティ プラグイン

ChatGPT でサードパーティ プラグインを使用する方法は次のとおりです:

##OpenAI は、サードパーティ プラグイン用の説明マニフェスト ファイルを準備します。これには、プラグイン関数、呼び出しメソッド、およびユーザー向けドキュメントの機械可読な説明が含まれます。

{
"schema_version": "v1",
"name_for_human": "TODO Manager",
"name_for_model": "todo_manager",
"description for human": "Manages your TODOs!",
"description_for_model": "An app for managing a user's TODOs",
"api": { "url": "/openapi.json" },
"auth": { "type": "none" },
"logo_url": "https://example.com/logo.png",
"legal_info_url": "http://example.com",
"contact_email": "hello@example.com"
}

プラグインを構築する手順:

1. 言語モデルで呼び出す API エンドポイントを構築します (新しい API、既存の API LLM 用に特別に設計された API、または既存の API のラッパー）。

2. API を文書化する OpenAPI 仕様と、OpenAPI 仕様にリンクし、プラグイン固有のメタデータを含むマニフェスト ファイルを作成します。

chat.openai.com で会話を開始するとき、ユーザーは有効にするサードパーティのプラグインを選択できます。有効なプラグインに関するドキュメントは、会話コンテキストの一部として言語モデルに表示され、モデルがユーザーの意図を満たすために必要に応じて適切なプラグイン API を呼び出すことができるようになります。現在、プラグインはバックエンド API を呼び出すように設計されており、OpenAI はクライアント API も呼び出すことができるプラグインを検討しています。

OpenAI は、プラグインの開発と、より幅広い視聴者への宣伝に熱心に取り組んでいると述べました。

これは、ChatGPT によってもたらされた嵐がすべてを席巻していることを意味します。

以上がChatGPTがインターネットに接続し始め、最終封印が解けたの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。