OpenAI は効率を高め、人間の介入を減らすためのコンテンツモデレーション機能を評価しています

人工知能スタートアップ OpenAI は、GPT-4 のコンテンツ モデレーション機能をテスト中であると発表しました。これにより、OpenAI API アクセス権を持つ誰もがこの機能を使用して、独自の人工知能支援モデレーション システムを構築できるようになります

このサイトは、OpenAI 公式 Web サイトから、GPT-4 を使用して適切なコンテンツ ポリシーを策定し、ラベルを追加したり、投稿にコメントを追加したりすることを高速化できることを知りました。同社はこの技術をテストしており、顧客にも実験を依頼している。 このシステムを使用すると、コンテンツ戦略の開発と策定のプロセスが数か月から数時間に短縮されます。

OpenAI は、この機能はデジタル プラットフォームの将来に対してより前向きな見通しを提供し、プラットフォーム固有のポリシーに従ってオンライン トラフィックを規制するのに役立ち、多数の人間のモデレーターに対する心理的プレッシャーを軽減すると述べています。

▲ AI 監査 (LLM) とジュニア監査人 (プール B) の効率は同等です

OpenAI 監査には、従来の監査に比べて次の利点があります:

タグの方が一貫性があります。
• コンテンツ ポリシーは常に進化しており、多くの場合、非常に詳細になっています。人によってポリシーの解釈が異なる場合や、モデレーターによっては新しいポリシーの変更を理解するのに時間がかかる場合があり、その結果、ラベルが一貫性を持たなくなる可能性があります。対照的に、LLM は表現の微妙な違いに敏感であり、ポリシーの更新に即座に適応して、一貫したコンテンツ エクスペリエンスをユーザーに提供します。
フィードバック ループの高速化。
• ポリシー更新のサイクル (新しいポリシーの開発、ラベルの適用、人間からのフィードバックの収集) は、多くの場合、長く続くプロセスです。 GPT-4 を使用すると、このプロセスをわずか数時間に短縮でき、新たな危険に対してより迅速に対応できるようになります。
精神的な負担を軽減します。
• 有害または不快なコンテンツに継続的にさらされると、査読者に精神的疲労や心理的ストレスを引き起こす可能性があります。このようなタスクを自動化することは、関係者の幸福に役立ちます。

以上がOpenAI は効率を高め、人間の介入を減らすためのコンテンツモデレーション機能を評価していますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。