OpenAI kündigt den Start eines „Red-Team-Netzwerks' an und lädt Experten aus verschiedenen Bereichen ein, sich anzuschließen, um die Sicherheit seiner KI-Modelle zu verbessern

Am 20. September kündigte OpenAI, ein amerikanisches Forschungsunternehmen für künstliche Intelligenz, den Start des „Red Teaming Network“ an und lud Experten aus verschiedenen Bereichen ein, sich seinem „Red Teaming Network“ anzuschließen, um die Sicherheit seiner Modelle für künstliche Intelligenz (KI) zu verbessern . Sex.

Diese Initiative von OpenAI zielt darauf ab, die Zusammenarbeit mit externen Experten zu vertiefen und auszubauen, um die Zuverlässigkeit und Sicherheit seiner Modelle für künstliche Intelligenz zu gewährleisten. Die beauftragten Experten werden eine Schlüsselrolle bei der Verbesserung der Robustheit der künstlichen Intelligenzsysteme von OpenAI spielen, indem sie bei der Bewertung und Minderung von Modellrisiken helfen.

Während OpenAI zuvor mit externen Experten über Bug-Bounty-Programme und Forscherzugangsprogramme zusammengearbeitet hat, formalisiert das neu gestartete „Red Team Network“ diese Bemühungen.

OpenAI sagt, dass das „Red Team Network“ eine Gemeinschaft erfahrener und vertrauenswürdiger Experten ist, die Unternehmen dabei helfen kann, Risikobewertungen umfassender durchzuführen, anstatt einen einmaligen Engagement- und Auswahlprozess vor großen Modelleinführungen durchzuführen

Berichten zufolge „red „Teams“ spielen eine entscheidende Rolle bei der Identifizierung von Verzerrungen in Systemen der künstlichen Intelligenz und der Bewertung von Sicherheitsfiltern und sind zu einem wichtigen Glied im Entwicklungsprozess von Modellen der künstlichen Intelligenz geworden, insbesondere da generative Technologien immer mehr an Bedeutung gewinnen. Mit breiter Anwendung

OpenAI lädt Experten aus verschiedenen Bereichen ein , einschließlich derjenigen mit Hintergrund in Linguistik, Biometrie, Finanzen und Gesundheitswesen. Das Unternehmen betonte die Bedeutung verschiedener Fachkenntnisse für die Bewertung künstlicher Intelligenz, die Bereiche wie Kognitionswissenschaft, Recht, Cybersicherheit, Wirtschaft und Gesundheitswesen abdecken , QR-Codes, Passwörter usw.), die verwendet werden, um mehr Informationen zu übermitteln und Auswahlzeit zu sparen. Die Ergebnisse dienen nur als Referenz. Alle Artikel auf dieser Website enthalten diese Erklärung.

Das obige ist der detaillierte Inhalt vonOpenAI kündigt den Start eines „Red-Team-Netzwerks' an und lädt Experten aus verschiedenen Bereichen ein, sich anzuschließen, um die Sicherheit seiner KI-Modelle zu verbessern. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!