Der CEO von OpenAI drängt auf die Regulierung großer Sprachmodelle und warnt vor generativen KI-Risiken

Sam Altman, CEO des von Microsoft unterstützten OpenAI, hat eine US-Regulierung des Einsatzes fortschrittlicher großer Sprachmodelle gefordert und vor den Gefahren generativer KI ohne einen soliden politischen Rahmen gewarnt.

In einer Anhörung mit dem US-Senat zur Diskussion der Governance generativer KI argumentierte Altman, dass angesichts der wachsenden Besorgnis über Bedrohungen für die Gesellschaft eine Regulierung von entscheidender Bedeutung sei, um die Risiken zu mindern, die von immer leistungsfähigeren Modellen ausgehen.

Die in seiner Aussage besprochenen Bedrohungen konzentrierten sich auf die Verbreitung von Fehlinformationen und Verstöße gegen Datenschutzgesetze im Zusammenhang mit der Art und Weise, wie OpenAI seine Modelle trainiert.

Senator Richard Blumenthal sagte bei der Anhörung, dass die Aussicht auf unzureichend ausgebildete künstliche Intelligenz „sehr beängstigend“ sei und argumentierte, dass neue Technologien „zur Verantwortung gezogen werden“ müssten.

Er wies darauf hin, dass ChatGPT von OpenAI die Fähigkeit besitzt, echte menschliche Interaktionen nachzuahmen und zu simulieren, und begann seine Aussage mit einer Rede, die von einem sprachtrainierten Modell generiert wurde.

Altmann schlug vor, dass die Einrichtung einer Regierungsbehörde zur Überwachung der Ausbildung und des Einsatzes künstlicher Intelligenz die Entwicklung unterstützen würde, und erläuterte die Notwendigkeit einer „Kombination aus Lizenz- und Testanforderungen“ für Entwickler.

Er schlug außerdem vor, die Lizenzen von Entwicklern zu widerrufen, die KI-Tools erstellen, die bestimmte „Schwellenwerte“ oder „Fähigkeiten“ überschreiten, beispielsweise Modelle, die sich selbst replizieren oder schädliche Inhalte produzieren können.

Altman befürwortet die Entwicklung regulatorischer Regeln dafür, wie maschinelle Lerntools Antworten aus mobilen Internetdaten generieren können.

„Benutzer sollten sich dafür entscheiden können, dass ihre Daten nicht von Unternehmen wie uns oder anderen Social-Media-Unternehmen verwendet werden“, fügte er hinzu.

C114 Kommunikationsnetzwerk Jiang Junmu

Das obige ist der detaillierte Inhalt vonDer CEO von OpenAI drängt auf die Regulierung großer Sprachmodelle und warnt vor generativen KI-Risiken. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!