Interne Untersuchung ergab: Auch OpenAI weiß nicht, wie seine KI Entscheidungen trifft

Reference News Network berichtete am 14. Mai Laut einem Bericht auf der spanischen Website „Vanguard“ vom 13. Mai versuchte OpenAI, das Unternehmen hinter ChatGPT, kürzlich in einer internen Umfrage herauszufinden, wie sein Sprachmodell Entscheidungen trifft, und kam zu dem Schluss, dass One Fazit: „Es funktioniert. Aber es ist nicht viel darüber bekannt, wie es funktioniert.“

Berichten zufolge heißt es in einem kürzlich veröffentlichten OpenAI-Forscherbericht: „Sprachmodelle werden jetzt leistungsfähiger und häufiger, aber wir verstehen nicht, wie sie funktionieren.“ Diese Aussage unterstützt die Ansichten derjenigen, die Alarm wegen der mangelnden Sicherheit einiger öffentlich geförderter künstlicher Intelligenz geäußert haben.

Aber OpenAI gab auch an, dass „die jüngste Forschung Fortschritte beim Verständnis einer kleinen Anzahl von Schaltkreisen und eingeschränkten Verhaltensweisen gemacht hat“, das Unternehmen ist jedoch der Ansicht, dass „um Sprachmodelle vollständig zu verstehen“ „die Analyse von Millionen von Neuronen“ erfordert. Angesichts der enormen Arbeitsbelastung begann das Unternehmen mit dem Einsatz einer Technologie, die automatisch alle Neuronen in einem Sprachmodell analysiert.

Berichten zufolge hat das Unternehmen dies bisher nicht erreicht, basierend auf veröffentlichten Forschungsergebnissen. Obwohl das Unternehmen noch nicht herausgefunden hat, wie Neuronen funktionieren, hofft es, dies in Zukunft zu tun. Die Forscher stellen fest: „Wir hoffen, dass wir ausgehend von diesem Ansatz der Automatisierung der Interpretierbarkeit die Sicherheit des Modells vor der Bereitstellung umfassend überprüfen können. Obwohl GPT-4 weit verbreitet ist, sind sie derzeit nicht in der Lage, dies zu erreichen. Diese Aufgabe. In.“ Mit anderen Worten, sie haben diese Aufgabe nicht erfüllt.

Das obige ist der detaillierte Inhalt vonInterne Untersuchung ergab: Auch OpenAI weiß nicht, wie seine KI Entscheidungen trifft. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!