Mehr als 370 Menschen, darunter LeCun und Ng Enda, unterzeichneten einen gemeinsamen Brief: Eine strikte Kontrolle der KI ist gefährlich und Offenheit ist das Gegenmittel.

In den letzten Tagen ist die Diskussion um die Überwachung von KI immer hitziger geworden und die Meinungen der Großen gehen sehr auseinander.

Zum Beispiel gibt es zwei Meinungen unter den drei Turing-Award-Gewinnern Geoffrey Hinton, Yoshua Bengio und Yann LeCun. Hinton und Bengio sind ein Team, das sich nachdrücklich für eine stärkere Überwachung der KI einsetzt, da sonst die Gefahr besteht, dass „KI die Menschheit ausrottet“. LeCun teilt ihre Ansichten nicht. Er glaubt, dass eine starke Regulierung der KI unweigerlich zu einem Monopol der Riesen führen wird, mit dem Ergebnis, dass nur wenige Unternehmen die KI-Forschung und -Entwicklung kontrollieren.

Um ihre Gedanken zum Ausdruck zu bringen, haben viele Menschen einen gemeinsamen Brief unterzeichnet, um ihre Ansichten zum Ausdruck zu bringen. Nehmen Sie als Beispiel die letzten Tage, die einen gemeinsamen Brief „Managing Artificial Intelligence Risks in a Era“ herausgegeben haben of Rapid Development“ und fordert Forscher auf, dringende Governance-Maßnahmen zu ergreifen, bevor sie KI-Systeme entwickeln.

Ein kürzlich veröffentlichter offener Brief mit dem Titel „Gemeinsame Erklärung zur Sicherheit und Offenheit künstlicher Intelligenz“ hat in den sozialen Medien für Aufruhr gesorgt

Bitte klicken Sie auf den folgenden Link, um den offenen Brief anzuzeigen: https://open. mozilla.org/letter/

Bisher haben mehr als 370 Menschen, darunter LeCun, einer der drei Giganten des Deep Learning, und Professor Andrew Ng vom Fachbereich Informatik der Stanford University, diesen offenen Brief unterzeichnet. Die Liste wird noch aktualisiert.

LeCun sagte: „Offenheit, Transparenz und breiter Zugang machen Softwareplattformen sicherer und zuverlässiger. Ich habe auch diesen offenen Brief der Mozilla Foundation unterzeichnet, die offene Plattformen und Systeme für künstliche Intelligenz bereitstellt. Grund.“

Das Folgende ist der Inhalt des offenen Briefes:

Wir befinden uns in einem kritischen Moment in der Steuerung der künstlichen Intelligenz. Um die aktuellen und zukünftigen Schäden von KI-Systemen abzumildern, müssen wir Offenheit, Transparenz und breiten Zugang fördern. Dies muss eine globale Priorität sein

Tatsächlich gibt es Risiken und Schwachstellen in öffentlich verfügbaren Modellen – KI-Modelle können von böswilligen Akteuren missbraucht oder von unzureichend ausgerüsteten Entwicklern eingesetzt werden. Dennoch sehen wir dies immer wieder bei proprietären Technologien aller Art – ein verbesserter öffentlicher Zugang und eine bessere Kontrolle machen die Technologie sicherer und nicht gefährlicher. Die Vorstellung, dass strenge und proprietäre Kontrollen der zugrunde liegenden KI-Modelle die einzige Möglichkeit sind, uns vor großen Schäden zu schützen, ist bestenfalls naiv und schlimmstenfalls gefährlich.

Darüber hinaus lehrt uns die Geschichte der menschlichen Entwicklung, dass die schnelle Einführung falscher Vorschriften zu einer Machtkonzentration führen kann, die Wettbewerb und Innovation beeinträchtigt. Offene Modelle können die öffentliche Debatte beeinflussen und die Strategieentwicklung verbessern. Wenn unser Ziel Sicherheit und Verantwortlichkeit ist, dann sind Offenheit und Transparenz wichtige Elemente, um dieses Ziel zu erreichen.

Wir befinden uns mitten in einer dynamischen Diskussion über die Bedeutung von „Offenheit“ im Zeitalter der künstlichen Intelligenz. Diese wichtige Debatte sollte nicht verlangsamt werden. Stattdessen sollte es die Dinge beschleunigen und uns ermutigen, neue Wege auszuprobieren, zu lernen und zu entwickeln, um Offenheit im Wettlauf um die KI-Sicherheit zu nutzen.

Wir müssen eine Methode zur Förderung von Open Source und Offenheit etablieren. Diese Ansätze können als Grundlage für Folgendes dienen:

Durch individuelle Forschung, Zusammenarbeit und Wissensaustausch können wir das Verständnis der Risiken und Gefahren von KI-Fähigkeiten beschleunigen

2 Indem wir Regulierungsbehörden bei der Einführung von Tools zur Überwachung großer Mengen unterstützen. Skalieren Skalieren Sie künstliche Intelligenzsysteme, um die öffentliche Aufsicht und Rechenschaftspflicht zu verbessern.

Die Senkung der Eintrittsbarriere für neue Spieler ist ein wichtiger Aspekt bei der Konzentration auf die Schaffung verantwortungsvoller künstlicher Intelligenz.

Als Unterzeichner dieses offenen Briefs kommen wir aus einer vielfältigen Gruppe von Menschen aus allen Gesellschaftsschichten, darunter Wissenschaftler, politische Entscheidungsträger, Ingenieure, Aktivisten, Unternehmer, Pädagogen, Journalisten und mehr. Wir vertreten unterschiedliche Perspektiven darüber, wie Open-Source-KI verwaltet und veröffentlicht werden sollte. In einem Punkt sind wir uns jedoch voll und ganz einig: Im Zeitalter der künstlichen Intelligenz ist ein offener, verantwortungsvoller und transparenter Ansatz entscheidend, um unsere Sicherheit zu gewährleisten

Im Bereich der Sicherheit künstlicher Intelligenz ist Offenheit die Lösung des Problems. Verschärft nicht die Ursache des Problems

• Arthur Mensch, Mitbegründer und CEO des französischen Startups MistralAI
• Enda Ng, Gründer von DeepLearning.AI, Gründer und CEO von Landing AI, Professor für Informatik an der Stanford University
• Yann Lecun, Turing-Award-Gewinner, Meta-Chef-KI-Wissenschaftler
• Julien Chaumond, Hugging Face CTO
• Brian Behlendorf, Gründungsmitglied von Apache, OpenSSF Chief Technology Officer
• Eric Von Hippel, amerikanischer Wirtschaftswissenschaftler, MIT-Professor für Long School of Management
• ...

Derzeit gärt dieser offene Brief, der erst seit wenigen Tagen erscheint, weiter und hat in der ausländischen KI-Community große Aufmerksamkeit und Diskussion erregt Bitte beachten Sie die Aktualisierung der Liste.

Wenn Sie mit den Ansichten dieses gemeinsamen Schreibens einverstanden sind, können Sie auch Ihre eigene Informationsunterschrift einreichen.

Es wird Zeit brauchen, um zu beantworten, ob eine starke Überwachung der KI mehr schadet als nützt oder ob der Nutzen den Schaden überwiegt.

Das obige ist der detaillierte Inhalt vonMehr als 370 Menschen, darunter LeCun und Ng Enda, unterzeichneten einen gemeinsamen Brief: Eine strikte Kontrolle der KI ist gefährlich und Offenheit ist das Gegenmittel.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!