Das Thema KI-Sicherheit hat auf der Intelligent Source Conference 2023 große Aufmerksamkeit erregt und das neue Buch „Human-Machine Alignment' wurde veröffentlicht.

Viele Entdecker und Praktiker auf dem Gebiet der KI kamen zusammen, um Forschungsergebnisse auszutauschen, praktische Erfahrungen auszutauschen und über die Schönheit von Wissenschaft und Technologie zu sprechen. Die Beijing Intelligent Source Conference 2023 wurde kürzlich erfolgreich als umfassende Expertenveranstaltung auf diesem Gebiet abgehalten Im Bereich der künstlichen Intelligenz glänzt diese Veranstaltung durch den Austausch von Ideen und wird Zeuge einer erstaunlichen Entwicklung der Intelligenz mit Hunderten wunderbaren Berichten und Diskussionen.

Im AI Security and Alignment Forum haben viele Experten und Wissenschaftler darüber gesprochen, wie man im Zeitalter großer Modelle sicherstellen kann, dass immer leistungsfähigere und vielseitigere Systeme der künstlichen Intelligenz sicher und kontrollierbar sind und mit menschlichen Absichten und Werten im Einklang stehen äußerst wichtiges Thema. Dieses Sicherheitsproblem wird auch als Problem der Mensch-Maschine-Ausrichtung (KI-Ausrichtung) bezeichnet und stellt eine der dringendsten und bedeutsamsten wissenschaftlichen Herausforderungen dar, vor denen die menschliche Gesellschaft in diesem Jahrhundert steht.

Auf dem Forum konzentrierten sich 14 in- und ausländische Gäste, darunter „Vater des Deep Learning“ Geoffrey Hinton, OpenAI-Gründer Sam Altman und Akademiker Zhang Bo, auf die Mensch-Maschine-Ausrichtung und die Machbarkeit großer Modelle Ganz im Einklang mit den Themen dieses Forums wurde auf der Konferenz auch Brian Christians neuestes Werk „The Alignment Problem“ offiziell veröffentlicht, dessen chinesische Version den Titel „Human-Machine Alignment“ trägt. Das Buch wurde von Hunan Science and Technology Press vorgestellt und veröffentlicht und von Anyuan AI rezensiert. Xie Minxi, Gründer von Anyuan AI, leitete die Zeremonie zur Veröffentlichung des neuen Buches.

Brian Christian, Autor von „Human-Computer Alignment“, wurde eingeladen, online zu sprechen. In seiner Rede richtete er zunächst Grüße an die Leser und Gäste der Versammlung. Er fühlt sich durch die Veröffentlichung des neuen Buches „Human-Machine Alignment“ geehrt und hofft, dass das Buch zur weiteren Forschung auf dem Gebiet der künstlichen Intelligenz in China beitragen kann. Gleichzeitig wird eine kurze Einführung in die Hauptinhalte von „Human-Machine Alignment“ gegeben: Das Buch ist in drei Teile gegliedert Autonomie mit Schwerpunkt auf Supervision und selbstüberwachtem Lernen bis hin zu verstärkendem Lernen. Der dritte Artikel untersucht, wie wir komplexe KI-Systeme in der realen Welt auf der Grundlage von überwachtem Lernen, selbstüberwachtem Lernen und verstärkendem Lernen ausrichten. Wir hoffen, dass die Veröffentlichung von „Human-Computer Alignment“ in China nicht nur Forschern hilft, sondern uns auch dabei hilft, unsere Begeisterung für dieses Gebiet jedem Laien zu vermitteln. Abschließend brachte er seine Erwartung zum Ausdruck, dass die globale Entwicklung auf dem Gebiet der künstlichen Intelligenz durch die Diskussionen auf dieser Konferenz und Chinas Forschung auf dem Gebiet der KI vorangetrieben werde.

《Mensch-Maschine-Ausrichtung》

【US】Geschrieben von Brian Christian; Übersetzt von Tang Lu

Herausgeber: Hunan Science and Technology Press

Moderne maschinelle Lernsysteme sind sehr leistungsfähig geworden und können in unserem Namen in verschiedenen Situationen Informationen beobachten und abhören und Entscheidungen für uns treffen. Aber die Alarmglocken haben geläutet. Da maschinelles Lernen rasant voranschreitet, nehmen auch die Bedenken zu. Potenzielle Risiken und ethische Probleme können entstehen, wenn sich künstliche Intelligenz (KI) nicht im Einklang mit unseren wahren Zielen verhält. Die Forscher bezeichnen es als Alignment-Problem.

In einem anschaulichen Stil erklärt Brian Christian klar und deutlich die Probleme, die untrennbar mit der KI und uns verbunden sind, und die Leser seiner Bestseller haben davon sehr profitiert. Im Buch lernen wir die erste Gruppe von Wissenschaftlern kennen, die sich aktiv mit dem Alignment-Problem beschäftigt haben, und erfahren von ihren außergewöhnlichen Bemühungen und ehrgeizigen Plänen, zu verhindern, dass die Entwicklung der KI außer Kontrolle gerät. Kristen beschrieb nicht nur prägnant die Entwicklungsgeschichte des maschinellen Lernens, sondern ging auch persönlich tief in die Front der wissenschaftlichen Forschung, um mit Wissenschaftlern zu sprechen und die bahnbrechenden Fortschritte des maschinellen Lernens präzise darzustellen. Der Erfolg oder Misserfolg der Forschung zu Ausrichtungsfragen wird einen entscheidenden Einfluss auf die Zukunft der Menschheit haben, und die Leser können sich dessen zutiefst bewusst sein.

Das Problem der Ausrichtung ist auch ein Spiegel, der die eigenen Vorurteile und blinden Flecken der Menschen aufdeckt und es uns ermöglicht, unsere eigenen nie geklärten Annahmen und oft widersprüchlichen Ziele klar zu erkennen. Dies ist ein brillantes, interdisziplinäres Epos, das nicht nur die menschliche Technologie, sondern auch die menschliche Kultur untersucht, manchmal frustrierend und manchmal aufschlussreich.

Dieses Buch stieß bei seiner Veröffentlichung im Ausland auf begeisterte Resonanz. Es wurde von Microsoft-CEO Satya Nadella als eines der fünf Bücher bezeichnet, die ihn im Jahr 2021 am meisten inspirieren, und von der New York Times als eine der Schlüsseltechnologien und Ethik der KI bewertet . Das beste Buch zu diesem Problem, wie der Autor Brian Christian sagte: „Ich hoffe, dass das chinesische KI-Feld und die breiteren chinesischen Leser dieses Buch auch lesen können. Ich hoffe, dass dieses Buch für Sie reich an Inhalten ist und zum Nachdenken anregt.“ , und inspirierend, nicht nur hilfreich für Forscher, sondern auch hilfreich für Sie, Ihre Begeisterung für dieses Gebiet in Ihrem Leben an Nicht-Informatiker weiterzugeben.“

Xiaoxiang Morning News-Reporter Zhou Shihao

Das obige ist der detaillierte Inhalt vonDas Thema KI-Sicherheit hat auf der Intelligent Source Conference 2023 große Aufmerksamkeit erregt und das neue Buch „Human-Machine Alignment' wurde veröffentlicht.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!