Ein neues Erkennungstool wird veröffentlicht, das von KI generierte wissenschaftliche Texte identifizieren kann und eine Genauigkeitsrate von über 99 % angibt.

IT House News vom 8. Juni: Anfang dieses Jahres erregte Som Biswas, ein Radiologe am Tennessee Health Science Center in den Vereinigten Staaten, Aufmerksamkeit, weil er mit Unterstützung des Chatbots für künstliche Intelligenz ChatGPT einen Artikel in der Zeitschrift Radiology veröffentlichte. ChatGPT und die Zukunft des medizinischen Schreibens.“ Er brachte seine Verwendung und Modifikation von ChatGPT-generiertem Text zum Ausdruck, um das Bewusstsein für den Nutzen der Technologie zu schärfen. Ihm zufolge veröffentlichte er in den nächsten vier Monaten 16 Zeitschriftenartikel mit ChatGPT. Einige Zeitschriftenredakteure berichten, dass sie eine große Anzahl von Artikeln erhalten, die von ChatGPT verfasst wurden.

Um mit dieser Situation umzugehen, haben Heather Desaire, Professorin für Chemie an der University of Kansas, und ihr Team ein neues KI-Erkennungstool entwickelt, das effizient und genau unterscheiden kann, ob wissenschaftliche Texte von Menschen oder ChatGPT erstellt wurden wurden in „Cell Reports“ in der Zeitschrift Physical Science veröffentlicht.

Professorin Desaire sagte, sie und ihr Team hätten zunächst 64 „Perspectives“-Artikel in der Zeitschrift Science analysiert, bei denen es sich um Übersichtsartikel handelt, die aktuelle Forschungsergebnisse überprüfen und bewerten. Als nächstes analysierten sie 128 von ChatGPT generierte Artikel zum gleichen Forschungsthema. Sie verglichen die beiden und fanden 20 Merkmale, anhand derer sich die Identität des Autors eines wissenschaftlichen Textes ermitteln ließe.

Sie fanden heraus, dass es erhebliche Unterschiede zwischen Humanwissenschaftlern und ChatGPT hinsichtlich der Absatzkomplexität, der Satzlänge, der Zeichensetzung und der Verwendung des Wortschatzes gab. Im Vergleich zu Symbolen wie Klammern, Bindestrichen, Fragezeichen, Semikolons und Großbuchstaben verwendet ChatGPT sie seltener, während Humanwissenschaftler sie häufiger verwenden. Humanwissenschaftler verwenden eher vage Ausdrücke wie „jedoch“, „obwohl“, „aber“ usw. ChatGPT weist tendenziell eine relativ gleichmäßige Verteilung der Satzlänge auf, während menschliche Wissenschaftler in ihren Schriften sowohl kurze als auch lange Sätze verwenden können.

Basierend auf diesen 20 Funktionen verwendeten sie einen vorgefertigten maschinellen Lernalgorithmus XGBoost, um ihr KI-Erkennungstool zu trainieren. Sie testeten die Leistung ihres KI-Erkennungstools an 180 Artikeln und stellten fest, dass es bei der Beurteilung eines wissenschaftlichen Artikels sehr gut war Der Artikel wurde von einem Menschen oder ChatGPT geschrieben. „Diese Methode weist eine Genauigkeit von über 99 % auf“, sagte Professor Desaire und fügte hinzu, dass sie viel besser sei als bestehende Tools, die auf ein breiteres Spektrum von Texttypen und nicht speziell auf wissenschaftliche Texte trainiert seien.

Professor Desaire sagte, dass dieses KI-Erkennungstool Zeitschriftenredakteuren dabei helfen kann, mit einer großen Anzahl von Artikeln umzugehen, die mit ChatGPT geschrieben wurden, und es ihnen ermöglicht, Prioritäten zu setzen, welche Artikel eine Rezension wert sind. Sie fügte hinzu, dass das Tool für verschiedene Bereiche angepasst werden könne, beispielsweise für die Erkennung von Plagiaten bei Studierenden, sofern es in der entsprechenden Sprache geschult sei. Sobald Sie nützliche Funktionen identifiziert haben, können Sie sie für jede gewünschte Domain anpassen.

IT House hat festgestellt, dass nicht jeder denkt, dass dieses KI-Erkennungstool von großem Nutzen ist. Dr. Vitomir Kovanović vom Centre for Change and Complexity Learning (C3L) der University of South Australia sagte, der von Professor Desaire und ihrem Team durchgeführte Vergleich sei unrealistisch, da sie nur 100 % KI-generierten und 100 % von Menschen generierten Text verglichen hätten, ohne ihn zu vergleichen Berücksichtigung der Zusammenarbeit zwischen Mensch und KI. Er sagte, wenn Wissenschaftler ChatGPT verwenden, gebe es oft ein gewisses Maß an Mensch-Maschine-Zusammenarbeit, beispielsweise indem der Wissenschaftler den von der KI generierten Text bearbeitet. Umgeschriebener Satz: Dies ist notwendig, da ChatGPT gelegentlich Fehler machen und sogar falsche Referenzen generieren kann. Da die Forscher jedoch nur zwei Extremfälle verglichen, war ihre Erfolgsquote verbessert.

Dr. Lingqiao Liu vom Machine Learning Institute der University of Adelaide glaubt auch, dass in der realen Welt die Genauigkeit solcher KI-Erkennungstools verringert sein könnte, was zu mehr Fehlklassifizierungen führen könnte. Dr. Liu, ein Experte für die Entwicklung von Algorithmen zur Erkennung von KI-generierten Bildern, sagte: „Methodisch ist es in Ordnung, aber es birgt gewisse Risiken bei der Verwendung.“

Andererseits wies Dr. Liu darauf hin, dass es für Menschen auch möglich ist, ChatGPT anzuweisen, auf eine bestimmte Art und Weise zu schreiben, sodass 100 % von KI geschriebener Text die Erkennung übersteht. Tatsächlich haben einige Kommentatoren sogar von einem „Wettrüsten“ gesprochen und sich dabei auf den Wettbewerb zwischen denjenigen bezogen, die versuchen, Maschinen menschenähnlicher zu machen, und denjenigen, die diejenigen entlarven wollen, die die Technologie für schändliche Zwecke nutzen.

Dr. Kovanović glaubt, dass der Wettbewerb aufgrund der Dynamik und der möglichen positiven Auswirkungen dieser Technologie sinnlos ist. Er schlug vor, dass die KI-Erkennung noch keinen kritischen Punkt erreicht habe und wir daher unsere Energie in eine bessere Nutzung der KI investieren sollten. Er lehnt den Einsatz von Anti-Plagiats-Software ab, um zu messen, ob College-Studenten beim Schreiben KI verwenden, und argumentiert, dass dies unnötigen Druck auf die Studenten ausüben würde.

Das obige ist der detaillierte Inhalt vonEin neues Erkennungstool wird veröffentlicht, das von KI generierte wissenschaftliche Texte identifizieren kann und eine Genauigkeitsrate von über 99 % angibt.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!