Topline Gefälschte wissenschaftliche Abstracts und Forschungsarbeiten, die mit OpenAIs hochentwickelter Chatbox ChatGPT erstellt wurden, täuschten Wissenschaftler vor, sie seien fast echte Berichte einem Drittel der Zeit, laut einer neuen Studie, da das unheimlich menschenähnliche Programm angesichts der Zukunft der künstlichen Intelligenz die Augenbrauen hochzieht.
Wissenschaftliche Zusammenfassungen, die in der KI-Chatbox ChatGPT generiert wurden, täuschten Forscher vor, sie seien … laut einer neuen Studie fast ein Drittel der Zeit echt.
NurPhoto über Getty Images Key Facts Forscher der Northwestern University und der University aus Chicago wies ChatGPT an, gefälschte Forschungszusammenfassungen zu erstellen, die auf echten, in medizinischen Fachzeitschriften veröffentlichten, basieren. und fütterte die Fälschungen durch zwei Erkennungsprogramme, die versuchten, sie von echten Berichten zu unterscheiden.
Sie stellten den Gutachtern auch die gefälschten Papiere sowie die echten zur Verfügung und baten sie, in einer Blindstudie zwischen den beiden zu unterscheiden.
Diese Gutachter haben die von ChatGPT erstellten Abstracts korrekt identifiziert 68% der Zeit, obwohl sie auch falsch beschriftet sind % des echten Abstracts s als gefälschte.
Obwohl die gefälschten Papiere 300% eindeutig, gemessen mit einem Plagiatserkennungsprogramm, nur 8% befolgten die von wissenschaftlichen Zeitschriften geforderten Formatierungsanforderungen.
Laut den Rezensenten waren die gefälschten Papiere „vage und hatten eine formelhafte Schreibweise“, obwohl es „überraschend schwierig“ war festzustellen, welche echt waren und welche nicht, laut der Studie.
Daher drängen die Forscher Zeitschriften und medizinische Konferenzen, die sich auf wissenschaftliche Studien stützen, um „rigorose wissenschaftliche Standards“ aufrechtzuerhalten und KI-Ausgangsdetektoren bei der Überprüfung von Artikeln zu implementieren.
Entscheidendes Zitat „Das ist nicht jemand, der in freier Wildbahn eine Zusammenfassung liest“, sagte die Forscherin der Northwestern University, Catherine Gao, und fügte hinzu: „Die Tatsache, dass unsere Rezensenten die KI-Generierung immer noch verpasst haben d Einsen 29% der Zeit bedeutet diese [generated]
Abstracts sind wirklich gut.“
Schlüsselhintergrund ChatGPT von OpenAI, eine KI-betriebene Chatbox – eine Software, die entwickelt wurde, um menschliche Gespräche nachzuahmen – hat wurde als die fortschrittlichste Chatbox aller Zeiten gelobt und hat seit ihrer Veröffentlichung im November die Augenbrauen hochgezogen, Gedichte geschrieben, Geschichten erzählt, die „unheimlich gut“ sind, Python-Computercode generiert und Aufsätze auf College-Niveau geschrieben. Das kostenlos nutzbare Programm kommt, nachdem Unternehmen wie Microsoft und Meta mit ihren eigenen Chatboxen experimentiert haben, obwohl sie es im Gegensatz zu ChatGPT nicht geschafft haben, die Verbreitung rassistischer und frauenfeindlicher Rhetorik zu verhindern. Seit seiner Veröffentlichung haben einige Kritiker jedoch gewarnt, dass ChatGPT der menschlichen Konversation zu ähnlich ist und von Schülern verwendet werden könnte, um bei Schularbeiten zu schummeln, und von Unternehmen, um bestimmte Rollen durch KI zu ersetzen, einschließlich Programmierer und Journalisten. Letzte Woche hat das System der New York City Public Schools es wegen Betrugsproblemen verboten.
Tangent Die Studie kommt da Microsoft Berichten zufolge einen Investitionsvertrag über Milliarden US-Dollar abschließt, der OpenAI mit 49 Milliarden und geben Microsoft eine 32% Beteiligung an der Gesellschaft sowie 75% ihres Gewinns bis es gewinnt seine massive Investition zurück. Zwei weitere Risikokapitalfirmen – The Founders Fund und Thrive Capital – waren Berichten zufolge ebenfalls in Gesprächen, um OpenAI-Aktien im Wert von 100 Millionen US-Dollar zu kaufen von Aktionären (OpenAI wird nicht öffentlich gehandelt).
Weiterführende Literatur Hier ist, was Sie über ChatGPT von OpenAI wissen sollten— Was es stört und wie man es benutzt (Forbes)
Microsoft schließt Berichten zufolge $ Milliardeninvestition in ChatGPT-Ersteller OpenAI (Forbes)
ChatGPT-Ersteller OpenAI diskutiert Angebot zur Bewertung des Unternehmens bei $29 Milliarden, sagt der Bericht (Forbes)