Machen Sie sich keine Sorgen – der Rattenschwanz kann Ihnen nichts mehr anhaben. Das Open-Access-Papier, das bizarre, KI-generierte Bilder enthielt von Rattengenitalien und Kauderwelsch-Grafiken wurde vom Herausgeber mit der Begründung zurückgezogen, dass die Autoren der Studie gegen die Richtlinien der Zeitschrift verstoßen hätten.
Veröffentlicht In Frontiers in Cell and Developmental Biology wurde im Text der Studie die Funktion von Stammzellen im Zusammenhang mit Rattenhoden erörtert. Aber es ist nicht das Thema, das die Aufmerksamkeit erregt. Die Autoren der Studie fügten mehrere Bilder hinzu, die fantastisch und grotesk falsch waren. Die Autoren gaben im Text der Zeitung bekannt, dass die Bilder von Midjourney gemacht wurden, einem der beliebtesten KI-Bildgeneratoren. Der Artikel war am 16. Februar zurückgezogendrei Tage nach der Veröffentlichung.
Die Studie „enthielt minderwertige Zahlen und Anmerkungen, die von einem KI-Programm generiert wurden, darunter ‚die Ratte‘“, sagte ein Frontiers-Sprecher in einer E-Mail gegenüber Gizmodo. „Trotz vorhandener Prozesse zur Gewährleistung der Einhaltung blieb die fortgesetzte Verwendung von KI-generierten Bildern, die gegen unsere klaren Richtlinien verstoßen, unbemerkt, und das Papier wurde veröffentlicht.“
Wie Gizmodo damals feststellte, Herausgeberrichtlinien von Frontiers Unterziehen Sie Manuskripte bereits vor der Begutachtung einer „ersten Qualitätsprüfung“ durch das Forschungsintegritätsteam der Zeitschrift und den verantwortlichen Herausgeber. Doch die problematischen Illustrationen gelangten in den Druck. Eines der Papiere Rezensenten sagten gegenüber Vice dass die Bilder nicht in ihrer Verantwortung lagen. Bis heute wurde das Papier über 24.000 Mal heruntergeladen und 358.673 Mal angesehen. Die Arbeit erregte sicherlich mehr Aufmerksamkeit, als es mit wissenschaftlich korrekten Illustrationen, ob KI-generiert oder nicht, der Fall gewesen wäre.
Die Genitalien der Ratte sind eindeutig anatomisch falsch, auch wenn Sie noch nie die Unterregionen eines Nagetiers untersucht haben. Im Midjourney-Bild krümmt sich der scheinbare Phallus des Tieres über den Bildrand hinaus – vielleicht geht der Leser davon aus, dass er sich ewig erstreckt. Die Ratte (das einzige von der KI korrekt gekennzeichnete Wesen) hat mindestens drei scheinbare Hoden, und die Diagramme des Signalwegs ähnelten eher einem Brettspiel als einer hilfreichen Tabelle.
Die meisten Wörter in den Bildern wurden falsch geschrieben, erfunden oder mit Zeichen geschrieben, die keine echten Buchstaben sind. KI-Bildgeneratoren häufig Schwierigkeiten mit der Textproduktion– Man muss nur so weit schauen Das gefälschte „Vintage“-Bild der letzten Woche eines McDonald’s-Restaurants, um ein menschliches Beispiel zu sehen. Sogar KI-Textgeneratoren können unheimliches Material produzieren, wie kürzlich bewiesen wurde Das gesamte Drehbuch eines von Willy Wonka inspirierten Ereignisses, das zum Fiasko wurde in Glasgow, Schottland.
„Die Aufmerksamkeit, die ‚die Ratte‘ hervorrief, wurde durch die allgemeine Besorgnis über die wachsende Rolle der künstlichen Intelligenz im wissenschaftlichen Publizieren und in allen anderen Aspekten der Gesellschaft hervorgerufen“, schrieb der Frontiers-Sprecher. „Alle Beweise deuten darauf hin, dass Forscher weiterhin KI in ihrer Arbeit übernehmen und nutzen, und wir müssen ihnen gemeinsam die Werkzeuge und Unterstützung geben, um sicherzustellen, dass es sich um eine positive Innovation handelt, die die Forschungsergebnisse und Veröffentlichungen verbessert.“
Aber das heißt: Die Präsenz von KI im wissenschaftlichen Verlagswesen wird nicht verschwinden. Ob also Stammzellen „retatiert“ werden oder medizinische Forschung, Zeitschriftenredakteure – und natürlich die Verlage – müssen auf der Hut sein, dass Fehler nicht durchsickern. Es sollte nicht die Aufgabe der Öffentlichkeit sein, die Aufmerksamkeit auf die schlampige Wissenschaft zu lenken; Sobald eine solche Arbeit veröffentlicht ist, ist der Schaden an der Glaubwürdigkeit der Wissenschaft bereits angerichtet.
Mehr: Das virale Foto eines rauchenden Mannes bei McDonald’s wurde mit KI erstellt