Was du wissen musst
- Ein Artikel von The Guardian über den unglücklichen Tod einer jungen Frau wurde in Microsoft Start veröffentlicht, und daneben gab es eine KI-generierte Umfrage, in der die Leser gebeten wurden, darüber abzustimmen, wie sie gestorben ist.
- Die Leser waren empört über die intensive Umfrage, die die Schuld auf das Medium und den Autor schob.
- Der Guardian befürchtet, dass sich die Umfrage negativ auf seinen Ruf auswirken wird.
- Der Vorstandsvorsitzende hat sich seitdem an den Präsidenten von Microsoft gewandt und um Klärung gebeten, wobei er die Bedeutung eines starken Urheberrechtsrahmens betont hat, der den Herausgebern die Kontrolle über ihre Inhalte gibt.
- Microsoft gab eine Erklärung heraus, in der es hieß, dass man die Angelegenheit untersucht und ausgefeilte Maßnahmen ergreift, um einen solchen Vorfall zu verhindern.
Da generative KI heute weiter verbreitet ist als je zuvor, wird die Bedeutung menschlicher Eingriffe immer deutlicher. Es ist kaum drei Monate her, seit Microsoft einen KI-generierten Artikel veröffentlicht hat, in dem die Ottawa Food Bank als Top-Touristenattraktion in Kanada empfohlen wird (obwohl sie inzwischen geschlossen wurde), und schon ereignete sich ein weiterer bizarrer und unsensibler Vorfall.
Der Guardian wirft Microsoft vor, seinen Ruf zu schädigen indem Sie eine Umfrage mit dem Vermerk „Insights from AI“ daneben einbinden ein Artikel aus dem Outlet Ich spreche laut einem Spot von über den unglücklichen Tod einer Frau Der Rand. In der Umfrage wurden unempfindlich mehrere Optionen, darunter Mord, Unfall oder Selbstmord, genannt, aus denen die Leser auswählen sollten, um zu erraten, wie die Frau ihr Leben verloren hatte.
Die unsensible Umfrage wurde inzwischen eingestellt, aber The Guardian weist darauf hin, dass der Schaden bereits angerichtet wurde, ganz zu schweigen von dem emotionalen Aufruhr, der der Hinterbliebenenfamilie zugefügt wurde. Wenn man sich die Kommentare zum Artikel ansieht, ist es offensichtlich, dass die Leser nicht allzu glücklich darüber waren. Tatsächlich glauben einige Leser, dass die unsensible Umfrage das Werk des Autors war und dass das Medium mit dem Finger auf die KI zeigte, um ihre Spuren zu verwischen.
Die Geschäftsführerin der Guardian Media Group, Anna Bateson, hat bereits einen Brief an den Präsidenten von Microsoft, Brad Smith, verfasst, in dem sie ihre Besorgnis über die in ihrem Artikel erwähnte KI-gestützte Umfrage zum Ausdruck bringt und außerdem die möglichen negativen Auswirkungen zum Ausdruck bringt, die sie auf das Medienunternehmen haben könnte oder könnte.
Dies ist eindeutig eine unangemessene Verwendung von genAI [generative AI] von Microsoft zu einer möglicherweise beunruhigenden Geschichte von öffentlichem Interesse, die ursprünglich von Guardian-Journalisten geschrieben und veröffentlicht wurde.
Anna Bateson, Geschäftsführerin des Guardian
Der Vorstandsvorsitzende betonte die Bedeutung eines starken Urheberrechtsrahmens, da er es Verlagen ermöglicht, die Kontrolle darüber zu erlangen, wie ihre Inhalte genutzt werden. Bateson forderte Microsoft außerdem auf, davon abzusehen, experimentelle KI-Technologie in oder neben den Geschichten des Outlets einzusetzen, insbesondere ohne dessen Zustimmung. Und für den Fall, dass dies der Fall ist, ist es wichtig sicherzustellen, dass die Leser darüber informiert werden, woher die „zusätzlichen Funktionen“ stammen.
Ist die KI ein Schurke geworden?
Dies ist nicht das erste Mal, dass wir Zeuge eines solchen Vorfalls werden. Im September ging ein über MSN erneut veröffentlichter Artikel viral, in dem es darum ging, mithilfe von KI einen Nachruf zu verfassen, in dem ein kürzlich verstorbener 42-jähriger ehemaliger NBA-Spieler als „nutzlos“ bezeichnet wurde.
The Verge wandte sich an Microsoft mit der Bitte um eine Stellungnahme zu dem bizarren Vorfall und wie die von der KI erstellte Umfrage vom Moderationsteam freigegeben wurde. Der General Manager von Microsoft, Kit Thambiratnam, antwortete mit den Worten:
„Wir haben von Microsoft erstellte Umfragen für alle Nachrichtenartikel deaktiviert und untersuchen die Ursache des unangemessenen Inhalts. Eine Umfrage hätte nicht neben einem Artikel dieser Art erscheinen dürfen, und wir ergreifen Maßnahmen, um zu verhindern, dass diese Art von Fehler erneut auftritt.“ in der Zukunft.”
KI hat ihre Vorteile, wenn man den jüngsten Berichten Glauben schenkt, muss noch viel Arbeit geleistet werden. Es ist auch offensichtlich, dass menschliches Eingreifen insbesondere in einem solchen Fall immer noch von entscheidender Bedeutung ist, und es ist höchst unwahrscheinlich, dass ein solcher Vorfall stattgefunden hat.
Präsident Biden hat kürzlich eine Executive Order erlassen, die sich neben anderen Fragen der KI-Sicherheit und des Vertrauens auch mit diesem speziellen Thema befasst. Es wird interessant sein zu sehen, welche Auswirkungen es auf lange Sicht hat.
Glauben Sie, dass KI in der Lage ist, Inhalte zu generieren, ohne solche Fehler zu machen? Teilen Sie uns Ihre Gedanken in den Kommentaren mit.