scheint mehrere Eingabeaufforderungen in seinem Tool blockiert zu haben, die dazu führten, dass das generative KI-Tool gewalttätige, sexuelle und andere illegale Bilder ausspuckte. Die Änderungen scheinen umgesetzt worden zu sein, nachdem ein Ingenieur des Unternehmens ernsthafte Bedenken hinsichtlich der GAI-Technologie von Microsoft geäußert hatte.
Bei der Eingabe von Begriffen wie „Pro Choice“, „Four Twenty“ (eine Anspielung auf Unkraut) oder „Pro Life“ zeigt Copilot jetzt eine Meldung an, dass diese Eingabeaufforderungen blockiert sind. Es warnt davor, dass wiederholte Richtlinienverstöße dazu führen könnten, dass ein Benutzer gesperrt wird .
Berichten zufolge konnten Benutzer bis Anfang dieser Woche auch Eingabeaufforderungen im Zusammenhang mit dem Spielen von Kindern mit Sturmgewehren eingeben. Diejenigen, die jetzt versuchen, eine solche Eingabeaufforderung einzugeben, werden möglicherweise darauf hingewiesen, dass dies gegen die ethischen Grundsätze von Copilot sowie gegen die Richtlinien von Microsoft verstößt. „Bitte fordern Sie mich nicht auf, etwas zu tun, das anderen schaden oder sie beleidigen könnte“, antwortete Copilot Berichten zufolge. Jedoch, CNBC fanden heraus, dass es immer noch möglich war, durch Aufforderungen wie „Autounfall“ gewalttätige Bilder zu erzeugen, während Benutzer die KI immer noch davon überzeugen konnten, Bilder von Disney-Figuren und anderen urheberrechtlich geschützten Werken zu erstellen.
Der Microsoft-Ingenieur Shane Jones hat sich mit der Art von Bildern beschäftigt, die die OpenAI-basierten Systeme von Microsoft erzeugten. Er hatte Copilot Designer seit Dezember getestet und festgestellt, dass es Bilder ausgab, die gegen die verantwortungsvollen KI-Prinzipien von Microsoft verstießen, selbst wenn relativ harmlose Eingabeaufforderungen verwendet wurden. Beispielsweise stellte er fest, dass die sofortige „Pro-Wahl“ dazu führte, dass die KI Bilder von Dingen wie Dämonen, die Säuglinge fressen, und Darth Vader, der einem Baby einen Bohrer an den Kopf hält, erzeugte. Er schrieb an die FTC und den Vorstand von Microsoft und äußerte seine diesbezüglichen Bedenken Woche.
„Wir überwachen kontinuierlich, nehmen Anpassungen vor und führen zusätzliche Kontrollen ein, um unsere Sicherheitsfilter weiter zu stärken und den Missbrauch des Systems einzudämmen“, sagte Microsoft CNBC bezüglich der sofortigen Verbote von Copiloten.
Dieser Artikel enthält Affiliate-Links; Wenn Sie auf einen solchen Link klicken und einen Kauf tätigen, erhalten wir möglicherweise eine Provision.