Dramatische Trends im KI-Bereich
Grok, der KI-Chatbot von Elon Musk, erhält neue Richtlinien zur Inhaltskontrolle
16.08.2024, 13:36 Uhr
Die letzten Tage waren geprägt von der Verbreitung schockierender und gewaltverherrlichender Bilder auf einer beliebten Plattform, erstellt durch das Start-up Black Forrest Labs, zu dessen Partnern Elon Musk gehört. Um die Inhalte seines KI-Chatbots Grok zu regulieren, werden nun neue Richtlinien eingeführt.
Der KI-Chatbot Grok von Musk produzierte zuvor verstörende Bilder von Politikern und Prominenten, einschließlich Darstellungen von Drogenkonsum und Waffengebrauch. Ab sofort sind solche Inhalte nicht mehr durch Textbefehle von Grok generierbar. Vor dieser Maßnahme gab es kaum Einschränkungen für die Art der Bilder, die erzeugt werden konnten. Im Gegensatz dazu haben andere Bildgenerierungsdienste wie Dall-E und Googles Imagen strenge Leitplanken, um derartige Darstellungen zu vermeiden.
Elon Musk ist für seine Distanz zu Inhaltsbeschränkungen bekannt, die er häufig als Zensur betrachtet. Er erklärte, die Nutzer sollten mit dem Softwareangebot “ein bisschen Spaß” haben dürfen. xAI war für weitere Kommentare nicht erreichbar.
Die Technologie hinter der Bildgenerierung stammt jedoch nicht von xAI, sondern vom deutschen Start-up Black Forrest Labs, dessen KI-Modell FLUX.1 auch von Musks Firma genutzt wird. Eine eigene Bildgenerierungssoftware befindet sich in der Entwicklung und benötigt noch einige Monate, so Musk.
Die von Grok erzeugten Bilder variieren zwischen fotorealistischer Qualität und übertriebenen Darstellungen, die an Karikaturen erinnern. Insbesondere vor den Präsidentenwahlen in den USA im November sind Bedenken hinsichtlich KI-generierter Fälschungen groß, die die öffentliche Meinung manipulieren könnten. Aus diesem Grund vermeiden viele Programme die Generierung von Bildern mit realen Personen.
Musk ergreift rechtliche Schritte gegen abziehende Werbekunden
Ähnliche Bedenken bestehen bei der Verwendung urheberrechtlich geschützter Figuren, wie zum Beispiel Disneys Micky Maus, deren Verwendung in KI-generierten Bildern rechtliche Konsequenzen nach sich ziehen könnte. Dies könnte auch die Skepsis großer Werbekunden gegenüber der Plattform erhöhen, da viele um den Ruf ihrer Marken fürchten und bereits Anzeige von der Plattform abgezogen haben.
In Reaktion auf diese Situation hat Musk kürzlich mehrere Unternehmen und eine Branchenorganisation verklagt. Er wirft ihnen eine koordinierte Anstrengung vor, die darauf abzielt, Anzeigendollar von seiner Plattform fernzuhalten.
