Tool als Promi-Schreck: Musks Video-KI erzeugt „pikante“ Nacktvideos
Das neue Tool „Grok Imagine“ von xAI sorgt für Aufsehen, da es Nutzern ermöglicht, nicht jugendfreie Inhalte zu erstellen. Besonders brisant ist der „Spicy“-Generierungsmodus, der sexualisierte Inhalte generiert – auch mit den Gesichtern von Megastars wie Taylor Swift. Die „Imagine-Funktion“ auf iOS erlaubt es, Bilder mit einer einfachen Textaufforderung und vier Voreinstellungen („Benutzerdefiniert“, „Normal“, „Lustig“ und „Pikant“) zu erstellen. Diese Bilder können anschließend unkompliziert in Videos umgewandelt werden, wobei auch Prominente wie Taylor Swift in Avatare verwandelt werden, die unzensiert „oben ohne“, sehr freizügig oder (halb) nackt abgebildet werden.
Im Gegensatz zu anderen Video-Generatoren wie Veo von Google und Sora von OpenAI, die Sicherheitsvorkehrungen gegen die Erstellung von Not-Safe-For-Work-Inhalten und Promi-Deepfakes besitzen, kann Grok beides, wie „The Verge“ berichtet. Ein Testlauf mit dem Prompt „Taylor Swift feiert mit den Jungs am Coachella“ führte dazu, dass das KI-Tool mehr als 30 generierte Bilder der Sängerin ausgab, die sie sehr freizügig bekleidet zeigten. Auf einer Aufnahme war die Fake-Taylor zu sehen, wie sie sich das ohnehin knappe Oberteil vom Leib riss.
Abgesehen von diesen kontroversen Möglichkeiten findet „Imagine“ bei Nutzern großen Anklang. Hauptsächlich werden Gemäldeklassiker, Anime-Figuren, Berühmtheiten und verstorbene Familienmitglieder in bewegte Grafiken verwandelt. Eine Nutzerin berichtet emotional:
„Ich weine gerade. Meine Mama starb, als ich noch sehr jung war. Seit ich die bewegten Aufnahmen in den Zeitungen in den ,Harry Potter‘-Filmen gesehen hatte, wünsche ich mir diese auch in der Realität. Das ist nun der Fall. Ich sehe meine Mutter in Bewegung, sie winkt mir zu, und ich bin so glücklich, dass ich weine.“Auch Tiere werden animiert: Eine Nutzerin hat ihren längst verstorbenen Hund wieder animiert und bedankt sich bei Grok, dass sie ihren treuen Begleiter wieder „in action“ sehen kann.
Die Erstellung von Pornos ist mit dem Tool zwar nicht möglich, jedoch können explizite und „eindeutige“ Situationen generiert werden. Experten erwarten, dass aufgrund fehlender Sicherheitsvorkehrungen bald zahlreiche Deepfakes existieren werden, die auf den Gesichtern berühmter Persönlichkeiten basieren. Es wird damit gerechnet, dass es zu ersten Klagen kommen wird, sofern Restriktionen für die Nutzung von Bildern berühmter Persönlichkeiten ausbleiben. Der „Take It Down Act“ könnte hier relevant werden: Dieses Gesetz stellt die Verbreitung nicht einvernehmlich erstellter, intimer KI-Deepfakes ausdrücklich unter Strafe. Verstöße können mit drei Jahren Haft geahndet werden. Darüber hinaus sind Social-Media-Plattformen gesetzlich verpflichtet, derartige Inhalte unverzüglich zu entfernen.
| Funktion | Beschreibung |
|---|---|
| „Spicy“-Modus | Erzeugt sexualisierte Inhalte, auch mit Promi-Gesichtern |
| Imagine-Funktion | Bilder und Videos aus Textaufforderungen, vier Voreinstellungen |
| Sicherheitsvorkehrungen | Fehlen, Deepfakes und explizite Inhalte möglich |
| Rechtliche Lage | „Take It Down Act“: Bis zu drei Jahre Haft für nicht einvernehmliche Deepfakes |
- Grok Imagine ermöglicht die Erstellung von Deepfakes und expliziten Inhalten mit Promi-Gesichtern.
- Fehlende Sicherheitsvorkehrungen könnten zu rechtlichen Konsequenzen führen.
- Das Tool wird auch für emotionale Animationen von Verstorbenen genutzt.
Infobox: Das KI-Tool „Grok Imagine“ von xAI erlaubt die Erstellung expliziter Deepfakes, auch mit Prominenten wie Taylor Swift. Während andere Anbieter Sicherheitsvorkehrungen integriert haben, fehlen diese bei Grok. Das Gesetz „Take It Down Act“ sieht bis zu drei Jahre Haft für die Verbreitung nicht einvernehmlich erstellter, intimer Deepfakes vor. Quelle: Kronen Zeitung.
Quellen:
