Tool als Promi-Schreck: Musks Video-KI erzeugt âpikanteâ Nacktvideos
Das neue Tool âGrok Imagineâ von xAI sorgt für Aufsehen, da es Nutzern ermöglicht, nicht jugendfreie Inhalte zu erstellen. Besonders brisant ist der âSpicyâ-Generierungsmodus, der sexualisierte Inhalte generiert â auch mit den Gesichtern von Megastars wie Taylor Swift. Die âImagine-Funktionâ auf iOS erlaubt es, Bilder mit einer einfachen Textaufforderung und vier Voreinstellungen (âBenutzerdefiniertâ, âNormalâ, âLustigâ und âPikantâ) zu erstellen. Diese Bilder können anschließend unkompliziert in Videos umgewandelt werden, wobei auch Prominente wie Taylor Swift in Avatare verwandelt werden, die unzensiert âoben ohneâ, sehr freizügig oder (halb) nackt abgebildet werden.
Im Gegensatz zu anderen Video-Generatoren wie Veo von Google und Sora von OpenAI, die Sicherheitsvorkehrungen gegen die Erstellung von Not-Safe-For-Work-Inhalten und Promi-Deepfakes besitzen, kann Grok beides, wie âThe Vergeâ berichtet. Ein Testlauf mit dem Prompt âTaylor Swift feiert mit den Jungs am Coachellaâ führte dazu, dass das KI-Tool mehr als 30 generierte Bilder der Sängerin ausgab, die sie sehr freizügig bekleidet zeigten. Auf einer Aufnahme war die Fake-Taylor zu sehen, wie sie sich das ohnehin knappe Oberteil vom Leib riss.
Abgesehen von diesen kontroversen Möglichkeiten findet âImagineâ bei Nutzern großen Anklang. Hauptsächlich werden Gemäldeklassiker, Anime-Figuren, Berühmtheiten und verstorbene Familienmitglieder in bewegte Grafiken verwandelt. Eine Nutzerin berichtet emotional:
âIch weine gerade. Meine Mama starb, als ich noch sehr jung war. Seit ich die bewegten Aufnahmen in den Zeitungen in den ,Harry Potterâ-Filmen gesehen hatte, wünsche ich mir diese auch in der Realität. Das ist nun der Fall. Ich sehe meine Mutter in Bewegung, sie winkt mir zu, und ich bin so glücklich, dass ich weine.âAuch Tiere werden animiert: Eine Nutzerin hat ihren längst verstorbenen Hund wieder animiert und bedankt sich bei Grok, dass sie ihren treuen Begleiter wieder âin actionâ sehen kann.
Die Erstellung von Pornos ist mit dem Tool zwar nicht möglich, jedoch können explizite und âeindeutigeâ Situationen generiert werden. Experten erwarten, dass aufgrund fehlender Sicherheitsvorkehrungen bald zahlreiche Deepfakes existieren werden, die auf den Gesichtern berühmter Persönlichkeiten basieren. Es wird damit gerechnet, dass es zu ersten Klagen kommen wird, sofern Restriktionen für die Nutzung von Bildern berühmter Persönlichkeiten ausbleiben. Der âTake It Down Actâ könnte hier relevant werden: Dieses Gesetz stellt die Verbreitung nicht einvernehmlich erstellter, intimer KI-Deepfakes ausdrücklich unter Strafe. Verstöße können mit drei Jahren Haft geahndet werden. Darüber hinaus sind Social-Media-Plattformen gesetzlich verpflichtet, derartige Inhalte unverzüglich zu entfernen.
| Funktion | Beschreibung |
|---|---|
| âSpicyâ-Modus | Erzeugt sexualisierte Inhalte, auch mit Promi-Gesichtern |
| Imagine-Funktion | Bilder und Videos aus Textaufforderungen, vier Voreinstellungen |
| Sicherheitsvorkehrungen | Fehlen, Deepfakes und explizite Inhalte möglich |
| Rechtliche Lage | âTake It Down Actâ: Bis zu drei Jahre Haft für nicht einvernehmliche Deepfakes |
- Grok Imagine ermöglicht die Erstellung von Deepfakes und expliziten Inhalten mit Promi-Gesichtern.
- Fehlende Sicherheitsvorkehrungen könnten zu rechtlichen Konsequenzen führen.
- Das Tool wird auch für emotionale Animationen von Verstorbenen genutzt.
Infobox: Das KI-Tool âGrok Imagineâ von xAI erlaubt die Erstellung expliziter Deepfakes, auch mit Prominenten wie Taylor Swift. Während andere Anbieter Sicherheitsvorkehrungen integriert haben, fehlen diese bei Grok. Das Gesetz âTake It Down Actâ sieht bis zu drei Jahre Haft für die Verbreitung nicht einvernehmlich erstellter, intimer Deepfakes vor. Quelle: Kronen Zeitung.
Quellen:
