K-Pop-Fans sind bekannt als eine Kraft, mit der man rechnen muss im Internet, wobei einige Fans starke Loyalitäten und Leidenschaften haben, wenn es um bestimmte Künstler geht. In den sozialen Medien nutzen einige obsessive Fans generative KI, um etwas zu erschaffen, das im Wesentlichen selbsteingefügte Fanfiction ist – gruselige Videos und Bilder von sich selbst, wie sie ihre Lieblingsidole küssen, kuscheln und verschiedene Liebesbeziehungen mit ihnen eingehen. Das Ergebnis ist eine zeitgenössische, technologiegestützte Mutation der Idol-Kultur, die Fan-Kunst auf ein neues Niveau treibt, und viele Menschen in K-Pop-Fan-Communitys sind verständlicherweise ziemlich verärgert darüber.
Benutzer auf Reddit und verschiedenen K-Pop-Foren haben ihre Empörung über diese Deepfake-Fantasien zum Ausdruck gebracht und andere Fans aufgefordert, diejenigen zu melden, die KI-Tools verwenden, um nicht einvernehmliche Videos ihrer K-Pop-Herzensbrecher zu erstellen. In ein Thread Im Subreddit „K-Pop Uncensored“ veröffentlichte ein Benutzer redigierte Screenshots eines KI-generierten Videos eines anderen Fans, das zeigt, wie er von Keonho von der Boygroup CORTIS, der minderjährig ist, umarmt und auf die Wange geküsst wird. „Einige Fans denken vielleicht, dass es harmlos ist, aber wenn man das toleriert, öffnet man in der Zukunft Türen für viel schlimmere Dinge“, schrieb Reddit-Benutzer wbu_lizzie in dem Thread. „Die Idole haben dem nicht zugestimmt, sie sind echte Menschen, die ihr Leben leben, kein Haufen Wattpad/AO3-Charaktere.“
„Die Leute haben diese Art ausgeschnitten und eingefügt[s] der Dinge für immer, aber je realistischer die Bilder werden, desto heikler wird es psychologisch“, schrieb Benutzerin Goldie_Prawn in ein weiterer Thread auf K-Pop Uncensored, der die KI-Nutzung anprangert. „Ich denke, dass selbst bei herkömmlichem Photoshop die erforderliche Arbeit und das erforderliche Können dem Ersteller einen gewissen mentalen Puffer verschaffen, der bei KI nicht vorhanden ist.“
Dr. Sarah Keith, Professorin an der MacQuarie University in Australien, die umfangreiche Untersuchungen zum K-Pop-Fandom durchgeführt hat, sagt, dass die KI-Deepfake-Videos aus einer langen Geschichte von von Fans erstellten Inhalten stammen, die weit über die Welt des K-Pop hinausgehen. Fanfiction und Kunst waren schon immer ein wesentlicher Bestandteil der Fankultur, und obwohl diese Kreationen oft die Grenzen des Urheberrechts überschreiten, werden sie im Allgemeinen nicht als gruselig oder ausbeuterisch angesehen. Doch mit dem Aufkommen generativer KI-Tools, die schnell realistische Bilder und Videos von echten Menschen erstellen können, hat Silicon Valley einen technischen Workaround für das Gesetz und die gesellschaftlichen Normen der Einwilligung geschaffen.
„K-Pop-Fans (wie alle Fans der Popkultur) sind seit langem aktive Produzenten von Fanmaterialien über ihre bevorzugten Idole. Bisher waren diese jedoch nicht ‚überzeugend‘, da es sich um Artefakte handelte, die das Idol selbst betreffen könnten“, sagte Keith gegenüber 404 Media. „Es handelt sich um ein paralleles Problem, das sowohl Fans als auch KI-Tools betrifft. Aufgrund dieser beiden Faktoren besteht für Fans jetzt eine größere Möglichkeit, große Mengen an Inhalten zu erstellen, die die persönliche Integrität der Idole nicht respektieren und die online auf eine Weise verbreitet werden können, die den Ruf der Idole untergräbt (z. B. sexualisierte Deepfakes).“
Während sich viele Fans gegen diese gruseligen Verhaltensweisen aussprachen, machten andere das Geschäftsmodell der K-Pop-Industrie dafür verantwortlich, das parasoziales Fandom fördert und gleichzeitig viele Künstler und Fans gleichermaßen ausbeutet.
„Das ist ein trauriger Nebeneffekt einer Branche, die schon seit Jahren existiert [has] drängten ihren Fans parasoziale Beziehungen auf“, schrieb Serious-Wish4868 in ein Thread auf r/kpopGedanken über die KI-gestützte Sexualisierung von Idolen. „Wenn Idole und Unternehmen Sie ständig dazu drängen, Ihre romantischen und sexuellen Fantasien mit Idolen auszuleben, in allem, was sie tun, von Social-Media-Posts bis hin zu Live-Interaktionen, was tun Sie dann? [you] Erwarten Sie, dass das passiert?“
Aber einige der Unterhaltungsagenturen, die K-Pop-Künstler verwalten – und die Künstler selbst – haben zum Ausdruck gebracht, dass sie mit der Situation ebenfalls nicht zufrieden sind. Mitglieder äußerst beliebter K-Pop-Gruppen mögen BTS Und Morgen X zusammen haben sich gegen den Einsatz generativer KI zur Erstellung digitaler Simulakren anhand von Künstlerporträts ausgesprochen. Im März veröffentlichte OA Entertainment, ein Label, das von Blackpink-Mitglied Jennie gegründet wurde und es vertritt, warnte in einer Pressemitteilung dass man damit beginnen werde, „energische rechtliche Schritte, einschließlich Zivil- und Strafverfahren, gegen alle Handlungen einzuleiten, die den Ruf, die Rechte, Porträtrechte und andere geistige Eigentumsrechte des Künstlers verletzen“. Die Erklärung erfolgte als Reaktion auf Belästigungs- und Stalking-Vorfälle, an denen die Künstler beteiligt waren, und deutete stark auf die Problematik von KI-generierten Inhalten hin, ohne diese explizit zu benennen.
Gleichzeitig nutzen viele dieser Idol-Talentunternehmen generative KI-Tools als Mittel zur Kostensenkung in der gesamten Branche. SM-Unterhaltungeines der größten Labels in Korea, das große Acts wie Girls Generation und Super Junior vertritt, hat die generative KI-Integration als Kernbestandteil seiner Geschäftsstrategie beschrieben und letztes Jahr ein vollständig KI-generiertes Musikvideo für die Girlgroup Aespa veröffentlicht. Und letzten Dezember erlebte die K-Pop-Welt den Start eines vollsynthetische Idolgruppe namens GLXE (ausgesprochen „Galaxy“), das KI-generierte Songs mit unheimlichen KI-Avataren kombiniert.
„Sie würden die gesamte Branche automatisieren, wenn sie Geld verdienen könnten“, Lindsey Knuth, ein K-Pop-Fan und Mitherausgeber bei Tangle-Neuigkeitensagte 404 Media. „Pornografische Deepfakes kleinerer Idole sind für mich ein Problem, ebenso wie die (fehlende) Reaktion der Branche.“
Die kulturelle Toleranz gegenüber fangeneriertem KI-Schwachsinn variiert je nach Region und Kontext. Südkorea derzeit belegt den ersten Platz beim Konsum von KI-Slop-Inhaltenda die Technologieindustrie des Landes die Einführung und kulturelle Akzeptanz der Technologie vorantreibt. In den USA zeigen Umfragen jedoch durchweg, dass die Mehrheit der Junge Menschen haben eine äußerst negative Meinung zu KI-Tools und KI-generierte Inhalte – und werden zunehmend gegen KI, da Arbeitsplätze, Schulen und Institutionen sie unter Druck setzen oder zwingen, diese zu nutzen.
Keith weist darauf hin, dass sich Labels und Talentfirmen zwar schon immer sehr aktiv für den Schutz von Künstlern und ihrem Ruf eingesetzt haben, dies jedoch nur unter dem Gesichtspunkt des Schutzes einer Investition geschieht. Fans hingegen neigen im Allgemeinen dazu, stärker emotional engagiert zu sein und neigen dazu, Idole als Menschen zu verteidigen, sowohl vor gruseligen Fans als auch gegenüber den Unternehmen selbst.
Und wie bei KI und Technologie im Allgemeinen fehlt es an technischen oder rechtlichen Schutzmaßnahmen gegen die Technologie viele gut dokumentiert schadet hat Social Shaming zu einem der wenigen wirksamen Abschreckungsmittel gegen missbräuchliches Verhalten in der K-Pop-Welt gemacht.
„Es ist beruhigend, dass viele Fans offen die nicht einvernehmliche Verwendung von KI und Deepfakes anprangern, denn da es keine technischen Schutzmaßnahmen für diese Art von Inhalten gibt, kommt es wirklich auf die soziale Akzeptanz an“, sagte Keith. „Also ja, es ist beruhigend, dass viele aktive Online-Fans eine Kultur des Respekts aufbauen, in der die Konterfeis von Idolen nicht auf nicht einvernehmliche Weise verwendet werden.“