TikTok stuft KI-generierte Benutzerinhalte weltweit automatisch an erster Stelle ein

Bleiben Sie mit kostenlosen Updates auf dem Laufenden

Melden Sie sich einfach an künstliche Intelligenz myFT Digest – direkt in Ihren Posteingang geliefert.

TikTok wird die erste Social-Media-Plattform sein, die einige KI-generierte Inhalte automatisch kennzeichnet, da die rasanten Fortschritte in der KI die Besorgnis über die Verbreitung von Online-Fehlinformationen und Deepfakes verstärken.

Online-Gruppen wie der Facebook-Besitzer Meta und der TikTok-Besitzer fordern Benutzer auf, offenzulegen, ob reale Bilder, Audiodaten oder Videos von KI-Software erfasst wurden.

Die virale Video-App des chinesischen Unternehmens ByteDance ging am Donnerstag noch einen Schritt weiter und kündigte die Einführung eigener Funktionen an, um sicherzustellen, dass Videos, die sie als durch künstliche Intelligenz erstellt identifiziert, als solche gekennzeichnet werden. Dazu gehören Inhalte, die mit dem Firefly-Tool von Adobe, den KI-gestützten Bildgeneratoren von TikTok und Dall-E von OpenAI erstellt wurden.

„Die Herausforderung besteht darin, dass wir von vielen Experten, mit denen wir zusammenarbeiten, wissen, dass es einen Anstieg von … schädlichen Inhalten gibt, die durch künstliche Intelligenz generiert werden“, sagte Adam Presser, Leiter Betrieb, Vertrauen und Sicherheit bei TikTok.

„Das ist für unsere Community wirklich wichtig, denn Authentizität ist tatsächlich eines der Elemente, die TikTok zu einer so lebendigen und fröhlichen Community gemacht haben … Sie wollen verstehen können, was von Menschen gemacht ist und was mit KI erweitert oder geschaffen wird.“

Social-Media-Plattformen wie TikTok, Meta, Allerdings stehen die Plattformen heftig in der Kritik, weil sie eine Überschwemmung der Nutzer mit minderwertigem KI-generiertem Spam ermöglichen.

In einem Jahr mit großen Wahlen auf der ganzen Welt stehen diese Unternehmen auch unter dem Druck, Schutzmaßnahmen für irreführende Deepfakes einzuführen, verdeckte Einflussnahmen einzuschränken und sicherzustellen, dass sie Inhalte ordnungsgemäß moderieren und gleichzeitig unparteiisch bleiben.

Anfang dieser Woche haben TikTok und seine Muttergesellschaft ByteDance eine Klage gegen die US-Regierung eingereicht und ein Gesetz angefochten, das den Verkauf oder das Verbot der App erzwingen soll. Der Gesetzgeber äußerte Bedenken, dass die Plattform Fehlinformationen und Propaganda verbreiten könnte.

TikTok gab am Donnerstag bekannt, dass es einer von Adobe angeführten Koalition aus Technologie- und Medienkonzernen beitreten wird, die sogenannte Content Credentials in Produkte integriert, die durch künstliche Intelligenz erstellt werden.

Diese Technologie bettet mithilfe künstlicher Intelligenz einen digitalen Fingerabdruck in Multimedia-Inhalte ein, zusammen mit anderen identifizierenden Informationen, etwa wann, wo und von wem das Material erstellt wurde. TikTok wird diese Indikatoren verwenden, um automatisch zu informieren, wenn Inhalte mithilfe von KI-Produkten erstellt werden.

OpenAI gab am Dienstag bekannt, dass es der Allianz beitreten und die Fingerabdrucktechnologie in alle von seinem Bildmodell Dall-E 3 generierten Bilder integrieren wird. Der Hersteller von ChatGPT sagte, dass es sie schließlich auch in sein Videogenerierungsmodell Sora integrieren werde wurde weithin veröffentlicht.

Große Technologieunternehmen, darunter Google, Microsoft und Sony, prüfen die Integration der Technologie in ihre KI-Tools.

Meta gab Anfang des Monats bekannt, dass es damit beginnen werde, KI-generierte Inhalte mit dem Tag „Made by AI“ zu versehen, indem es die unsichtbaren Tags offenlegt, die von Gruppen wie Google, OpenAI, Microsoft, Adobe, Midjourney und Shutterstock enthalten sind. Der Facebook-Besitzer gab außerdem an, dass er Klassifizierungstools entwickelt, um Deepfakes zu erkennen.

Experten haben argumentiert, dass böswillige Akteure oder hochentwickelte Desinformationsgruppen wahrscheinlich Open-Source-Tools zur KI-Generierung nutzen, um gefälschte Bilder zu erstellen, die es schwierig machen könnten, sie aufzuspüren und nicht von digitalen Fingerabdrücken und Wasserzeichen zu unterscheiden.

Technologieunternehmen sagen, dass ihre Bemühungen den ersten Schritt zur Lösung des Problems darstellen.

„Die Prämisse dieser Lösung lautet: Wenn Sie transparent sein und ein echtes, transparentes Gespräch mit Ihrem Publikum führen möchten, können Sie dies mit diesem Tool in einer Welt tun, in der alles digital manipuliert werden kann“, sagte Dana Rao, General Counsel und Chief Trust Officer bei Adobe.