KI-Info bei Social Media: Instagram, Facebook & TikTok
Wer Instagram, Facebook oder TikTok nutzt, stößt inzwischen immer häufiger auf Hinweise wie „KI-Info“ oder „KI-generiert“. Solche Kennzeichnungen sollen darauf aufmerksam machen, dass ein Bild, Video, Audio oder Text mit künstlicher Intelligenz erstellt oder bearbeitet wurde.
Doch was genau steckt hinter diesen Hinweisen? Erkennt die Plattform tatsächlich, ob ein Inhalt mit KI erstellt wurde? Und bedeutet ein fehlendes Label automatisch, dass ein Beitrag von einem Menschen stammt?
Die Antwort ist nicht ganz so eindeutig.
Was bedeutet „KI-Info“ auf Instagram und Facebook?
Meta, der Betreiber von Instagram und Facebook, kennzeichnet bestimmte Inhalte mit einem Hinweis auf KI. Das betrifft sowohl vollständig mit KI erzeugte Inhalte als auch Inhalte, bei denen KI bei der Bearbeitung eingesetzt wurde.
Meta verwendet dafür den Begriff „AI Info“. Die Kennzeichnung kann auf technischen Informationen beruhen, die in einer Datei enthalten sind. Sie kann aber auch darauf zurückgehen, dass die Person, die den Beitrag veröffentlicht, selbst angibt, KI verwendet zu haben. [1]
Für die technische Erkennung arbeitet Meta unter anderem mit Standards wie C2PA und IPTC. Diese können Informationen darüber enthalten, ob ein Bild oder anderer Inhalt mit generativer KI erstellt oder verändert wurde. [2]
Das Verfahren hat allerdings Grenzen. Meta weist selbst darauf hin, dass nicht alle KI-generierten Inhalte erkannt werden können. Außerdem können technische Informationen bei der Bearbeitung oder Weitergabe einer Datei verloren gehen oder entfernt werden. [2]
Ein KI-Hinweis ist deshalb ein wichtiger Hinweis zur Entstehung eines Inhalts, aber kein lückenloser Herkunftsnachweis.
Warum bekommt ein echtes Foto einen KI-Hinweis?
Das ist eine der Fragen, die besonders häufig auftaucht: Jemand hat ein Foto selbst aufgenommen, veröffentlicht es auf Instagram und plötzlich erscheint dort ein Hinweis auf KI.
Wie kann das sein?
Ein möglicher Grund liegt in der technischen Bearbeitung des Bildes. Moderne Foto- und Bildbearbeitungsprogramme verwenden zunehmend KI-Funktionen. Schon kleinere Veränderungen können dabei technische Signale hinterlassen, die von Plattformen erkannt werden.
Meta hat selbst darauf hingewiesen, dass auch KI-gestützte Bearbeitungen oder kleinere Veränderungen entsprechende Signale erzeugen können. [1]
Das kann beispielsweise ein Foto betreffen, das ein Fotograf ganz normal mit seiner Kamera aufgenommen hat. Der Fotograf hat das Motiv selbst ausgewählt, den Zeitpunkt geplant, Licht und Perspektive bestimmt und das Bild anschließend bearbeitet. Wenn bei dieser Bearbeitung ein KI-gestütztes Werkzeug eingesetzt wurde, kann die Datei dennoch Informationen enthalten, anhand derer Instagram oder Facebook einen KI-Hinweis anzeigen.
Das bedeutet nicht automatisch, dass das Foto von einer KI erzeugt wurde.
Genau diese Unterscheidung ist wichtig: Ein KI-Hinweis kann sich auf die Bearbeitung eines Fotos beziehen und nicht darauf, dass das Motiv oder das gesamte Bild künstlich erzeugt wurde.
Mehr zu diesem Thema und zur KI-Kennzeichnung auf verschiedenen Plattformen findest du auch im HUMAVE-Artikel zur KI-Kennzeichnung auf Social Media.
Nicht jede KI-Nutzung führt zum gleichen Hinweis
Meta unterscheidet zwischen Inhalten, die vollständig mit KI erzeugt wurden, und solchen, bei denen KI nur bei der Bearbeitung eingesetzt wurde.
Bei einem vollständig KI-generierten Bild kann der Hinweis direkt am Beitrag erscheinen. Bei Inhalten, die beispielsweise nur mit einem KI-Werkzeug bearbeitet wurden, kann sich die Information dagegen an einer anderen Stelle befinden. Meta hat die Darstellung dieser Hinweise im Laufe der Zeit angepasst. [1]
Das erklärt auch, warum zwei Bilder, bei denen KI auf unterschiedliche Weise eingesetzt wurde, nicht unbedingt gleich gekennzeichnet werden.
Ein Foto kann also von einem Menschen aufgenommen worden sein und trotzdem einen KI-Hinweis erhalten. Umgekehrt kann ein vollständig KI-generiertes Bild ohne sichtbaren Hinweis bleiben, wenn die entsprechenden technischen Signale fehlen oder nicht erkannt werden. [2]
Wie erkennt Meta KI-generierte Inhalte?
Meta nutzt dafür verschiedene technische Verfahren.
Eine wichtige Grundlage sind Informationen, die in digitalen Dateien hinterlegt werden. Dazu gehören beispielsweise Metadaten oder Herkunftsinformationen.
Ein Beispiel sind die technischen Standards von C2PA. Sie sollen nachvollziehbar machen, woher ein digitaler Inhalt stammt und ob beziehungsweise wie er verändert wurde. Meta nutzt außerdem Informationen nach dem IPTC-Standard. [2]
Zusätzlich entwickelt Meta eigene Systeme zur Erkennung von KI-generierten Inhalten. [2]
Das funktioniert allerdings nicht in jedem Fall. Wird ein Bild beispielsweise neu gespeichert, bearbeitet oder über verschiedene Plattformen weitergegeben, können technische Informationen verloren gehen. Auch vorhandene Kennzeichnungen lassen sich unter bestimmten Umständen entfernen. [2]
Deshalb kann keine Plattform allein anhand eines fehlenden Labels sicher feststellen, dass ein Inhalt vollständig von einem Menschen erstellt wurde.
Was bedeutet „KI-generiert“ bei TikTok?
Auch TikTok kennzeichnet Inhalte, die mit künstlicher Intelligenz erstellt oder verändert wurden.
Creator können entsprechende Inhalte selbst kennzeichnen. Gleichzeitig setzt TikTok eigene Erkennungssysteme und technische Verfahren ein. Auch Content Credentials nach dem C2PA-Standard spielen dabei eine Rolle. [3]
TikTok arbeitet außerdem daran, Nutzern dabei zu helfen, KI-generierte Inhalte besser zu erkennen und einzuordnen. Dazu gehören Kennzeichnungen ebenso wie technische Maßnahmen gegen automatisiert erzeugte Inhalte und KI-generierten Spam. [3]
Auch bei TikTok gilt deshalb: Ein vorhandenes Label liefert eine Information über einen Inhalt, ist aber nicht mit einer perfekten KI-Erkennung gleichzusetzen.
Kann man einem „KI-Info“-Label vertrauen?
Das Label kann eine hilfreiche Orientierung sein. Man sollte daraus aber nicht mehr ableiten, als die Kennzeichnung tatsächlich aussagt.
Wenn Instagram oder Facebook einen Inhalt als KI-generiert oder KI-bearbeitet kennzeichnet, können dafür technische Informationen, erkannte Signale oder Angaben des Erstellers vorliegen. [1][2]
Ein fehlendes Label bedeutet dagegen nicht automatisch, dass kein KI-System beteiligt war.
Gerade bei Bildern ist das wichtig. Ein Fotograf kann ein Bild vollständig selbst aufnehmen und trotzdem durch eine KI-gestützte Bearbeitung einen entsprechenden Hinweis auslösen. Gleichzeitig kann ein KI-generiertes Bild ohne sichtbare Kennzeichnung bleiben, wenn die nötigen Informationen nicht vorhanden oder nicht erkennbar sind.
Was hat der EU AI Act damit zu tun?
Neben den Kennzeichnungen der Plattformen gibt es inzwischen auch gesetzliche Vorgaben.
Mit Artikel 50 des EU AI Act gelten seit dem 2. August 2026 bestimmte Transparenzpflichten für KI-Systeme und deren Nutzung. Die Europäische Kommission hat dazu im Juli 2026 eigene Leitlinien veröffentlicht. [4][5]
Der AI Act schreibt allerdings nicht pauschal vor, dass jede Nutzung von KI öffentlich gekennzeichnet werden muss.
Artikel 50 unterscheidet verschiedene Anwendungsfälle. Dazu gehören unter anderem bestimmte Anforderungen an Anbieter generativer KI-Systeme sowie Transparenzpflichten für bestimmte KI-generierte oder manipulierte Inhalte.
Eine Rolle spielen beispielsweise Deepfakes. Auch für bestimmte KI-generierte oder manipulierte Texte, die Angelegenheiten von öffentlichem Interesse betreffen, gibt es Vorgaben.
Bei solchen Texten kommt es unter anderem darauf an, ob eine Person den Inhalt tatsächlich menschlich überprüft oder redaktionell kontrolliert hat. [5]
Mehr zu den Auswirkungen des EU AI Act auf kreative Berufe findest du auch im Artikel zum Einfluss des EU AI Act auf kreative Berufe.
Wann muss KI-generierter Text gekennzeichnet werden?
Bei KI-generierten Texten kommt es nach den Erläuterungen der Europäischen Kommission auf den konkreten Anwendungsfall an.
Eine Kennzeichnungspflicht besteht insbesondere für bestimmte KI-generierte oder manipulierte Texte, die zu Angelegenheiten von öffentlichem Interesse veröffentlicht werden und bei denen keine ausreichende menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat. [5]
Eine reine Rechtschreib- oder Grammatikprüfung reicht dafür nicht aus.
Bei einer menschlichen Überprüfung geht es vielmehr um eine tatsächliche inhaltliche Prüfung durch eine entsprechend sachkundige Person. Bei einer redaktionellen Kontrolle muss außerdem die Möglichkeit bestehen, den Inhalt aus inhaltlichen Gründen zu verändern, freizugeben oder abzulehnen. Dazu kann beispielsweise die Prüfung von Fakten und der Vertrauenswürdigkeit eines Inhalts gehören. [5]
Nicht jede Nutzung eines KI-Tools führt deshalb automatisch zu derselben Kennzeichnungspflicht.
Plattform-Label und EU AI Act sind zwei verschiedene Dinge
Die Hinweise auf Instagram, Facebook oder TikTok und die Vorgaben des EU AI Act sollte man getrennt betrachten.
Eine Plattform kann einen Inhalt aufgrund eigener Systeme, technischer Signale oder einer Angabe des Erstellers mit einem KI-Hinweis versehen.
Der EU AI Act verfolgt dagegen einen rechtlichen Ansatz und legt für bestimmte Anwendungsfälle konkrete Transparenzpflichten fest.
Beides kann zusammenfallen, muss es aber nicht.
Die Transparenzpflichten nach Artikel 50 gelten grundsätzlich seit dem 2. August 2026. Für bestimmte bereits vorher in Verkehr gebrachte KI-Systeme gibt es eine begrenzte Übergangsregelung. Inhalte, die vor dem 2. August 2026 erzeugt wurden, müssen nicht rückwirkend gekennzeichnet werden. [5]
Warum ist die Frage nach menschlicher Arbeit wichtig?
Bei einem Foto sieht man am fertigen Bild nicht unbedingt, wie viel menschliche Arbeit darin steckt.
Hinter einem guten Foto können viele bewusste Entscheidungen stehen. Bei einem Text können Recherche, Quellenprüfung, Formulierung und Überarbeitung entscheidend sein. Bei einem Design spielen Gestaltung, Konzept und die vielen Entscheidungen bis zum fertigen Ergebnis eine Rolle.
Das fertige Ergebnis zeigt diese Arbeit nicht immer.
Genau deshalb ist für Kreative und andere Fachleute die Frage interessant, wie sich menschliche Arbeit sichtbar machen lässt, wenn gleichzeitig immer mehr Inhalte mit KI erstellt oder bearbeitet werden.
Was macht HUMAVE?
HUMAVE soll diese menschliche Arbeit sichtbar machen.
Das Label zeigt, dass hinter einer Arbeit ein Mensch steht und nicht nur ein automatisch erzeugtes Ergebnis. Dabei geht es nicht darum, jede Nutzung von KI gleichzusetzen oder grundsätzlich auszuschließen. Entscheidend ist vielmehr, wer die Arbeit gemacht hat und wer hinter dem fertigen Ergebnis steht.
Für einen Fotografen kann das etwas anderes bedeuten als für einen Texter, Designer oder Übersetzer. Gemeinsam ist ihnen, dass ihre eigentliche Arbeit im fertigen Ergebnis oft nicht mehr vollständig zu erkennen ist.
Genau diese menschliche Seite soll mit HUMAVE sichtbar werden.
Damit beantwortet HUMAVE eine andere Frage als ein „KI-Info“-Hinweis auf Instagram oder Facebook.
Ein Plattform-Label soll darüber informieren, dass KI bei einem Inhalt eine Rolle gespielt haben kann. HUMAVE soll dagegen zeigen, dass hinter der jeweiligen Arbeit ein Mensch steht.
FAQ
Was bedeutet „KI-Info“ auf Instagram?
„KI-Info“ ist eine Kennzeichnung von Meta für bestimmte Inhalte, bei denen Hinweise auf eine KI-Erstellung oder KI-Bearbeitung vorliegen. Die Kennzeichnung kann auf technischen Signalen oder einer Angabe des Erstellers beruhen. [1]
Warum bekommt ein echtes Foto einen KI-Hinweis?
Auch ein selbst aufgenommenes Foto kann einen KI-Hinweis erhalten, wenn bei der Bearbeitung KI-Funktionen verwendet wurden oder entsprechende technische Signale in der Datei vorhanden sind. Meta weist darauf hin, dass auch kleinere KI-gestützte Veränderungen solche Signale erzeugen können. [1]
Bedeutet „KI-Info“, dass das gesamte Bild von einer KI erstellt wurde?
Nein. Ein KI-Hinweis kann sich auch auf eine Bearbeitung beziehen. Ein Foto kann beispielsweise von einem Menschen aufgenommen worden sein und anschließend mit einem KI-Werkzeug bearbeitet worden sein. [1]
Kann Instagram jeden KI-generierten Inhalt erkennen?
Nein. Meta weist selbst darauf hin, dass nicht alle KI-generierten Inhalte zuverlässig erkannt werden können. Auch technische Herkunftsinformationen können verloren gehen oder entfernt werden. [2]
Was bedeutet „KI-generiert“ bei TikTok?
TikTok kennzeichnet entsprechende Inhalte und kombiniert dafür Angaben von Creatorn mit eigenen Erkennungssystemen und technischen Verfahren. Auch C2PA Content Credentials werden genutzt. [3]
Ist ein fehlendes KI-Label ein Beweis dafür, dass ein Mensch den Inhalt erstellt hat?
Nein. Ein fehlendes Label bedeutet nicht automatisch, dass kein KI-System beteiligt war. Die technischen Erkennungsmöglichkeiten sind nicht vollständig. [2]
Muss jeder mit KI erstellte Text nach dem EU AI Act gekennzeichnet werden?
Nein. Der EU AI Act sieht keine pauschale Kennzeichnungspflicht für jede Nutzung von KI vor. Artikel 50 betrifft bestimmte Anwendungsfälle und enthält unter anderem besondere Vorgaben für bestimmte KI-generierte oder manipulierte Inhalte. [4][5]
Was bedeutet menschliche Überprüfung nach dem EU AI Act?
Eine menschliche Überprüfung muss inhaltlich erfolgen. Eine reine Rechtschreib- oder Grammatikprüfung reicht nach den Erläuterungen der Europäischen Kommission nicht aus. Bei einer redaktionellen Kontrolle muss eine Person außerdem die Möglichkeit haben, den Inhalt aus inhaltlichen Gründen zu verändern, freizugeben oder abzulehnen. [5]
Gilt Artikel 50 des EU AI Act bereits?
Ja. Die Transparenzpflichten nach Artikel 50 gelten grundsätzlich seit dem 2. August 2026. Für bestimmte bereits vorher in Verkehr gebrachte KI-Systeme gibt es eine begrenzte Übergangsregelung. [4][5]
Sind die KI-Kennzeichnungen von Instagram und TikTok gesetzlich vorgeschrieben?
Die Kennzeichnungen der Plattformen und die gesetzlichen Transparenzpflichten des EU AI Act sind unterschiedliche Dinge. Plattformen verwenden eigene Kennzeichnungs- und Erkennungssysteme. Der AI Act legt dagegen für bestimmte Anwendungsfälle gesetzliche Transparenzpflichten fest. [1][3][5]
Warum ist eine Kennzeichnung menschlicher Arbeit sinnvoll?
Ein KI-Hinweis informiert darüber, dass KI bei der Erstellung oder Bearbeitung eines Inhalts eine Rolle gespielt haben kann. Er zeigt aber nicht, wie viel menschliche Arbeit in einem Ergebnis steckt. Genau diese menschliche Arbeit kann eine zusätzliche Kennzeichnung sichtbar machen.
Quellen
[1] Meta: Our Approach to Labeling AI-Generated Content and Manipulated Media
[2] Meta: Labeling AI-Generated Images on Facebook, Instagram and Threads
[3] TikTok Newsroom: Helping people spot and understand AI-generated content on TikTok
[4] Europäische Kommission: Guidelines on transparency obligations for providers and deployers of AI systems
[5] Europäische Kommission: Transparency obligations under Article 50 of the AI Act