Podcast und Interview mit Olivia Satchel
Mit dem Einsatz von KI im Marketing wachsen auch die rechtlichen Anforderungen. Ab dem 2. August bringt der AI Act neue Pflichten für Unternehmen, Marketing-Teams und Dienstleister – insbesondere im Hinblick auf Transparenz und Kennzeichnung. Doch was gilt konkret, und wann greift die Kennzeichnungspflicht?
In dieser Episode spricht Olivia Satchel, zertifizierte Datenschutzexpertin und Consultant bei der activeMind AG, über die praktischen Auswirkungen der neuen Vorgaben. Deutlich wird dabei, dass die Deepfake-Definition weiter reicht als oft angenommen und gerade Bild- und Videoinhalte zur Herausforderung werden können. Zudem geht es um mögliche Bußgelder und drei Maßnahmen, die jetzt Priorität haben sollten.
Worüber wir in dieser Podcast-Episode sprechen
- Warum ist der EU AI Act auch für kleine und mittlere Unternehmen wichtig?
- Was regelt der AI Act für den Einsatz von KI im Marketing?
- Welche Risikoklassen unterscheidet der AI Act?
- Welche Pflichten haben Unternehmen beim Einsatz von KI-Systemen?
- Wie ernst sind die möglichen Bußgelder zu nehmen?
- Welche rechtlichen Risiken gibt es bei KI-generierten Inhalten und Personen?
- Wo liegen die größten Hürden bei der Umsetzung des EU AI Acts?
- Welche Fehler passieren beim Einsatz von KI im Marketing besonders häufig?
- Brauchen Unternehmen klare Regeln für den sicheren Einsatz von KI?
- Welche Maßnahmen sollten Unternehmen beim Einsatz von KI jetzt umsetzen?
Diese Episode auf YouTube anhören
Weiterbildung im Bereich Künstliche Intelligenz wird für Unternehmen und Mitarbeitende immer wichtiger – nicht zuletzt mit Blick auf den Nachweis von KI-Kompetenz gemäß Art. 4 der EU-KI-Verordnung. Gezielte Weiterbildungsangebote wie unser Seminar KI im Online-Marketing, Social Media mit KI, Marketingplanung mit KI oder Prompting & Prompt Engineering unterstützen dabei, relevantes Wissen aufzubauen und KI sicher, verantwortungsvoll und wirkungsvoll im Arbeitsalltag einzusetzen.
Experteninterview mit Olivia Satchel: AI Act im Onlinemarketing
KI ist aus dem Marketing-Alltag nicht mehr wegzudenken. Doch mit dem AI Act gelten ab dem 2. August neue Regeln. Viele Teams wissen noch nicht, was das konkret für ihre Arbeit bedeutet. Olivia Satchel, zertifizierte Datenschutzexpertin und Consultant bei der activeMind AG, bringt Klarheit: Wer muss kennzeichnen? Wann musst du kennzeichnen? Was ist wirklich ein Deepfake? Und was sollte jetzt sofort auf deine Agenda?
eMBIS: Was bedeutet der AI Act konkret für Marketingteams und warum sollten sich auch kleinere Unternehmen jetzt damit beschäftigen?
Olivia: Spätestens jetzt sollten sich Marketingteams damit beschäftigen, weil ab dem 2. August die Transparenzpflichten gemäß der KI-Verordnung in Kraft treten. Wenn man diesen Pflichten nicht nachkommt, drohen heftige Geldbußen – bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Für kleinere und mittlere Unternehmen sind die Bußgelder zwar gedeckelt, aber es gibt keine Ausnahme von den Transparenzpflichten für KMUs. Auch sie müssen darauf achten, diesen Pflichten nachzukommen – wenn sie bestimmten Content erstellen.
eMBIS: Was regelt der AI Act grundsätzlich?
Olivia: Der EU AI Act regelt die Entwicklung, Verbreitung und Nutzung von KI-Systemen und KI-Modellen in Europa. Also für alle Unternehmen mit Firmensitz hier, aber auch für alles, was an KI-Output in Europa veröffentlicht wird. Es gibt verschiedene Risikokategorien. Für Marketing relevant sind vor allem die Kategorien limitiertes und niedriges Risiko. Hier greifen die Transparenzpflichten für Content-Erstellung, sei es Text, Bild, Video oder Audio.
eMBIS: Welche Rolle spielt Marketing konkret im AI Act – und was bedeutet das für Dienstleister?
Olivia: Der AI Act unterscheidet verschiedene Rollen: Entwickler, Anbieter, Betreiber. Für Marketing entscheidend ist die Rolle des Betreibers. Das ist derjenige, der ein KI-System nutzt. Und das trifft Marketing direkt.
Wenn du als externe Marketing-Agentur oder Dienstleisterin Content für ein beauftragendes Unternehmen erstellst und dabei KI-Tools einsetzt, bist du selbst Betreiberin. Du bist direkt vom AI Act betroffen und musst die Transparenzpflichten erfüllen. Aber auch das beauftragende Unternehmen könnte als Betreiber gelten. Zum Beispiel, wenn es den fertigen Content unter eigener Verantwortung veröffentlicht. Deswegen ist es empfehlenswert, dass beide Seiten zusammenarbeiten und die Kennzeichnungspflicht gemeinsam sicherstellen.
Anders sieht es aus, wenn du nur KI-Output erhältst, ohne Einfluss darauf zu haben, welches KI-System genutzt wird oder wie. In diesem Fall bist du lediglich Endnutzerin und hast keine Verpflichtungen aus der KI-Verordnung.
eMBIS: Wann genau muss ein Text gekennzeichnet werden – und wann nicht?
Olivia: Bei Texten ist es relativ einfach. Wenn man einen Text generiert oder manipuliert – egal ob es ein Stück des Textes ist oder der ganze Text – und man ihn sich noch einmal anschaut und dann unter eigener Verantwortung veröffentlicht, ist man aus der Kennzeichnungspflicht raus. Das menschliche Korrektiv ist der entscheidende Punkt.
eMBIS: Wie sieht das bei Bildern, Videos und Audio aus?
Olivia: Da wird es komplizierter. Die Definition von einem Deepfake ist sehr viel weiter, als die meisten Menschen überhaupt realisieren. Man ist da sehr schnell drin. Die Definition besagt: Es muss eine Ähnlichkeit zu einer wirklichen Person, einem Gegenstand, Objekt, Ereignis oder Ort geben – und es muss ein Täuschungspotenzial bestehen. Sobald beides gegeben ist, müsste man kennzeichnen. Und das passiert im Marketing-Alltag viel öfter, als man denkt.
eMBIS: Kannst du das an einem konkreten Beispiel erklären?
Olivia: Wenn du ein Foto von jemandem nimmst und den Hintergrund änderst – zum Beispiel, die Person steht plötzlich vor dem Eiffelturm – wäre das bereits ein Deepfake. Wenn du hingegen nur die Beleuchtung oder den unscharfen Hintergrund anpasst, ändert das nichts an der Authentizität des Bildes und muss nicht gekennzeichnet werden. Und wenn du einen Avatar als Außerirdischen oder eine offensichtlich animierte Figur erstellst, bei der kein Täuschungspotenzial besteht, fällt das ebenfalls nicht unter die Definition.
eMBIS: Was empfiehlst du Marketing-Teams, die unsicher sind, ob sie kennzeichnen müssen?
Olivia: Als Marketing-Mensch würde ich mir den Alltag einfacher machen und lieber kennzeichnen in allen Fällen, wo ich Zweifel habe, anstatt lang zu überlegen, ob ich eine Kennzeichnung vornehmen muss oder nicht. Das Risiko einer Nicht-Konformität ist sehr kostspielig. Und mal abgesehen von den Geldbußen: Es sieht in der Öffentlichkeit einfach sehr schlecht aus, wenn ein Unternehmen ständig Content veröffentlicht und diesen nicht kennzeichnet, obwohl es ein Deepfake ist.
eMBIS: Wo siehst du die größten Hürden bei der Umsetzung?
Olivia: Die größte Hürde ist die mangelnde KI-Kompetenz. Unternehmen nehmen sich nicht die Zeit, ihre Mitarbeiter ordentlich zu schulen. Das führt zu Datenpannen, weil vertrauliche oder personenbezogene Daten in unbefugte Tools fließen. Oder weil Mitarbeiter private KI-Accounts für geschäftliche Zwecke nutzen. Hinzu kommt: Die Transparenzpflichten müssen in die Prozesse integriert werden. Man muss Assets taggen, Freigaben dokumentieren und auch Grenzfälle festhalten. Das ist ein erheblicher Verwaltungsaufwand.
eMBIS: Reichen KI-Guidelines im Unternehmen?
Olivia: Nein. Man kann kein Regelungsdokument einfach veröffentlichen und erwarten, dass die Mitarbeiter sich das alles durchlesen, verstehen und sofort umsetzen. Man muss die Mitarbeiter an die Hand nehmen und immer wieder schulen, weil es ein ständig wechselndes Thema ist. Es gibt immer neue KI-Tools mit neuen Funktionalitäten. Eine Guideline ist wichtig, aber sie ersetzt die Schulung nicht.
eMBIS: Was sind deine drei konkreten Handlungsempfehlungen für Marketing-Teams?
Olivia: Als erstes eine KI-Kompetenzschulung – gezielt auf die Transparenzpflichten ausgerichtet. Das ist ohnehin seit dem 2. Februar Pflicht. Alle, die mit KI-Content arbeiten, intern wie extern, sollten abgeholt werden: Was bedeuten die Transparenzpflichten? Wann gelten sie? Wie sieht die Kennzeichnung aus?
Dann die praktische Umsetzung entscheiden und kommunizieren. Wo sind Vorlagen hinterlegt? Wie wird die Freigabe dokumentiert? Das muss einmal klar entschieden und dann konsequent umgesetzt werden.
Zuletzt die Kennzeichnung in alle neuen Content-Prozesse integrieren. Was vor dem 2. August veröffentlicht wurde, muss nicht rückwirkend gelabelt werden, aber alles Neue ab diesem Datum schon.
Fakten zum AI Act im Marketing
Der AI Act der Europäischen Union ist ein umfassendes Regelwerk zur Regulierung von künstlicher Intelligenz und hat weitreichende Auswirkungen auf das Marketing. Da KI bereits heute in vielen Bereichen wie Content-Erstellung, Zielgruppenanalyse und Kampagnensteuerung eingesetzt wird, schafft der AI Act erstmals verbindliche Standards für Transparenz, Sicherheit und Verantwortung. Besonders im Marketing müssen Unternehmen künftig genau prüfen, wie KI-generierte Inhalte eingesetzt und gekennzeichnet werden.
Transparenz wird zur Pflicht
Unternehmen müssen offenlegen, wenn Inhalte durch KI generiert wurden, insbesondere wenn diese täuschend echt wirken und Nutzer beeinflussen könnten.
Deepfakes sind breiter definiert als gedacht
Nicht nur manipulierte Videos, sondern auch KI-generierte Bilder oder Stimmen können darunterfallen und Kennzeichnungspflichten auslösen.
Risikobasierter Ansatz
Der AI Act unterscheidet zwischen verschiedenen Risikostufen von KI-Systemen, was direkte Auswirkungen darauf hat, welche Anforderungen im Marketing gelten.
Hohe Bußgelder bei Verstößen
Ähnlich wie bei der DSGVO drohen empfindliche Strafen, wenn Unternehmen die Vorgaben des AI Acts nicht einhalten oder falsch umsetzen.
Verantwortung bleibt beim Unternehmen
Auch wenn externe Tools oder Dienstleister genutzt werden, liegt die Einhaltung der Vorschriften weiterhin beim werbenden Unternehmen selbst.
Weitere passende Podcast-Episoden
Diese Podcast-Folgen vertiefen das Thema weiter und zeigen unterschiedliche Perspektiven aus der Praxis, während sie zugleich konkrete Einblicke ins Marketing geben und hilfreiche Erfahrungen aus dem Arbeitsalltag vermitteln.
- Wie verändert KI das Social Media Marketing? (mit Ellen Marx)
- Ist No-Code-Automation im Marketing nur Hype oder echte Hilfe? (mit Stefan Ponitz)
- KI für Social Ads – Wie nutze ich KI für Social Ads, ohne dass sie künstlich wirken? (mit Ines Pfab)
Seminare