Was der EU AI Act für InfluencerInnen bedeutet

Das neue KI-Gesetz ist das weltweit erste seiner Art: Der Artificial Intelligence Act (EU AI Act) reguliert den Umgang mit künstlicher Intelligenz in der Europäischen Union. Die EU-Kommission versteht ihr Gesetzespaket als globales Vorbild. Sie hofft, dass sich andere Länder daran ein Beispiel nehmen. Seit dem 01.08.2024 ist der EU AI Act in Kraft.

Die EU verfolgt mit dem KI-Gesetz zwei wesentliche Ziele:

1. Risiken minimieren: Der Einsatz von KI soll sicherer werden. Je riskanter die Anwendung, desto strenger sind die Auflagen des EU AI Act. Das soll die Rechte der AnwenderInnen schützen und ihr Vertrauen in KI-Technologien stärken. Unternehmen, die KI entwickeln oder einsetzen, gibt der AI Act einen planungssicheren Rechtsrahmen.
2. Chancen nutzen: Innovationen und Investitionen im Bereich KI sollen gefördert werden. Dazu unterstützt der EU AI Act kleine und mittelständische Unternehmen (KMU) mit speziellen Regelungen. Ausnahmen schaffen gewisse Spielräume für Forschende und Open-Source-Projekte. So können diese z. B. KI-Technologien unter realen Bedingungen testen, bevor sie auf den Markt kommen.

Der Ansatz des EU AI Act ist risikobasiert. Wo die EU ein hohes Risiko beim Einsatz von KI sieht, verhängt sie besonders strenge Regeln:

• unannehmbar hohes Risiko: KI-Systeme, welche eindeutig die Sicherheit, den Lebensunterhalt oder die Rechte von Menschen bedrohen, sind verboten. Dazu zählen:
• Social Scoring (soziale Bewertungen) durch Regierungen
• Verhaltensmanipulationen (z. B. durch Spielzeuge mit Sprachhilfen)
• biometrische Kategorisierung (Dabei werden natürliche Personen anhand biometrischer Daten nach Aspekten wie Religion, Ethnie, sexuelle oder politische Orientierung etc. eingeordnet.)
• Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen
• Fernidentifikation in Echtzeit durch Strafverfolgungsbehörden in öffentlichen Räumen
• massenhaftes Auslesen von Bildern mit Gesichtern zum Befüllen von Datenbanken

• hohes Risiko: Hochrisiko-KI-Systeme müssen regelmäßig überprüft werden und Transparenzpflichten erfüllen. Hochriskant sind z. B.:
• KI-Technologien, die in kritischen Bereichen eingesetzt werden, wo sie Menschenleben gefährden können (z. B. Verkehr, Medizin)
• Scoring-Verfahren, die sich diskriminierend auswirken könnten (z. B. automatisierte Bewertungen bei Kredit- oder Visumsanträgen, Einstellungsverfahren, Prüfungsergebnissen, Beweismitteln vor Gericht)
• Fernidentifizierungssysteme, welche persönliche Merkmale erkennen und Personen biometrisch identifizieren können (z. B. Gesichtserkennungssoftware)

• begrenztes Risiko: Hier geht es um Risiken, die entstehen, wenn Menschen nicht wissen, dass sie mit einer Maschine kommunizieren. KI-basierte Chatbots oder KI-generierte Inhalte müssen nach dem EU AI Act transparent als solche gekennzeichnet werden. Dann können AnwenderInnen frei entscheiden, ob sie die KI nutzen wollen oder nicht. Und Fakes sind leichter zu erkennen.

• minimales oder kein Risiko: Für unbedenkliche KI-Anwendungen gibt es keine Regulierung. Dazu gehören z. B. Spam-Filter oder KI-fähige Videospiele.

Im Influencer-Marketing können KI-Systeme zum einen mit blitzschnellen Datenauswertungen Zielgruppen und Reaktionen analysieren. Damit lassen sich die zielgruppengenaue Ansprache (Targeting) und die Performance verbessern. Mit KI-gestützter Software finden Unternehmen Influencende, die zu ihrer Marke passen.

Zum anderen helfen KI-Systeme beim Erstellen von Online-Inhalten. Wer Waren, Dienstleistungen oder sich selbst online promotet, braucht ständig neuen Content. Ob Texte, Bilder oder Videos – mit KI-Unterstützung geht das Produzieren schnell und kostengünstig.

Vielleicht nutzt auch du beim Influencen, Bloggen oder im Webshop schon die eine oder andere Art von künstlicher Intelligenz:

• KI-Tools wie Chat GPT, Perplexity, Jasper, DALL-E, Canva, Midjourney, Synthesia etc., die Texte, Bilder oder Videos erstellen oder bearbeiten
• ein Chatbot oder ein anderes Tool, das NutzerInnen Fragen beantwortet oder Vorschläge unterbreitet
• Filter oder Automationen, die E-Mails, Chat-Anfragen oder Kundenbewertungen für dich beantworten
• Personalisierung auf Basis von Kundendaten, um das Einkaufserlebnis persönlicher zu gestalten und Impulskäufe anzuregen
• virtuelle Anprobe, damit deine KundInnen sehen, wie deine Produkte an ihnen aussehen
• KI-gestützte Datenanalyse, um Kampagnen zu analysieren, Trends und zukünftige Erfolge vorherzusagen
• KI-generierte Avatare, die als virtuelle InfluencerInnen eigene Kanäle bespielen

Von diesen KI-Systemen geht normalerweise kein hohes Risiko im Sinne des EU AI Act aus. Trotzdem gilt meist zumindest die Transparenzpflicht: Stelle sicher, dass jeder Output einer KI sofort erkennbar ist. Kennzeichne alle KI-generierten Inhalte deutlich und in maschinenlesbarer Form.

Tipp: Ausführlicher haben wir zur Kennzeichnungspflicht in einem früheren Blog-Artikel informiert.

ExpertInnen meinen, dass KI-Systeme im Influencer-Marketing künftig noch wichtiger werden. Mit KI-Unterstützung können InfluencerInnen, BloggerInnen und Online-Unternehmen effizienter und effektiver arbeiten. Sie verschlanken Arbeitsprozessen und helfen, Zielgruppen besser zu erreichen.

Doch vergessen wir nicht: Influencing basiert auf Vertrauen und Persönlichkeit. Wenn nicht klar ist, wessen Meinungen und Werte hinter einer KI stecken, löst sich diese Vertrauensbasis auf. Wer offen und ehrlich mit und auch über KI-Einsatz kommuniziert, festigt die vertrauensvolle Beziehung zur Community. So will es auch das neue KI-Gesetz.

Du bist unsicher, was der EU AI Act für dich als InfluencerIn, BloggerIn oder deinen Webshop bedeutet? Dann empfehlen wir dir eine Rechtsberatung. Bei Gesetzen rund um Online-Aktivitäten ist unser Rechtspartner immer up to date, die IT-Recht Kanzlei München.

Und wir von Postflex^® sind für dich da, wenn du dich online mit einer virtuellen Adresse schützen willst. Damit weder künstliche Intelligenzen noch reale Prankster deine Privatsphäre verletzen. Kontaktiere uns, wenn du über den Adress-Schutz mehr wissen willst.

Bis bald,
Dein Postflex^®-Team