DsiN_DeepDive: Der EU AI Act und seine Bedeutung für den digitalen Verbraucherschutz
Sergey Lagodinsky, MdEP und stellv. Vorsitzender der Fraktion Grüne/EFA im EU-Parlament und Darija Bräuniger, Leiterin Digitalpolitik DACH bei Zalando im exklusiven Hintergrundgespräch bei DsiN.

Künstliche Intelligenz (KI) ist längst Teil unseres Alltags, sei es in Form von Produktempfehlungen, Chatbots oder automatisierten Entscheidungen. Doch mit dem zunehmenden Einsatz von KI wächst auch die Verunsicherung: Wer kontrolliert eigentlich, wie solche Systeme funktionieren? Wie können sich Verbraucher:innen schützen? Und wie können Unternehmen verantwortungsvoll mit den neuen Möglichkeiten umgehen?
Genau diesen Fragen widmete sich der erste DsiN_DeepDive, ein exklusives Hintergrundgespräch für Mitglieder und Partner von Deutschland sicher im Netz e.V. (DsiN). Ziel war es, zentrale Aspekte des neuen EU AI Acts aus politischer, unternehmerischer und zivilgesellschaftlicher Perspektive zu beleuchten.
Über die Anforderungen und Auswirkungen der neuen Verordnung diskutierten zwei hochkarätige Gäste: Sergey Lagodinsky, MdEP und stellvertretender Vorsitzender der Fraktion Grüne/EFA im Europäischen Parlament, und Darija Bräuniger, Leiterin Digitalpolitik DACH bei Zalando. Moderiert wurde der Austausch von DsiN-Geschäftsführerin Isabelle Rosière. Im Zentrum des DsiN_DeepDives stand die Frage, wie der AI Act dazu beitragen kann, Verbraucher:innen vor Intransparenz, Diskriminierung und Kontrollverlust zu schützen, ohne gleichzeitig Innovation zu blockieren.
Was bedeutet der AI Act konkret für Verbraucher:innen?
Der AI Act legt europaweit einheitliche Regeln für den Einsatz von KI fest. Im Fokus stehen dabei insbesondere Anwendungen, die potenziell tief in das Leben von Menschen eingreifen können. Diese sollen künftig strenger kontrolliert und transparenter gemacht werden. Anbieter müssen offenlegen, wenn KI eingesetzt wird und welche Kriterien in automatisierten Entscheidungen eine Rolle spielen.
Für Verbraucher:innen bedeutet das mehr Transparenz und Schutz, aber auch einen höheren Informationsbedarf.
Für DsiN steht fest: Der Schutz von Verbraucher:innen gelingt nur durch digitale Aufklärung und Kompetenzförderung. Viele Menschen nutzen KI-Systeme, ohne zu wissen, dass es sich dabei um KI handelt. Gleichzeitig herrscht oft Unsicherheit darüber, ob diese Systeme gerecht, nachvollziehbar oder sicher agieren. Genau hier setzt die Arbeit von DsiN an: Denn digitale Kompetenz bedeutet auch, KI-Systeme kritisch einordnen zu können und Vertrauen auf Basis von Wissen zu entwickeln.
Der DsiN_DeepDive hat eindrücklich gezeigt, wie eng Vertrauen und Regulierung zusammenhängen. Nur wenn Nutzer:innen nachvollziehen können, wie KI funktioniert, sind sie bereit, diese Technologien anzunehmen und zu nutzen.
Schulungspflichten und Marktchancen – ein Spannungsfeld
Ein spannender Punkt im Gespräch war auch die neue „Wissenspflicht für Beschäftigte“. Der AI Act verpflichtet Unternehmen, sicherzustellen, dass Mitarbeitende im Umgang mit KI ausreichend geschult sind. Das eröffnet neue Chancen für den Kompetenzaufbau, birgt aber auch Risiken: Bereits jetzt drängen erste „KI-Coaches“ auf den Markt, deren Angebote oft teuer, wenig standardisiert und schwer überprüfbar sind. Hier wird es künftig Regeln und Qualitätssicherung brauchen.
Der AI Act braucht Begleitung – durch Aufsicht, Politik und Zivilgesellschaft
Der DsiN_DeepDive machte deutlich: Der AI Act ist ein wichtiger Schritt in Richtung fairer, transparenter und sicherer KI. Doch seine Wirksamkeit hängt davon ab, wie er in der Praxis umgesetzt wird – und ob Verbraucher:innen dabei mitgenommen werden.
Als zivilgesellschaftliche Organisation wird sich DsiN weiterhin dafür einsetzen, dass digitale Kompetenzen gestärkt, Vertrauen gefördert und Schutzbedarfe ernst genommen werden. Der Dialog mit Politik und Wirtschaft ist dafür entscheidend. Der DsiN_DeepDive war ein erster wichtiger Impuls – und sicher nicht der letzte. Wir danken unseren Gästen und allen Teilnehmenden für den offenen und konstruktiven Austausch.
Der DsiN_DeepDive ist ein exklusives Angebot für das Mitglieder- und Partnernetzwerk von DsiN.
Kontaktieren Sie uns
Kontaktieren Sie uns für
Ihre Anfrage gerne unter:
(0) 30 767581-500
Presseanfragen richten
Sie bitte an:
(0) 30 767581-514
Postanschrift
Deutschland sicher im Netz e.V.
Albrechtstraße 10c 10117 Berlin