loader image

DsiN_DeepDive: Der EU AI Act und seine Bedeutung für den digitalen Verbraucherschutz

DsiN für Unternehmen

Digitale Lebenswelten

Sergey Lagodinsky, MdEP und stellv. Vorsitzender der Fraktion Grüne/EFA im EU-Parlament und Darija Bräuniger, Leiterin Digitalpolitik DACH bei Zalando im exklusiven Hintergrundgespräch bei DsiN.

Foto gemeinsam mit den Deep Dive Gästen. Von links nach rechts: Gabriella Silvestri (DsiN), Darija Bräuniger (Zalando), Sergey Lagodinsky, (MdEP und stellv. Vorsitzender der Fraktion Grüne/EFA), Isabelle Rosière (Geschäftsführerin DsiN), Elisabeth Wisniewski (DsiN)

Künstliche Intelligenz (KI) ist längst Teil unseres Alltags, sei es in Form von Produktempfehlungen, Chatbots oder automatisierten Entscheidungen. Doch mit dem zunehmenden Einsatz von KI wächst auch die Verunsicherung: Wer kontrolliert eigentlich, wie solche Systeme funktionieren? Wie können sich Verbraucher:innen schützen? Und wie können Unternehmen verantwortungsvoll mit den neuen Möglichkeiten umgehen? 

Genau diesen Fragen widmete sich der erste DsiN_DeepDive, ein exklusives Hintergrundgespräch für Mitglieder und Partner von Deutschland sicher im Netz e.V. (DsiN). Ziel war es, zentrale Aspekte des neuen EU AI Acts aus politischer, unternehmerischer und zivilgesellschaftlicher Perspektive zu beleuchten. 

Über die Anforderungen und Auswirkungen der neuen Verordnung diskutierten zwei hochkarätige Gäste: Sergey Lagodinsky, MdEP und stellvertretender Vorsitzender der Fraktion Grüne/EFA im Europäischen Parlament, und Darija Bräuniger, Leiterin Digitalpolitik DACH bei Zalando. Moderiert wurde der Austausch von DsiN-Geschäftsführerin Isabelle Rosière. Im Zentrum des DsiN_DeepDives stand die Frage, wie der AI Act dazu beitragen kann, Verbraucher:innen vor Intransparenz, Diskriminierung und Kontrollverlust zu schützen, ohne gleichzeitig Innovation zu blockieren. 

Was bedeutet der AI Act konkret für Verbraucher:innen? 

Der AI Act legt europaweit einheitliche Regeln für den Einsatz von KI fest. Im Fokus stehen dabei insbesondere Anwendungen, die potenziell tief in das Leben von Menschen eingreifen können. Diese sollen künftig strenger kontrolliert und transparenter gemacht werden. Anbieter müssen offenlegen, wenn KI eingesetzt wird und welche Kriterien in automatisierten Entscheidungen eine Rolle spielen. 

Für Verbraucher:innen bedeutet das mehr Transparenz und Schutz, aber auch einen höheren Informationsbedarf. 

Für DsiN steht fest: Der Schutz von Verbraucher:innen gelingt nur durch digitale Aufklärung und Kompetenzförderung. Viele Menschen nutzen KI-Systeme, ohne zu wissen, dass es sich dabei um KI handelt. Gleichzeitig herrscht oft Unsicherheit darüber, ob diese Systeme gerecht, nachvollziehbar oder sicher agieren. Genau hier setzt die Arbeit von DsiN an: Denn digitale Kompetenz bedeutet auch, KI-Systeme kritisch einordnen zu können und Vertrauen auf Basis von Wissen zu entwickeln. 

Der DsiN_DeepDive hat eindrücklich gezeigt, wie eng Vertrauen und Regulierung zusammenhängen. Nur wenn Nutzer:innen nachvollziehen können, wie KI funktioniert, sind sie bereit, diese Technologien anzunehmen und zu nutzen. 

Schulungspflichten und Marktchancen – ein Spannungsfeld 

Ein spannender Punkt im Gespräch war auch die neue „Wissenspflicht für Beschäftigte“. Der AI Act verpflichtet Unternehmen, sicherzustellen, dass Mitarbeitende im Umgang mit KI ausreichend geschult sind. Das eröffnet neue Chancen für den Kompetenzaufbau, birgt aber auch Risiken: Bereits jetzt drängen erste „KI-Coaches“ auf den Markt, deren Angebote oft teuer, wenig standardisiert und schwer überprüfbar sind. Hier wird es künftig Regeln und Qualitätssicherung brauchen. 

Der AI Act braucht Begleitung – durch Aufsicht, Politik und Zivilgesellschaft 

Der DsiN_DeepDive machte deutlich: Der AI Act ist ein wichtiger Schritt in Richtung fairer, transparenter und sicherer KI. Doch seine Wirksamkeit hängt davon ab, wie er in der Praxis umgesetzt wird – und ob Verbraucher:innen dabei mitgenommen werden. 

Als zivilgesellschaftliche Organisation wird sich DsiN weiterhin dafür einsetzen, dass digitale Kompetenzen gestärkt, Vertrauen gefördert und Schutzbedarfe ernst genommen werden. Der Dialog mit Politik und Wirtschaft ist dafür entscheidend. Der DsiN_DeepDive war ein erster wichtiger Impuls – und sicher nicht der letzte. Wir danken unseren Gästen und allen Teilnehmenden für den offenen und konstruktiven Austausch. 

Der DsiN_DeepDive ist ein exklusives Angebot für das Mitglieder- und Partnernetzwerk von DsiN. 

Zum Mitglieder- und Partnerbereich →

Neueste Artikel

Alle sehen
Banner mit dem Text: DsiN-Sicherheitsindex 2025. Dazu die Coverillustrationen: Abstrakte Menschen in einer vernetzten, digitalen Welt.
16.06.2025

DsiN-Sicherheitsindex 2025

Der DsiN-Sicherheitsindex 2025 ist da. Die repräsentative Studie von Deutschland sicher im Netz e. V. und Studienpartner ARIX untersucht die digitale Sicherheitslage von Internetnutzer:innen in Deutschland und bildet diese in einer zentralen Kennziffer auf einer Skala von 0 bis 100 Punkten ab: Dem DsiN-Sicherheitsindex. Hierzu werden vier Sicherheitsfaktoren genauer untersucht: erlebte Sicherheitsvorfälle sowie das Verunsicherungsgefühl der Verbraucher:innen beschreiben die Bedrohungslage. Das Sicherheitswissen und Sicherheitsverhalten von Verbraucher:innen ergeben das Schutzniveau. Außerdem werden fünf Nutzungstypen und ihr Alltagsverhalten in unterschiedlichen digitalen Lebenswelten untersucht. Das Fokusthema der Studie 2025 lautet: Vertrauen in der digitalen Welt. Die Schirmherrschaft der Studie hat das Bundesministerium der Justiz und Verbraucherschutz (BMJV) inne. Sie können den vollständigen DsiN-Sicherheitsindex unten als PDF herunterladen.
Titel-Illustration des DsiN-Sicherheitsindex: Diverse Menschen vernetzt in einer digitalen Welt.
16.06.2025

Digitale Risiken werden zur Gewohnheit: DsiN-Sicherheitsindex 2025 weiter auf historischem Tiefstand

Berlin, 16. Juni 2025 – Die digitale Bedrohungslage in Deutschland wächst weiter, doch immer weniger Menschen schützen sich aktiv. Das zeigt der neue DsiN-Sicherheitsindex 2025, den Deutschland sicher im Netz e. V. (DsiN) gemeinsam mit dem Bundesministerium der Justiz und für Verbraucherschutz (BMJV) vorgestellt hat. Über die Hälfte der Internetnutzenden in Deutschland verfügen demnach über ein Schutzniveau, das unter ihrer individuellen Bedrohungslage liegt. Der Index verharrt auf einem historischen Tiefstand von 55,7 Punkten, während die Zahl erlebter Sicherheitsvorfälle einen neuen Höchststand erreicht. Besonders alarmierend: Während 33,5 Prozent der Nutzer:innen in den vergangenen zwölf Monaten einen Phishing-Vorfall per Messenger erlebt und 27,8 Prozent infizierte E-Mails erhalten haben, nimmt das Risikobewusstsein weiter ab. Der Indexwert für das Verunsicherungsgefühl fällt auf den niedrigsten Stand seit Beginn der Erhebung. „Der aktuelle Sicherheitsindex 2025 zeigt abermals ein ambivalentes Bild. Digitaler Selbstschutz muss daher ein zentraler Baustein einer sicheren Nutzung digitaler Dienste und Produkte bleiben. Der Bundesregierung ist es daher ein wichtiges Anliegen sich auf europäischer Ebene für Verbraucherinteressen im digitalen Raum einzusetzen. Unser Ziel ist es, digitale Angebote schon „by design“ und „by default“ verbraucherfreundlich zu gestalten. Der im Oktober 2024 verabschiedete Cyber Resiliance Act war hierfür bereits ein wichtiger Schritt,“ so Frank Schwabe, Parlamentarischer Staatssekretär im Bundesministerium für Justiz und Verbraucherschutz.

Fokusthema Vertrauen: Kompetenz statt Gutgläubigkeit gefragt

Im Fokus der diesjährigen Studie steht das Vertrauen in digitale Angebote: 78,5 Prozent der Nutzer:innen messen dem Thema große Bedeutung bei. Doch nur ein Viertel setzt sich aktiv damit auseinander – und nur 15,6 Prozent halten ihre digitalen Kompetenzen für ausreichend. Besonders hohes Vertrauen genießen öffentliche Stellen (63,1 %), weniger hingegen soziale Medien (24,7 %) oder künstliche Intelligenz (28,6 %). Michael Weinzierl, Senior Manager bei Arix Research und Studienleiter des DsiN-Sicherheitsindex erklärt: „Besonders auffällig ist die wachsende Lücke zwischen dem nach wie vor hohen Sicherheitswissen und dem rückläufigen Sicherheitsverhalten. Obwohl viele Nutzer:innen um Schutzmaßnahmen wissen, wenden sie diese im Alltag immer seltener an. Diese Wissens-Verhaltens-Schere ist einer der zentralen Befunde des diesjährigen Index.“

Digitale Spaltung droht: Immer mehr Menschen ohne digitale Schutzstrategien

Der Index offenbart ein wachsendes Gefälle. Während ein kleiner Teil der Bevölkerung sich bewusst schützt, gehören über 50 Prozent zu Gruppen mit niedrigem oder fatalistischem Sicherheitsverhalten – Tendenz steigend. Das macht deutlich: Ohne gezielte Aufklärung, insbesondere für vulnerable Nutzergruppen, droht eine digitale Spaltung, die über Teilhabe und Resilienz entscheidet. DsiN-Geschäftsführerin Isabelle Rosière warnt: „Digitale Risiken werden zur Normalität. Gleichzeitig stagniert das Schutzverhalten. Um eine sichere digitale Gesellschaft zu ermöglichen, müssen wir gezielt in digitale Bildung und Aufklärung investieren. Und das flächendeckend und alltagsnah. Digitale Mündigkeit braucht mehr als gutes Gefühl – sie braucht konkrete Kompetenz.“ Auch digitale Plattformen sehen sich zunehmend in der Verantwortung, Nutzer:innen aktiv vor Betrug und Angriffen zu schützen. Als Partner der Studie setzt sich Kleinanzeigen gezielt für mehr Prävention im digitalen Alltag ein. „Als einer der führenden digitalen Marktplätze sehen wir uns in der Verantwortung, nicht nur sichere Plattformstandards zu setzen, sondern auch zur Aufklärung über Online-Betrug beizutragen. Der DsiN-Sicherheitsindex zeigt deutlich, wie dringend diese Präventionsarbeit ist: Auch wenn das Vertrauen der Nutzer:innen steigt, dürfen wir sie nicht mit den Risiken allein lassen. Deshalb unterstützen wir die Studie als Partner – für mehr digitale Souveränität im Alltag“, so Pierre du Bois, Head of Communications, Kleinanzeigen. Die Studie steht unten als Download zur Verfügung.

Kontaktieren Sie uns

Kontaktieren Sie uns für
Ihre Anfrage gerne unter:

(0) 30 767581-500

Presseanfragen richten
Sie bitte an:

(0) 30 767581-514

Postanschrift

Deutschland sicher im Netz e.V.
Albrechtstraße 10c 10117 Berlin