Nach eigener Angabe des EU-Parlaments sind dabei KI-Anwendungen verboten, die die Rechte der Bürger*innen bedrohen, wie z.B. die biometrische Kategorisierung basierend auf sensiblen Merkmalen und das ungezielte Auslesen von Gesichtsbildern für Gesichtserkennungsdatenbanken. Ausnahmen gelten hier lediglich für Strafverfolgungsbehörden in sehr eingeschränktem Maße und nur unter spezieller Genehmigung. Beispiele hierfür wären die Suche nach vermissten Personen oder die Verhinderung eines Terroranschlags.

Vor dem Hintergrund bestimmter Entwicklungen in Europa (wie bspw. in Ungarn, das nach einem Bericht der Tagesschau von Dezember 2023 seine Pressefreiheit weiter beschnitt) ist allerdings die Frage nach der tatsächlichen Auslegung des „eingeschränkten KI“-Einsatzes durch Strafverfolgungsbehörden nicht eindeutig.

Im Gegensatz dazu sind laut EU-Parlament Hochrisiko-KI-Systeme hingegen zulässig, müssen allerdings Risiken bewerten und verringern, transparent sein, Nutzungsprotokolle führen und von Menschen beaufsichtigt werden; betroffene Personen haben das Recht, Beschwerden einzureichen und Erklärungen zu Entscheidungen zu erhalten. „Als hochriskant werden unter anderem KI-Systeme eingestuft, die in den Bereichen kritische Infrastruktur, allgemeine und berufliche Bildung oder Beschäftigung eingesetzt werden. Auch KI-Systeme, die für grundlegende private und öffentliche Dienstleistungen – etwa im Gesundheits- oder Bankwesen – eingesetzt werden, gelten als hochriskant.“ Darüber hinaus muss jedes KI-Programm eine Transparenz gewährleisten, einschließlich der Veröffentlichung detaillierter Zusammenfassungen der Trainingsinhalte und der Kennzeichnung erzeugter oder bearbeiteter Inhalte.

Wie die Bundesarbeitsgemeinschaft der Seniorenorganisationen (BAGSO) in ihrem Positionspapier im vom Juni 2024 fordert, brauche es neben Transparenz auch einen geregelten Datenschutz und eine Gewähr für die Datensouveränität der Bürger*innen. Ein KI-System ist nicht von sich aus „intelligent“, sondern reflektiert die Ansichten und gesellschaftlichen Vorstellungen derjenigen, die es entwickelt und trainiert haben. Dies kann dazu führen, dass bestimmte Aspekte und Personengruppen - wie ältere Menschen, einsame Menschen oder Menschen mit Behinderung - vernachlässigt oder diskriminiert werden. Es geht also ebenfalls darum, ältere Menschen nicht durch Algorithmen zu diskriminieren, sondern sie und ihre Interessenvertretungen viel mehr in Studien, Entwicklung und Forschung einzubeziehen.

Aber selbst wenn die Regeln eingehalten werden, ist Digitalisierung teuer. Ein „Smart-Home“ und die neueste Technik kosten Geld, das viele ältere Menschen nicht haben. Zudem gibt es immer noch Regionen mit einem schlechtem Internetanschluss. All das kann zu Exklusion führen. Es geht also nicht nur um bessere „Lernmodelle“, sondern ebenso um den Schutz von Menschen mit geringer Affinität zu Technik und geringeren Ressourcen.

Besonders zentral sind allerdings die Forderungen der BAGSO: Bildungsangebote stärker ausbauen, öffentliche, soziale und Bildungseinrichtungen für den Umgang mit KI befähigen und ausstatten. Datensouveränität verlangt nicht nur die rechtliche Datenhoheit, sondern braucht in gleichem Maße ein kritisches Verständnis dessen, was mit KI erzeugt wird. Und das kostet wieder Geld. Ein erster Schritt in diese Richtung ist das Projekt „KI für ein gutes Altern“ über das wir bereits im Mai berichtet hatten.

Damit geht es allerdings um nichts Geringeres als eine allgemeine Mündigkeit und Impulskontrolle aller Bürger*innen. Ein gesellschaftlicher Konflikt, der nicht erst seit der KI-Debatte existiert und welcher momentan stark vom Populismus und der Werbeindustrie dominiert wird.

Schließen