Künstliche Intelligenz

Bundesrat kippt KI-Vorstoß: Algorithmen dürfen nicht über Anträge entscheiden

Das Digitalministerium wünscht sich den Einsatz Künstlicher Intelligenz in der Verwaltung. Doch es gibt Bedenken. Im Bundesrat ist der Vorschlag nun gescheitert.

Team News dpa/BLZ
3 Min
KI als Beamter? Die Ausschüsse im Bundesrat hatten vorgeschlagen, Verwaltungsentscheidungen künftig von Computerprogrammen treffen zu lassen.

KI als Beamter? Die Ausschüsse im Bundesrat hatten vorgeschlagen, Verwaltungsentscheidungen künftig von Computerprogrammen treffen zu lassen.

© Fang Zhe/XinHua/dpa

Beim Kinder- und Elterngeld, im Einbürgerungsprozess oder bei Strafzetteln: Täglich werden in der öffentlichen Verwaltung Tausende Entscheidungen zu den Anliegen der Bürger getroffen. Die Ausschüsse des Bundesrats hatten vorgeschlagen, solche Entscheidungen bald auch unter Einsatz von Künstlicher Intelligenz (KI) treffen zu lassen – und sind mit diesem Vorstoß nun gescheitert.

Bei der Bundesratssitzung am Freitag wurde über verschiedene Empfehlungen der Ausschüsse zur Reform des sogenannten Onlinezugangsgesetzes abgestimmt. Darunter war auch die nun abgelehnte Forderung nach „algorithmenbasierter Entscheidungsfindung“ in der Verwaltung. Andere Vorschläge – etwa nach einem einheitlicheren Datenmanagement – fanden dagegen eine Mehrheit.

Grüne warnen vor KI in der Verwaltung: „Auch KI kann diskriminieren“

Die Grünen-Innenpolitikerin Misbah Khan hatte vor der Sitzung vor einem voreiligen Einsatz von KI gewarnt. Zwar könne Künstliche Intelligenz – richtig eingesetzt – ein nützliches Werkzeug sein, um Prozesse zu vereinfachen und zu beschleunigen. Entscheidungen, die das Schicksal von Menschen beträfen, dürften aber nicht Algorithmen überlassen werden, betonte Khan.

Konkret hatten die Ausschüsse des Bundesrats gefordert, im neuen Onlinezugangsgesetz „die Zulässigkeit des Einsatzes algorithmenbasierter Entscheidungsfindung in der öffentlichen Verwaltung zu normieren“ – also die Grundlage für einen breiten Einsatz von KI in öffentlichen Ämtern vorzubereiten. Auf EU-Ebene ist mit dem sogenannten Artificial Intelligence Act bereits ein Gesetzespaket zu dem Thema in Arbeit. Bis dieses in Kraft tritt, dürften aber noch mindestens zwei Jahre vergehen. Solange dürfe sich Deutschland nicht ausbremsen lassen, hatten die Ausschüsse argumentiert.

Khan warnte indes, Entscheidungen der öffentlichen Verwaltung müssten transparent und nachvollziehbar sein. Auch selbstlernende Systeme seien nicht diskriminierungsfrei. Wer beispielsweise einen Antrag auf Wohngeld stelle und dann eine Absage erhalte, müsse nachvollziehen können, warum der Antrag abgelehnt wurde. Routineverfahren könnten auch ohne den Einsatz von KI deutlich beschleunigt und vereinfacht werden.

FDP-Politikerin: KI ist sachlicher und schneller als Menschen

Die Parlamentarische Staatssekretärin im Verkehrs- und Digitalministerium, Daniela Kluckert (FDP), betonte dagegen, das Ministerium unterstütze den Einsatz von KI in der Verwaltung. Dies könne dabei helfen, standardisierte Prozesse zu automatisieren und den Mitarbeitern so mehr Zeit für die Entscheidung komplexer Fälle zu verschaffen. „Hinzu kommt, dass KI sachlichere und schnellere Entscheidungen treffen kann, als es dem Menschen möglich ist – gerade im Bürger-Staat-Verhältnis“, fügte sie hinzu.

Khan zeigte sich erleichtert über die Entscheidung des Bundesrates. Sie sagte: „Es ist beruhigend, dass die Länder nicht blind auf den KI-Zug aufspringen und das Vorhaben abgelehnt haben.“ Man müsse sich die Zeit nehmen, über einen sinnvollen und transparenten Einsatz von KI in deutschen Behörden und Ämtern zu sprechen.

Send feedback

Ihre Meinung ist uns wichtig. Senden Sie uns Ihr Feedback zu diesem Artikel an: briefe@berliner-zeitung.de