Automatisierte Entscheidungen auf Basis von Algorithmen können Verbrauchern das Leben erleichtern. Sie können aber auch zu falschen Entscheidungen führen und Verbraucher diskriminieren. Auf diesen Zwiespalt verwies Klaus Müller von Vorstand der Verbraucherzentrale Bundesverband (VZBV) bei einer Tagung in Berlin. Die nächste Bundesregierung müsse daher Algorithmen genau unter die Lupe nehmen.
Müller fordert eine unabhängige, staatlich legitimierte Institution, die Entscheidungsprozesse kontrolliere.

Immer wieder führen Unternehmen an, dass die Algorithmen dem Geschäftsgeheimnis unterliegen. Ein Totschlagargument sei das, sagte Sebastian Stiller, Mathematiker der TU Braunschweig. „Wir brauchen einen Interessenausgleich zwischen Transparenz und technischem Geheimnisschutz“, sagte er. Zudem bräuchte man auch mehr Allgemeinbildung zu dem Thema.

Justizminister fordert den TÜV schon länger 

Auch die Grünen-Abgeordnete Renate Künast fordert regulatorische Ansätze nach ethischen Prinzipien. „Diskriminierungsverbote der analogen Welt müssen auch in der Welt der Algorithmen gelten. Die Rechtmäßigkeit von Entscheidungen über Verbraucher kann nur überprüft werden, wenn Datengrundlage, Handlungslogik und Kriterien bekannt sind“, sagte sie der Berliner Zeitung. Eine Selbstregulierung der Industrie sei aber lediglich als Ergänzung zu rechtlichen Rahmenbedingungen und unabhängiger Überprüfung sinnvoll, so Künast.

In den Sondierungsgesprächen habe man sich darauf verständigt, eine Kommission einzurichten, die bis Anfang 2019 Vorschläge für den Umgang mit Algorithmen mache. Das Ministerium für Justiz und Verbraucherschutz hatte dazu im September eine Machbarkeitsstudie zu einem Gesetz in Auftrag gegeben. Justizminister Heiko Maas (SPD) fordert schon länger einen Algorithmus-TÜV. Plattformbetreiber könnten ein Prüfsiegel erhalten, das ihnen einen lauteren Umgang mit verwendeten Algorithmen bescheinigt, um damit Vertrauen bei den Nutzern zu schaffen.

Medizin und Finanzen besonders gefahrenträchtig

Dabei sind Algorithmen auch jetzt schon kein rechtsfreier Raum. Gerald Spindler, Professor für Bürgerliches Recht und Handels- und Wirtschaftsrecht an der Georg-August-Universität Göttingen, betonte, dass es eine Reihe von Gesetzen gebe, man müsse sie nur anwenden. Algorithmen-TÜV klinge herrlich, man müsse sich aber überlegen, wie das funktionieren soll.

So gebe es zudem Sektoren, die gefahrenträchtiger als andere seien; Medizin oder Finanzen beispielsweise. Hier könne man über Zertifizierungsformen oder Protokollierungspflichten zum Beispiel beim Einsatz von Robotern nachdenken, so Spindler. Breitflächige Kontrolle sei jedoch nicht zu leisten.