Wir Menschen sind soziale Wesen. Darum ist es kein Wunder, dass die Erfindung des Internets wie eine Bombe in unsere Gesellschaft eingeschlagen hat. Von Online Banking bis zum Trash Account auf Social Media, gibt es kaum noch einen Bereich in unserem Leben der nicht digital vernetzt ist. Sogar unsere Haushaltsgeräte und Installationen funken ihre Daten an die Zentrale. Einige dieser Inhalte kontrollieren wir selbstbestimmt, surfen bewusst, lesen die AGB’s oder schrauben an den Datenschutzeinstellungen.. Aber im Hintergrund laufen bereits automatisierte selbstregulierende Einstellungen (Algorithmen), auf die wir User keinen Einfluss nehmen können, die aber sämtliche digitalisierten Prozesse steuern und beeinflussen. Natürlich beeinflussen sie auch unsere Online Aktivitäten. Es sind so viele, dass es enorm schwierig ist den Überblick zu behalten.

Computer und Apps sind digitale Maschinen. Und wie jede andere Maschine auch, arbeiten sie nur so gut wie sie vom Menschen geschaffen wurden,- und können auch mal absichtlich rücksichtslos oder schlampig programmiert sein. Und, ähnlich wie die Komma Regel einer Auf- und Abrundung der Endziffern einer Buchhaltung, ändern auch kleine Regeln die Resultate und Werte. Digitale Algorithmen werden kumuliert und vergrössern den Effekt. Da wir KonsumentInnen diese Prozesse blind hinnehmen müssen, ist es gefährlich, wenn wir uns nicht auf die Zuverlässigkeit und den gewissenhaften Einsatz der maschinellen Entscheide und Prozesse verlassen können. Es braucht Transparenz, um zu erfahren wo und wie diese Algorithmen zum Einsatz kommen und es braucht Aufsicht, um schädliche Prozesse aufzudecken.

Für diese kniffelige Problematik hat sich zum Glück eine Organisation formiert, die ein wachsames Auge auf diese Prozesse und Funktionen behält. Denn Computer fällen heute überall Entscheide, stellen Weichen, die unsere zur Verfügung stehenden Informationen digital und unbeobachtet beeinflussen.  Es braucht ExpertInnen die sich darum kümmern und ich bin froh dass Algorithm Watch bereits in der Schweiz einen eigenen Sitz hat. In der Schweiz wird viel Digitales entwickelt und verbreitet und wir müssen aufmerksam bleiben. Hier gehts zu deren Website!

Das ADM-Manifest

ADM = Algorithmic Decision Making (zu Deutsch: Algorithmische Entscheidungsfindung)

Prozesse algorithmischer Entscheidungsfindung (algorithmic decision making, ADM) gehören längst zum täglichen Leben; zukünftig werden sie noch eine viel größere Rolle spielen. Sie bergen enorme Gefahren und bieten enorme Chancen. Dass ADM-Prozesse dem Blick derjenigen entzogen werden, die von ihnen betroffen sind, ist kein Naturgesetz. Es muss sich ändern.

1. ADM ist niemals neutral.
2. Die Schöpfer von ADM-Prozessen sind verantwortlich für ihre Resultate. ADM-Prozesse werden nicht nur von ihren Entwicklern erschaffen.
3. ADM-Prozesse müssen nachvollziehbar sein, damit sie demokratischer Kontrolle unterworfen werden können.
4. Demokratische Gesellschaften haben die Pflicht, diese Nachvollziehbarkeit herzustellen: durch eine Kombination aus Technologien, Regulierung und geeigneten Aufsichtsinstitutionen.
5. Wir müssen entscheiden, wie viel unserer Freiheit wir an ADM übertragen wollen.

Algorithmische Entscheidungsfindung setzt sich aus den folgenden Bestandteilen zusammen:

• Prozesse zur Datenerfassung zu entwickeln,
• Daten zu erfassen,
• Algorithmen zur Datenanalyse zu entwickeln, die die
• Daten analysieren,
• auf der Basis eines menschengmachten Deutungsmodells interpretieren,
• automatisch handeln, indem die Handlung mittels eines menschengemachten Entscheidungsmodells aus dieser Interpretation abgeleitet wird.