Intransparente Algorithmen
Im Herzen der granularen Gesellschaft liegt also ein Paradox: Die digitalen Maschinen, die so unerbittlich Transparenz herstellen, sind selbst höchst intransparent. Auch diese Spannung überfordert unsere Institutionen. Der Staat gerät unter Druck, einerseits die Bürger vor dem grellen Licht des Digitalen zu schützen — und andererseits Licht ins Dunkel der Maschinen zu bringen. Genau dies ist eine entscheidende Aufgabe des Staates in der granularen Gesellschaft. (Seite 166)
Die Intransparenz der Algorithmen ist eine Folge dieser Geheimhaltung. Wir wissen nicht, was sie tun, deswegen empfinden wir zu Recht massives Unbehagen an der Digitalisierung. Wir werden durchschaut und können nicht zurückschauen. Diese Intransparenz aber wird von Menschen hergestellt, sie ist Ausdruck von Macht, nicht vom Wesen der Algorithmen. Diese Einsicht ist wichtig: Wir müssen aufhören, die Algorithmen als »magische Mächte« zu verklären — denn dadurch helfen wir nur jenen, die sich mit ihnen in der Intransparenz verschanzen. Entsprechend lautet die Frage, wie wir Algorithmen durchsichtig und der Prüfung zugänglich machen können, ohne dadurch die berechtigten Interessen von Firmen und Staaten an Geheimhaltung zu ignorieren. Das ist eine der Schlüsselfragen der granularen Gesellschaft, weil sie unmittelbar ihr Machtgefüge betrifft. (Seiten 168-169)
Christoph Kucklick, Die granulare Gesellschaft, Seiten 166, 168-169.