„Wenn heute von Künstlicher Intelligenz die Rede ist, dann in den allermeisten Fällen von einem Teilbereich, der sich mit maschinellem Lernen überschreiben lässt. Mit Patrick Langley könnte man diese auf spezialisierte Aufgaben trainierten kognitiven Systeme als ‚gelehrte Idioten‘ (idiots savants) bezeichnen, die zwar eine besondere Begabung in einem bestimmten Feld aufweisen, außerhalb desselben aber zu nichts zu gebrauchen sind. Auch maschinelles Lernen ist ein trügerischer Begriff, seine Mechanismen haben nicht mit selbstreflexivem Denken zu tun […]“.

„Wir sollten die Begriffe lieber vermeiden und stattdessen von Software mit Trainingsdaten-Analyse sprechen […]“. „Außerdem schlage ich vor, dass wir die Frage, ob oder wie ‚intelligent‘ ein Algorithmus oder eine Maschine sind, ebenfalls vermeiden und stattdessen fragen, welche Aufgaben sie wie genau lösen. Wir sollten auch fragen: Wem gehören sie, welche Ziele verfolgen ihre Herren, und was macht das mit uns?“ „Wir sollten uns nicht vor der Superintelligenz fürchten, sondern vor schlecht programmierter KI. Vor KI, die privaten Firmen gehört, deren Diener ist und nicht in erster Linie dazu da uns zu nutzen“ (S. 165f).

 

Was ist (künstliche) Intelligenz?

Was ist eigentlich Intelligenz und wie lässt sich ein solcher Begriff auf eine Software übertragen? Was bedeutet Lernen in diesem Zusammenhang? Wem gehören die Daten, die von digitalen Plattformen eifrig gesammelt werden und wie können wir als Gesellschaft Prozesse, für die künstliche Intelligenz zum Einsatz kommen soll, kontrollieren und steuern?

Auf gerade mal 190 Seiten führt der Physiker und Hochschullehrer Timo Daum seine Leser in die Welt der künstlichen Intelligenz ein. Gut geschrieben und mit einer Fülle an Informationen versehen liefert er einen Überblick über die Geschichte des maschinenbasierten Lernens, erläutert wichtige Begriff und stellt klar, warum das Thema derzeit so brisant ist, dass alle Welt darüber spricht.  

 

 

 

Digitaler Kapitalismus: der Mensch als multifunktionales Nutztier

Wie der Titel es ankündigt, liegt ein Schwerpunkt des Buches auf der Auseinandersetzung mit großen Plattformen wie Amazon, Google, Apple und Microsoft, deren massive Datenverwertung dazu dient, einen digitalen Kapitalismus voranzubringen, der die Arbeitswelt, aber auch das gesellschaftliche Zusammenleben auf gänzlich neue Weise prägt. Dazu gehört, dass wir alle unser Wissen, unsere Erfahrungen, unsere Arbeit und unsere persönlichen Informationen beisteuern, um sie dann auf durch KI verwandelte Weise als „Services“ zurückzuerhalten. Einfach gesagt: Wir arbeiten für den Profit der Plattformen und freuen uns darüber, dass sie uns dafür empfehlen, was wir noch kaufen könnten.

Dem Individuum kommt in diesen Geschäftsmodellen die Rolle zu, eine „Kombination aus Verbraucher, Kunde, Arbeiter, Ressource und Produkt“ zu sein, und zwar unablässig, denn die digitalen Produkte müssen ebenso beständig ein Upgrade erfahren, wie ihr Konsument sich zur Selbstoptimierung angehalten sieht.

Als Nutzer liefert der Kunde den benötigten Rohstoff (Daten), konsumiert die Produkte, beteiligt sich an der „Community“, die die Arbeit für die Plattformen erledigt (zum Beispiel durch das Entwickeln kostenloser Apps oder das Hochladen von Content) und nimmt dann wieder dankbar die neuesten Services und personalisierten Produktempfehlungen entgegen, die ihm bestenfalls schon angezeigt werden, bevor er danach fragt oder sich seines „Bedürfnisses“ bewusst wird. Damit die Plattformen diese „Bedürfnisse“ befriedigen können, müssen sie Produkte nicht nur entwickeln; sie müssen ihre Nutzer auch kontrollieren und überwachen sowie Prognosen über deren voraussichtliches Verhalten treffen. Und genau das leistet KI.

 

Im fernen Osten auch nichts Neues: die panoptische Variante des digitalen Kapitalismus in China

Plattformen, die KI nutzen, bringen nicht nur Musik und Podcasts ins Leben, sie entscheiden über die Zukunft von Arbeit, Konsum, Freizeit, gesellschaftlicher Entwicklung und politischer Gestaltung. Ihre Rohstoffe stellen die Nutzer zur Verfügung, man tauscht „Daten gegen Bequemlichkeit“. In den westlichen Ländern dient dies vor allem einer guten Börsennotierung, in China formiert sich dagegen gerade eine „staatmonopolistische, panoptische Variante des Überwachungs- und Vorhersage-Kapitalismus, die mit dem Silicon-Valley-Modell in Konkurrenz tritt“ (S. 167). Deren großes Ziel lautet, bis 2020 ein “Social Scoring” installiert zu haben, das die Bürger nach einem Ratingverfahren bewertet und zur allgemeinen Anhebung der Volksmoral beitragen soll. Dass dazu jede Menge Überwachungstechnologie und KI zum Einsatz kommen muss, ergibt sich aus der Sache selbst.

Daums Flugschrift wäre jedoch weniger beeindruckend, würde sie sich auf die Aspekte Kapital und Überwachung beschränken. Sie ist nicht dem Klassenkampf gewidmet (obwohl auch Marx seinen Platz darin findet) und betreibt auch keinen, wie Daum selbst es nennt, KI-Populismus. Stattdessen wird in insgesamt 11 Kapiteln aus unterschiedlichen Perspektiven beleuchtet, was KI derzeit kann und was das für die Gesellschaft und das Individuum bedeutet. Der Autor lässt viele Stimmen sprechen wie beispielsweise die von Joseph Weizenbaum und trägt wesentlich zu einer Entmystifizierung von KI bei – die letztlich nämlich weder intelligent ist noch lernen kann.

 

Wenn niemand bei dir ist und auch niemand zurückschaut: Wie Algorithmen und KI das Subjekt konstituieren

Gefallen hat mir an der Flugschrift besonders, dass Daum sich über die Fachgrenzen hinaus mit KI befasst. So widmet er einen Abschnitt des Kapitels „Unboxing Künstliche Intelligenz“ dem französischen Philosophen Michel Foucault und dessen Studie zur Entwicklung moderner Strafsysteme.

Im Abschnitt „Überwachen und Strafen 2.0“ führt Daum aus, wie sich das in China praktizierte Social Scoring oder generell die maschinelle und kontrollierende Beobachtung von Menschen auf die Selbstwahrnehmung des Individuums und damit auf die Konstituierung des Subjektes auswirken kann. Er zitiert hier Tobias Matzer mit den Worten: „Der Algorithmus und die Daten, die er verarbeitet, konstituieren das Subjekt überhaupt erst“ (S. 78). Weiter heißt es:

 „Schon die implizite Annahme jeder Datensammlung, sie sei grundsätzlich in der Lage, eine Person  adäquat zu repräsentieren, ist problematisch.“

Darüber hinaus, so Daum, wird hier „soziale Wirklichkeit in (vorgeblich) objektivierende Datenstrukturen“ überführt und die Nutzung dieser Daten wird „konstitutiv für die Strukturierung und Reproduktion der Gegenwartsgesellschaft“ (S.78).  

Das Bestehende wird bestätigt, Hierarchien entstehen „durch den beobachtenden Blick der einen auf die anderen“. Das Machtgefälle spielt sich zwischen dem, der Daten sammelt, und dem, der beobachtet und analysiert wird, ab. Aus dem Modell oder der Prognose kann dann eine Verunsicherung des Beobachteten resultieren (bin ich, was der Algorithmus über mich aussagt?), die  in eine sich selbst erfüllende Prophezeiung übergeht. Eine mögliche Folge wäre, dass sich der Beobachtete in der gewünschten Weise konform verhält. Eine andere, dass das ständige Unter-Beobachtung-Stehen erst hervorruft, was es doch verhindern soll:

Der überwachte Mensch, über den Daten gesammelt werden, ist grundsätzlich verdächtig. Es ist nur noch eine Frage der Zeit, bis sich die angelegte Eventualität manifestiert, das Echo aus der Realität zurückschallt auf den Ruf der Daten. Der Mensch, der überwacht wird, wird zum Verbrecher auf Abruf“ (S. 79).

Und um das zu verstehen, so folgere ich, müssen wir sicherlich nicht mehr nach China blicken, es reicht einen neuen Personalausweis zu beantragen und neben den biometrischen Daten nun auch den Fingerabdruck abgeben zu müssen. So entstehen 80 Millionen potenziell Verdächtige durch eine kleine technische Neuerung.

Erwartet hätte ich, dass Daum diesen Gedanken auch auf das Auffinden von Strukturen oder  Mustern, wozu KI ja verhelfen soll, überträgt. Denn auch Strukturen und Muster werden nicht zufällig aufgefunden, sondern zweckgebunden gesucht und mit den Mitteln und Prämissen eines Denkkollektivs gefunden oder geformt.

Auch habe ich diesen Ansatz in jenem Abschnitt vermisst, in dem Daum die Frage diskutiert, ob Robotern und KI Persönlichkeitsrechte zugesprochen werden müssten. Er führt aus, dass alles, was im Zusammenhang mit KI geschieht, immer aus Sicht des Menschen und nicht der Maschine beurteilt werden müsse. Die Maschine oder der kleine Roboter mit den Kulleraugen dürften nicht vermenschlicht werden.

Doch wie ist es um den umgekehrten Vorgang bestellt? Wie wirkt sich die vermeintliche Überlegenheit der “idiots savants” auf unsere Wahrnehmung vom Menschen aus? Nicht nur der Blick des anderen konstituiert das Selbst, sondern auch die Metaphern, mit denen es sich beschreibt. Und die stammen mehr und mehr aus IT und KI. Und wie erst wirkt es sich aus, wenn überhaupt niemand mehr zurückschaut, weil eine Maschine nun mal keine Augen hat?

 

Subjekt und Gesellschaft in Zeiten von KI: Worin werden wir besser?

Dass Daum hierauf nicht weiter eingeht, liegt vermutlich daran, dass er die KI dann doch nicht ganz verloren geben möchte. Deutlich wird dies schon im Abschnitt, der dem autonomen Fahren gewidmet ist. Dem Autor zufolge sind die ethischen Fragen, über die wir im Zusammenhang mit dem autonomen Fahren heute noch diskutieren, längst entschieden. So soll den Leitlinien des Bundesverkehrsministeriums zufolge der KI, die das autonome Fahren ermöglicht, in „unausweichlichen Unfallsituationen“ jede „Qualifizierung nach persönlichen Merkmalen […] strikt untersagt“ sein. Auch die „Aufrechnung von Opfern“ ist untersagt.  

Doch eine moralische Frage gelöst (oder auch nicht) zu haben, bedeutet eben noch nicht, die Konsequenzen absehen zu können, die sich daraus ergeben, wenn wir als Menschen unsere Moralvorstellungen als Aufgabe an eine Maschine übergeben. Jede Tätigkeit, die wir delegieren, geht als menschliche Fähigkeit über kurz oder lang verloren. Lässt sich dieser Gedanke auch auf die Fähigkeit, eine moralische Entscheidung zu treffen, übertragen?

Daum fragt dagegen, wie es möglich ist, Standards zu entwickeln und die Hersteller der benötigten Software darauf zu verpflichten, dass sie Rechenschaft über ihr Handeln und Entwickeln ablegen und beständige Optimierungen vornehmen. Angesichts der großen Software-Schummelei, die wir unlängst erlebt haben, scheint mir die Frage fast schon naiv oder vielleicht auch gewollt auf einen Kompromiss hin führend.

Daum kommt sodann zu dem Schluss, dass KI zumindest für das autonome Fahren positiv zu bewerten sei, da dieses in Verbindung mit dem Vorantreiben von E-Mobilität und dem Ausbau des öffentlichen Nahverkehrs allen zugutekomme – inklusive dem Umweltschutz und der allgemeinen Gesundheit. Er verliert hier aber kein Wort über

  • arbeitslose Taxi- und Busfahrer, Chauffeure und weitere betroffene Akteure.
  • die noch stets umstrittene Frage, ob und in welchem Maße (und in welchen Ländern) E-Mobilität wirklich dem Umweltschutz dient.
  • wer diesen Ausbau eigentlich bezahlen soll.

Und dies, obwohl er auch darlegt, dass durch Digitalisierung und KI bisher in etwa so viele Arbeitsplätze geschaffen wurden, wie verlorengingen, dass aber „die klassische Lohnarbeit in temporäre, projektorientierte, prekäre Tätigkeit transformiert“ (S.125) wurde, was mit geringeren Verdienstmöglichkeiten einhergeht.

 

Die selbstbestimmte digitale Community: naiver Traum oder überlegenswerter Ansatz?

Seine eigene Vision von einem vernünftigen Gebrauch, der sich von künstlicher Intelligenz machen ließe, führt Daum in den Schlusskapiteln weiter aus. Davon ausgehend, dass Menschen nur jene Arbeiten selbst verrichten sollten, die Maschinen ihnen nicht abnehmen können, lautet seine wichtigste Frage: „Wem gehören die Daten?“ Er schlägt vor, nicht einen (ohnehin hilf- wie nutzlosen) Datenschutz zu installieren, sondern den Schritt nach vorn zu wagen und sie der Gemeinschaft zugänglich zu machen, aus und von der sie stammen.

Daten sollten demnach weder privat sein noch den Konzernen gehören, sondern der Allgemeinheit. Dann spräche auch nichts mehr gegen eine Monopolbildung. Daum träumt wie andere Netzaktivisten von einem Datenzentrum (analog CERN), in dem „eine internationale, interessengruppenübergreifende Steuerungsgruppe“ die Schirmherrschaft übernimmt (S. 169). Grundlage dieser Überlegung ist die Annahme, dass nicht die künstliche Intelligenz das Problem ist, sondern das kapitalistische Verwertungsrecht an den Daten, die sie nutzt.

 

Einspruch: Nicht nur das Subjekt konstituiert sich aus unseren Sichtweisen, auch das Wissen und die Strukturen, die wir darin entdecken

Die Annahme eines solchen Nutzens, birgt jedoch die Vorstellung in sich, dass es möglich wäre, „das Wissen der Welt eher in Form einer öffentlichen gut strukturierten Bibliothek zu organisieren und geplant einzusetzen“. Und genau diese Vorstellung unterscheidet den Physiker, der an Strukturen und Modelle glaubt, vom Philosophen, der in Diskursen denkt, und vom forschenden Mediziner, der anerkennt, dass er einem Denkkollektiv angehört.

Ein solches „Wissen der Welt“ gibt es schlichtweg nicht. Es sei denn, wir sprechen von einem Wissen, das für den Menschen vollkommen nutzlos ist, weil es seine Individualität ebenso negiert wie seine kulturelle Prägung, seine Erfahrung, seine Biografie, kurz und gut die Quellen seiner bisherigen Wirkmacht. Anders gesagt: Es sei denn, wir sprechen über einen Menschen, der das Abhandenkommen dieser Wirkmacht und all seines Gewordenseins mit der Maschine teilt, die dergleichen niemals kannte.

KI und die mit ihr verbundene kapitalistische Monetarisierung oder sozialistische Monopolisierung von Daten sind – im Gegensatz zum Einsatz von Software in klar definierten Produktionszusammenhängen  – aus meiner Sicht Diebstahl an jedem Einzelnen und pures Herrschaftsinstrument, das dem Menschen das Beste nimmt, was er besitzt: sich innerhalb seiner kleinen, langsamen, menschengemäßen Welt als wirkmächtig zu erfahren. Ein solches Diebesgut gibt man nicht zurück, indem man es allen zur Verfügung stellt. Und der Diebstahl wird auch nicht dadurch besser, dass er zum Wohle aller erfolgt. Im Gegenteil, jeder Versuch, die Fähigkeit des Menschen, aus eigenem Antrieb Gutes zu tun, mithife von Maschinen und künstlicher Intelligenz forcieren oder kontrollieren zu wollen, führt zu deren Verderbnis.

Insgesamt scheint mir das Buch in seinen Einschätzungen und im finalen Denkansatz daher teilweise widersprüchlich, so verführerisch dieser Ansatz auch ist. Was mich nicht daran hindert, es zugleich ganz großartig zu finden und unbedingt weiterzuempfehlen. Denn letztlich gibt es natürlich viel mehr darin zu entdecken, als ich es hier anführen konnte.

Am besten kauft Ihr es natürlich im Buchladen Eures Vertrauens und nicht bei der großen kapitalistischen Online-Plattform.  😉