Künstliche Intelligenz: Mensch gegen Maschine Die Leistungsideologie hinter der künstlichen Intelligenz

Bild von Stefan  Selke
Professor für Soziologie Hochschule Furtwangen

Expertise:

Stefan Selke ist Soziologe. Er ist Professor an der Hochschule für angewandte Wissenschaften Furtwangen (HFU). Er ist Inhaber der Forschungsprofessur Transformative und Öffentliche Wissenschaft. Zu seinen Publikationen gehört "Lifelogging - Wie die digitale Selbstvermessung unsere Gesellschaft verändert", Econ 2014.

Der Optimierungswahn hat die Gesellschaft fest im Griff. Warum künstliche Intelligenz Teil einer Ideologie ist, die grundlegende Werte unseres Zusammenlebens gefährdet.

Stellen wir uns in einem Gedankenexperiment gesellschaftlichen Wandel als rein technische Aufgabe vor. Wo bliebe dabei der Mensch? Tatsächlich erleben wir gegenwärtig ein epochales Freilandexperiment. Die meisten Dinge werden „smart“. In den nächsten Jahren werden vom Toaster bis zum Tesla alle möglichen Dinge innerhalb eines „Internet of Everything“ vernetzt. Immer häufiger assistieren uns Computer in allen nur denkbaren Lebensphasen. Eltern überwachen die Vitaldaten ihrer Babys, unter Studienanfängern werden automatisiert die Leistungsträger aussortiert, Big Data ermöglicht Prognosen über Patienten, Arbeitnehmer und Versicherte. Demenzkranke, die weglaufen, senden mittels Sensoren in Socken ein rettendes Signal. Im Zeitalter von Big Data werden umfangreiche Datensammlungen von smarten Algorithmen nach verborgenen Zusammenhängen und Mustern durchsucht.

Die in Daten verborgenen Geheimnisse sind viel wert. Aus „hochspannenden“ numerischen Werten ergibt sich durch immer neue Kombinationsmöglichkeiten nicht nur ein Erkenntnisgewinn, sondern auch ein ökonomischer Gewinn. Die nächste Steigerungsstufe dieser vielgepriesenen Datenveredelung ist Künstliche Intelligenz, die in „kognitive“ Computer verbaut wird, mit denen sich Menschen über natürliche Sprache austauschen können. Siri, die intelligente Assistentin im Iphone und ähnliche Systeme sind nur der Anfang. IBM Watson, ein intelligenter Großrechner, wird inzwischen zur automatisierten Krebsdiagnose in Krankenhäusern eingesetzt. Künstliche Intelligenz gilt vielen als die Schlüsseltechnologie schlechthin.

Künstliche Intelligenz gilt auf den ersten Blick als visionär oder gar utopisch. Erst auf den zweiten Blick kommt der zugrundeliegende Mythos zum Vorschein. Unter der modernen Oberfläche wirkt eine zeitgenössische Variante des alchimistischen Prinzips fort. Alchemie meinte einst die Verwandlung „unedler“ Stoffe in „edle“ Essenzen. Digitale Alchemie ist die technologische Antwort auf die Sehnsucht, „störanfällige“ Leute durch algorithmische Transformationen in „optimierte“ Konsumenten, Bürger oder Patienten zu veredeln. Wenn aber das Mängelwesen Mensch derart auf die Hilfe von Maschinen zurückgreift, sind damit Fragen von erheblicher gesellschaftlicher Relevanz verbunden. Das Grundgesetz unterstreicht die Vermächtniswerte Würde und Autonomie des Menschen. Computer als Entscheidungsmaschinen werfen aber nicht nur Fragen nach informationeller Selbstbestimmung oder dem Schutz der Privatsphäre auf. Vielmehr sind damit zahlreiche Entgrenzungen verbunden. Wo endet das Sicherheitsverlangen und wo beginnt Kontrolle? Wo endet Freiwilligkeit und wo beginnt Zwang? Ist der Mensch noch der Autor seines eigenen Lebens?

Der zufriedene Mensch braucht weder Perfektionismus, noch künstliche Intelligenz. 

zustimmen
ablehnen
Ergebnis
Debattenübersicht

Immerhin verspricht der Microsoft-Chef Satya Nadella, dass diese moderne Variante der Konversion „vom Menschen ausgehe“, dieser immer „im Mittelpunkt“ stünde und „am Ende“ entscheide. Eine suspekte Schutzbehauptung. Tatsächlich steht der Mensch nicht im Mittelpunkt, sondern im Weg. Und zwar deshalb, weil die Optimierung aller Lebensbereiche durch smarte Algorithmen inzwischen zum Selbstzweck avancierte. Allein die Vorstellung ständiger Optimierung ist wenig lebensdienlich. Künstliche Intelligenz verspricht detaillierte Neukonfigurationschancen für die eigene Lebensführung. Die Idee „starker“ Künstlicher Intelligenz ist sogar mit der Vorstellung eines kompletten „Reset“ verbunden: Menschliches Bewusstsein ginge dann auf einen Datenträger über. Das ist nichts anderes als eine technologische Vorstellung von Unsterblichkeit, die von prominenten Befürwortern Künstlicher Intelligenz vertreten wird.

Aber auch weit unterhalb dieser Vision tut es niemandem gut, dauerhaft den Zwangsvorstellungen eines übermäßig großen Selbstbildes zu folgen. Niemand möchte ständig als Lebendbewerbung innerhalb einer Perfektionskolonie unterwegs sein. Wer vergleicht, verliert. Selbstveredelung durch smarte Algorithmen entpuppt sich letztlich als die flexibelste Form von Ausbeutung im kognitiven Kapitalismus. Dahinter verbergen sich immer latente Leistungsideologien, deren Gemeinsamkeit darin besteht, dass allein dasjenige als nützlich anerkannt wird, das messbar, vergleichbar und damit steigerungsfähig ist. Fitnessarmbänder messen die Steigerung sportlicher Aktivitäten, Apps optimieren die Kalorienzufuhr, sogar Emotionen und Trauer können veredelt werden. Verbesserungsbedarf ist schlicht überall. Wir essen zu viel, bewegen uns zu wenig, tippen zu langsam. Es gibt bald keinen Bereich des Lebens, der Widerstand gegen diese rationale Buchhaltermentalität zulässt. Die Steigerungslogik des Kapitalismus wird über smarte Algorithmen zur nunmehr gänzlich unhinterfragten Grundierung unserer Lebenswelt.

Die unerschöpflichen Möglichkeiten der Selbstkontrolle verändern schleichend den Blick auf uns und andere. Der neue soziale Blick ist ein fehlersuchender Blick. Wo aber stetig Abweichungen von einem vermeintlichen Idealwert fokussiert werden, gerät das Verbindende zwischen Menschen rasch aus dem Blick. Dennoch sehnen sich die meisten Menschen nach einem zufriedenstellenden Leben, nicht nach einem perfekten Endzustand. Kalkulierbarkeit ist dabei kein Ersatz für Sinnstiftung und aus Optimierungskalkülen erwachsen längst keine neuen Utopien. Noch so viel Optimierung individuellen Verhaltens gleicht die weiterhin ausbleibende Reform gesellschaftlicher Verhältnisse nicht aus. Aber durch die Kontrollillusion sinkt der politische Widerstandsumfang der Gesellschaft drastisch ab.

Für ein zufriedenstellendes Leben braucht es lediglich eine „bescheidene“ Intelligenz, die die Unvollständigkeit des eigenen Wissens anerkennt. Computer aber zweifeln nie. Ihre „Intelligenz“ basiert ja auf der Metaphysik totaler Kalkulierbarkeit. Digitale Gurus versprechen uns zwar die „Demokratisierung“ von Intelligenz durch vernetzte Entscheidungsarchitekturen. Dabei soll der Mensch im „richtigen Moment“ den „richtigen Impuls“ erhalten. Diese Lenkung von Menschen („Nudging“) soll sich so anfühlen wie eine echte, eigene Entscheidung. Der „umsorgende Staat“ sammelt Daten und möchte sicherstellen, dass die BürgerInnen das Richtige tun. Wer aber politisches Verhalten berechenbar macht, sorgt auch dafür, dass immer weniger sich aktiv politisch engagieren. „Umsorgende“ Versicherungen lenken ihre Klienten mit Boni in Richtung vernünftiger Lebensstile – und ruinieren nebenbei die Akzeptanz für Solidarität. Das „umsorgende“ Unternehmen denkt nur an das Wohl der Mitarbeiter und lenkt mittels intelligenter Verteilung der Arbeit über Algorithmen, die Schichten berechnen. Ganz nebenbei wird dabei die Fähigkeit zur Selbstorganisation verlernt, Kollegialität ganz neu bestimmt.

Lenkende Algorithmen sind ein deutliches Misstrauensvotum gegen das Menschliche an sich.

zustimmen
ablehnen
Ergebnis
Debattenübersicht

Die lenkenden Algorithmen beeinflussen unser Denken, Handeln und Fühlen. Sie lenken Aufmerksamkeit, Informationsaufnahme, Arbeit, Konsum, politische Einstellung und letztlich auch unser Demokratieverständnis. Lenkende Algorithmen sind aber auch ein deutliches Misstrauensvotum gegen das Menschliche an sich. Wenn in Zukunft Künstliche Intelligenz in der Form „kognitiver“ Computer vermehrt zu unseren Sozialpartnern zählen, ändert dieses softwarebasierte Misstrauensvotum auch die Vertrauensbasis unserer Welt. Jeder Blindenhund ist in dieser Hinsicht Künstlicher Intelligenz überlegen. Ein Blindenhund besitzt eine eigene kognitive Welt und stellt sie dem blinden Menschen zur Verfügung. Dieser wiederum vertraut seinem Helfer. Obwohl die kognitive Welt des Blindenhundes genauso verborgen bleibt, wie die Welt der Algorithmen, ist sie prinzipiell vertrauenswürdig. Im Kontrast dazu erscheint Künstliche Intelligenz lediglich als intransparente Rechenleistung. Erstaunlicherweise sind Menschen dennoch bereit, für ein klein wenig Komplexitätsreduktion die eigene Entscheidungsautonomie an eine Black-Box zu delegieren. Entscheidungen sind letztlich immer das Produkt von Zwecksetzungskompetenz (know why), Mittelwahlrationalität (know how) und Folgeverantwortlichkeit. Entscheidungsmaschinen setzen dabei immer häufiger stellvertretend Zwecke und wählen geeignete Mittel für uns. Nur eines werden sie uns niemals abnehmen: Verantwortung für die Folgen. Intelligenz mag sich „verteilen“ lassen. Aber verteilte Verantwortung ist bloß ein anderer Begriff für Anomie.

Eine Technik kann das Handeln übernehmen, nicht aber die Verantwort

zustimmen
ablehnen
Ergebnis
Debattenübersicht

Wenn dann die Algorithmen noch das letzte Wort haben, stellt sich die Frage, wie sich „oben“ und „unten“ in der Gesellschaft neu sortieren. Bereits jetzt existieren Unternehmen, die Künstliche Intelligenz über den Menschen stellen. Eine Investmentfirma aus Hong Kong gesteht ihrer Finanzsoftware den Rang eines Vorstandsmitglieds mit Veto-Recht zu. Wer aber Künstliche Intelligenz derart privilegiert, sollte sich einmal mit den zu erwartenden Verschiebungen in unserer Sozialstruktur beschäftigen. Oben werden die Entscheidungsmaschinen stehen, die dazu beitragen, optimale Entscheidungen zu treffen. Am unteren Ende der Skala finden sich dann aber globale „Microworker“. Sie übernehmen einfache Aufgaben, für deren Einsatz Computer ungeeignet oder zu schaden sind, z.B. für den Dienst Amazon Mechanical Turk. Diese Crowdworker sind Menschen, die noch billiger als Computer arbeiten, die neuen „digitale Sklaven“ ohne jegliche soziale Absicherung. Bewertungssysteme werden sich radikal ändern. Es wird immer schwieriger werden, zu entscheiden, was eigentlich noch typisch menschlich ist. Die Standardantwort darauf lautet meist: Empathie. Wenn aber Empathie das letzte Kriterium menschlicher Restüberlegenheit darstellt, stellt sich die Frage, warum Krankenschwestern und Pflegekräfte immer noch so viel weniger verdienen, als Programmierer.

Auch der Einsatz von künstlicher Intelligenz unterliegt der Achtung der Grundwerte.

zustimmen
ablehnen
Ergebnis
Debattenübersicht

Eigentlich sollten wir aus der Geschichte gelernt haben, dass gesellschaftlicher Wandel mehr ist als Social Engineering. Bislang sind alle großen technokratischen Planungsutopien grandios gescheitert. Schulen, Unternehmen, Städte und Gesellschaften sind viel mehr als die Summe ihrer Einzelelemente. Zum Glück spüren wir immer wieder die Widerspenstigkeit der empirischen Welt. Je komplexer das Geschehen ist, desto weniger funktioniert die neue Metaphysik. Historische Ereignisse wie der Mauerfall oder die Finanzkrise konnten von keiner Künstlichen Intelligenz vorausgesagt werden. Daten, die die Voraussetzung für derart komplexe Prognosen wären, liegen niemals vollständig vor. Zivilisation wird nicht aus smarten Toastern, Teslas und Terrabytes gebildet. Der Umgang mit umfangreichen Datensammlungen, großer Rechenleitung und Künstlicher Intelligenz suggeriert, dass damit die Lösung aller nur denkbaren Probleme verbunden wäre. Schnell wird dabei jedoch die Frage vergessen, ob das Mögliche auch das Sinnvolle ist. Auch wenn immer mehr Daten erzeugt werden, führt dies nicht automatisch zu besseren und bewussteren Entscheidungen und auch Innovation lässt sich nicht programmieren. Um aber das Verwirrungspotenzial nicht noch weiter zu steigern, sollten Technologieunternehmen in eine ernsthafte Debatte darüber eintreten, wie die Gestaltung von Künstlicher Intelligenz im Einklang mit Grundwerten und nicht innerhalb ethischer Freihandelszonen vonstattengehen kann. 

Die Gesellschaft dürstet nicht nach Rechenleistung, sondern nach Menschlichkeit. 

zustimmen
ablehnen
Ergebnis
Debattenübersicht

So oder so, mittels Künstlicher Intelligenz wechselt die Erkenntnismelodie unseres Lebens ganz erheblich. Dabei geht jedoch der Blick für das Ganze verloren, wenn Erkenntnis als Quantifizierbarkeit aufgefasst wird und Leben sich im Korridor mathematischer Berechenbarkeit abspielt. Zweifelnde Menschen werden weiterhin mehr für die Zukunft der Gesellschaft leisten, als leistungsfähige Rechner. Nicht Rechenleistung ist die Mangelware des 21. Jahrhunderts, sondern Sinn.

__________________________________________________________________

Am Montag, 28.11.2016, 19 Uhr, streiten in der European School of Management and Technology der Soziologe Stefan Selke, Sahra Wagenkecht, Wolfgang Wahlster, Bischof Markus Dröge und andere über künstliche Intelligenz. Moderation: Jörg Thadeusz. Eine Veranstaltung von Disput/Berlin! in Kooperation mit Google und der ESMT. Anmeldung unter www.disput-berlin.de.

1 Kommentar - Diskutieren Sie mit!

Diese Community ist nur während der Arbeitszeiten der Tagesspiegel-Community-Redaktion geöffnet. Sie können täglich von sechs bis 21 Uhr Kommentare schreiben.

  1. von Gabriele Flüchter
    Fremdbestimmung, Selbstbilder, Optimierung - das fing alles sehr lange vor der Digitalisierung an und die Digitalisierung ist nicht die Ursache dafür, es ist der Mensch selbst die Ursache dafür.
    Es gibt kein Medium, dass demokratischer genutzt werden kann als das Internet- es kann natürlich auch diktatorisch genutzt werden, es liegt aber wieder am Menschen selbst.
    Ich habe keine Berührungsängste damit, ich kann abschalten, wenn es mir zu blöd wird. Das beobachtet werden von Big Brother kann ich mir geschickt zunutze machen - das spart so machen Vertriebsweg ;-)
    Es wäre vielleicht auch wichtig, die Generation 15+ in Diskussionen über die digitale Welt einzubinden - einbinden, auf Augenhöhe mitdiskutieren lassen.