Blog

Beitrag: Gastbeitrag von Marina Weisband: Was uns zu Menschen macht

Sie sind hier: Startseite » Gastbeitrag von Marina Weisband: Was uns zu Menschen macht

28. November 2019

Gastbeitrag von Marina Weisband: Was uns zu Menschen macht

2016 war es Big Data. 2018 war es Blockchain. 2019 ist das Modewort der Veranstaltungslandschaft in Sachen Digitalisierung: Künstliche Intelligenz (kurz KI). In diesem Jahr muss alles irgendwie mit KI zu tun haben, um Förderungen zu erhalten. Es ist also modern, alles Mögliche als künstliche Intelligenz zu bezeichnen, selbst wenn es gar keine künstliche Intelligenz ist. Gern werden die Begriffe KI und Algorithmus dabei wild durcheinander geworfen. Dabei bezeichnen sie ja eigentlich zwei völlig verschiedene Dinge. Ein Algorithmus ist eine konkrete Handlungsanleitung zur Problemlösung. Wer schon mal nach Rezept gekocht hat, hat demnach einen Algorithmus verwendet. Eine KI nutzt und entwickelt hingegen selbst Algorithmen für das optimierte Lösen von Aufgaben. Außerdem entwickelt sie sich selbst auf Basis von Daten weiter. 

Dass beide Begrifflichkeiten so vermischt werden und die Debatte weit über die Fachkreise der Menschen hinaus geführt wird, die sich tatsächlich damit auskennen, zeigt, dass dahinter eine andere Diskussion steckt. Egal, ob KI oder Algorithmus, das gemeinsame Prinzip ist: eine Maschine, die ich als Anwender nicht verstehe, trifft irgendwie Entscheidungen. Sie trifft sie schneller und wahrscheinlich akkurater, als ich sie treffen könnte. Daraus leitet sich die Frage ab: Wird sie mich meinen Job kosten? 

Ich verstehe das grundlegende Problem. Ich bin zum Beispiel Psychologin. Wir Psychologen arbeiten mit viel Mathematik, vor allem präzise Statistik. Die gesamte Forschung basiert darauf. Meistens nutzen wir für die Berechnungen ein Computer-Statistikprogramm, zum Beispiel SPSS. Aber nirgends lernten Psychologen die mathematischen Grundlagen so gut, wie im Diplomstudiengang in  Deutschland. Fast alles, was das Programm macht, habe ich im Laufe meines Studiums einmal per Hand erarbeitet. Zum Beispiel die Berechnung einer Faktoranalyse (dabei wird beispielsweise berechnet wie viele Faktoren auf eine bestimmte Entwicklung in der Depressivität wirken). Handschriftlich dauert das ein paar Stunden und füllt viele Seiten eines College-Blocks. Die Software erledigt das Gleiche in wenigen Sekunden. Die US-amerikanischen Kollegen, die von Anfang an nur im Gebrauch der Software unterrichtet werden, müssen häufig deutsche Psychologen um Rat fragen, wenn das Programm ihnen offensichtlichen Mist ausspuckt. Denn wenn man die Mathematik hinter der Software nicht versteht, ist ein Fehler schwer nachvollziehbar. Als ich mit dem Studium fertig war, lief der Diplomstudiengang aus und das System wurde auf den Bachelor umgestellt. Im Zuge dessen sparte man an der statistischen Ausbildung – auch deutsche Studenten arbeiten nun vor allem mit SPSS.  

Alles, was automatisiert werden kann, wird künftig automatisiert. Das ist einfach eine Frage der Ökonomie. Wo können wir dieser Ökonomie freien Lauf lassen, und wo nicht? Ich finde eine Zukunft, in der die schwere Arbeit, all die nervenaufreibenden Prozesse, all die stumpfen Wiederholungen automatisiert sind, sehr gut. Klar, macht es auch Spaß, mir eine Zukunft vorzustellen, in der wir alle von vorne bis hinten von Robotern bedient werden. Aber ehrlich gesagt, würde es mir schon reichen, wenn meine Steuererklärung automatisch erstellt werden könnte, indem eine Software einfach nur alle meine Rechnungen einliest. Oder wenn die Bahn automatisch meine Sitzplatzreservierung erstattet, wenn der Zug ausgefallen ist. Ich bin ein bescheidener Mensch. 

Eine Welt, in der ich nicht leben will, ist, wo solche Systeme tatsächliche Entscheidungen treffen, die mein Leben beeinflussen. Wo ein Automat bestimmt, ob ich einen Job bekomme oder ob meine medizinische Behandlung fortgeführt wird. Hannah Arendt trennt die menschliche Tätigkeit in Arbeiten, Herstellen und Handeln. Arbeiten und Herstellen bezeichnen Routinetätigkeiten, denen kein schöpferischer Geist zugrunde liegt. Also eher Arbeit in Fabriken. Arbeit, die benötigt wird, um Wohlstand zu erzeugen, die für die Ausführenden aber keine Selbstverwirklichung ist. Dem gegenüber steht Handeln. Das ist eigenständiges Treffen von Entscheidungen, kritisches Bewerten, politische Aktion. Dabei ist nicht alle Arbeit schlecht. Ich selbst stricke gern. Es ist nur Routine, Maschinen können es schneller und sauberer – aber ich mag es und es entspannt mich. Es geht eher um das erzwungene Arbeiten und Herstellen, das die Menschen im Moment nur des Geldes wegen machen – das darf und soll gerne automatisiert werden. Solange wir den so erzeugten Wohlstand auch wieder gerecht verteilen. 

Handeln aber sollte immer in der Hand des Menschen liegen. KI darf immer nur ein Werkzeug des Menschen bleiben. Aus ethischen Gründen. Aber auch, weil eine KI nicht klüger ist, als ein Mensch. Der Begriff „Intelligenz“ ist nämlich ein wenig irreführend. Wir sind noch meilenweit davon entfernt, etwas zu entwickeln, das der menschlichen Intelligenz auch nur ähnlich sein könnte. Maschinen verstehen ihre Umwelt nicht wirklich. Sie können nur messen, ob sie eine eng umzeichnete Aufgabe gerade gut oder schlecht erfüllen. Dass die Maschinen selbstbewusst werden und einen Aufstand gegen die Menschheit planen, gehört in den Bereich der Science Fiction. Die viel größere Gefahr besteht darin, dass Menschen ihre ganze Entscheidungskompetenz völlig freiwillig an Systeme abgeben, die eigentlich glorifizierte Statistik sind. 

Nehmen wir mal an, wir entscheiden uns aus ethischen Gründen, dass Gerichtsurteile immer noch von menschlichen Richtern getroffen werden. Aber sie dürfen künstliche Intelligenz zu ihrer Entscheidungsfindung hinzuziehen. Sie füttern den Computer also mit der Prozessakte und dieser sagt, die dunkelhäutige Angeklagte sei wahrscheinlich schuldig. Wenn der Richter gestresst ist, weil er am Tag für zahlreiche Fälle Entscheidungen treffen muss, wird er in der Regel davon ausgehen, dass die KI aufgrund der zur Verfügung stehenden Daten Recht hat – und ihrer Empfehlung folgen. Denn sonst müsste er eine Abweichung seiner Entscheidung ja zumindest vor sich selbst begründen. Aus welchem Grund hat die KI das aber so entschieden? Genau wissen wir das nie. Aber Fakt ist, dass künstliche Intelligenz oft sexistisch und rassistisch ist. Ob es Systeme sind, in denen Gesichtserkennung von schwarzen oder asiatischen Gesichtern versagt, Kreditkarten, die Frauen geringere Kreditwürdigkeit zuschreiben oder Chatbots, die schnell Nazi-Gedankengut annehmen. Denn KI lernt aus Daten. Und diese stammen aus einer rassistischen und sexistischen Welt. Diverse Studien zeigen, dass KI-Systeme dazu neigen, gesellschaftliche Schieflagen zu reproduzieren und zu verstärken. Wenn wir Mist in ein System kippen, kommt Mist raus. Da die KI eben nicht annähernd wirklich „intelligent“ ist, kann sie außerdem absolut nicht außerhalb des Rahmens denken. Sie verlässt sich immer nur auf alte Daten, ohne sich auf neue Umstände einstellen zu können. KI kann viele Dinge besser als der Mensch. Aber menschliche Gesellschaft zu verstehen, gehört nicht annähernd dazu. 

Wenn wir eine lebenswerte Zukunft wollen, müssen wir diese Black Boxes sinnvoll als Werkzeuge einsetzen. Aber wir müssen Handeln lernen. Jedes Kind muss lernen zu reflektieren: Wer bin ich? Was will ich? In was für einer Gesellschaft lebe ich? In was für einer Gesellschaft will ich leben? Und was muss ich tun, um etwas zu verändern? Wir müssen lernen, Strukturen und Prozesse kritisch zu hinterfragen. Wir müssen lernen, zu sehen, wann eine Maschine Quatsch ausspuckt, weil wir sie mit Quatsch gefüttert haben. Tätigkeiten, die diese Fähigkeiten nicht erfordern, werden vermutlich aus den Jobs wegfallen. Vielleicht gibt es in fünfzehn Jahren überhaupt kein mittleres Management mehr. Und hoffentlich werden all die Jobs ersetzt, bei denen eine Person mit einem spricht, in Wirklichkeit aber nur Fragen von einem Bildschirm vorliest und dann die Antworten wieder in die Maske des Bildschirms eingibt. Neue Tätigkeiten werden da entstehen, wo Menschen mehr reflektieren, kreativer denken und komplexere Prozesse gestalten müssen. 

Ob die meisten Menschen in dieser Zukunft einen Platz haben, entscheidet das Bildungssystem. Wir können 30 Ethikräte einsetzen und 150 Institute, die den ethischen Einsatz von KI erforschen. Solange wir Menschen nicht in dem stärken, was sie von Computern unterscheidet – nämlich die Fähigkeit zum Handeln – riskieren wir eine wirklich traurige Zukunft, in der wir uns freiwillig zu Sklaven dummer Black Boxes machen. Die Diskussion über KI ist nichts anderes als eine Diskussion über die Notwendigkeit einer zweiten Welle der Aufklärung. In der nächsten Generation, die mit KI lebt, braucht jeder einzelne Mensch mehr Umsicht, mehr Weitsicht und mehr Verantwortungsgefühl. Und wir müssen unsere Weitsicht beweisen, indem wir die Voraussetzungen dafür schaffen.

_________________________________________________________________________________

Marina Weisband wurde 1987 in Kiew geboren. Ihre Familie zog 6 Jahre später im Zuge der Regelung für Kontingentflüchtlinge nach Deutschland. Von 2011 bis 2012 war sie politische Geschäftsführerin der Piratenpartei Deutschland. Weisbands politische Schwerpunkte liegen in den Bereichen der Bildung und der Bürgerbeteiligung. In ihrem Buch „Wir nennen es Politik“ schildert sie die Möglichkeiten neuer demokratischer Formen durch Nutzung des Internets.
 Seit 2014 leitet sie bei politik-digital.de ein Projekt zur politischen Bildung und Beteiligung von SchülerInnen an den Angelegenheiten ihrer Schulen.


Melden Sie sich für unseren Newsletter an!

Neugierig auf weitere Gastbeiträge von Marina Weisband oder unseren anderen Gastautoren Harald Welzer? Hier im Newsletter-Archiv werden Sie fündig. Für künftige Newsletter, melden Sie sich doch hier gleich an – das erspart Ihnen nachträgliche Downloads!

weiterempfehlen

Kategorien: Gastbeitrag
Schlagwörter: Ethikrat, KI, und Künstliche Intelligenz


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Hiermit akzeptiere ich die Datenschutzbedingungen


Verfassen Sie den ersten Kommentar