Künstliche Intelligenz und Algorithmen erleichtern in Form von Navis, Rechtschreibprogrammen, Suchergänzungen oder Kaufempfehlungen schon lange unseren Alltag. Aber sie hinterlassen oft auch ein mulmiges Gefühl, weil wir nicht so recht verstehen, was da passiert. Katharina Zweig, IT-Expertin für Sozioinformatik und vielfach ausgezeichnete Informatikprofessorin, erklärt mit Witz und anhand einfacher Beispiele und Illustrationen, was Algorithmen eigentlich genau sind, wie sie funktionieren, welche völlig harmlos sind und welche uns tatsächlich Sorgen bereiten sollten. Damit wir wissen, worauf wir achten müssen, wo wir uns einmischen und Politik und Wirtschaft genauer auf die Finger schauen müssen, wenn wir diese Technik in menschlicher Hand behalten, ihre positiven Eigenschaften nutzen und die negativen kontrollieren wollen.
Ich habe gemischte Gefühle, was dieses Buch angeht, was daran liegen mag, dass ich keine wirkliche Laiin auf dem Gebiet bin. Mein Beweggrund, zu diesem Buch zu greifen, war der Blick in den soziainformatischen Bereich, den allein schon der Titel verspricht. Dass das Buch ohne Grundlagenvermittlung nicht auskommt, steht außer Frage. Meines Erachtens nach gelingt das Katharina Zweig gerade aufgrund der anschaulichen Beispiele sehr gut und weniger trocken wie das in Teilen der wissenschaftlichen Auseinandersetzung passiert. Entsprechend war das wirklich erfrischend zu lesen, allerdings war der Anteil der Grundlagen gemessen am Gesamtwerk doch etwas zu hoch. Der Teil, in dem das Feld der Sozioinformatik näher beleuchtet wird, gibt einen groben Überblick anhand wirklich gut gewählter Beispiele, blieb mir persönlich aber in einigen Beobachtungen und Auseinandersetzung zu sehr an der Oberfläche, einige Punkten hatten sogar etwas redundantes. Insgesamt ist es ein wirklich gutes und zugängliches Einführungsbuch in die Welt von Algorithmen und künstlicher Intelligenz, an dem vor allem Einsteiger:innen Gefallen finden werden. Für fortgeschrittenere Leser:innen lohnt sich eher der Blick in fachspezifische Artikel und/oder Lehrbücher.
Eine kritische Auseinandersetzung mit der künstlichen Intelligenz
Die meisten von uns bedienen sich ihrer tagtäglich: In Navigationssystemen zeigen sie uns den Weg, beim Onlineshopping unterbreiten sie uns auf uns abgestimmte Angebote, ja selbst Nachrichten werden von ihnen vorsortiert – Algorithmen. Ihnen zu entkommen ist all denen, die digitale Medien nutzen, heute kaum noch möglich. Und wie immer gilt: Des einen Freund, des andern Feind. Was die einen als Errungenschaft der modernen Gesellschaft feiern, beäugen andere – und zu denen zähle ich mich – eher kritisch. In ihrem 320-seitigen Sachbuch „Ein Algorithmus hat kein Taktgefühl. Wo künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können“, erschienen im Oktober 2019 bei Heyne, lässt Katharina Zweig Laien hinter die Kulissen der künstlichen Intelligenz blicken, erklärt, was sich hinter Begriffen wie „Algorithmus“, „Big Data“ oder „Computerintelligenz“ verbirgt, und gibt Leserinnen und Lesern Handwerkszeug mit auf den Weg, mit dieser Entwicklung mündig umzugehen. Das Buch besteht aus insgesamt drei Teilen, ergänzt durch einen umfangreichen Anhang, bestehend aus „Anmerkungen“ und „Glossar“. Im ersten Teil gibt die Autorin den Leser/innen Werkzeug mit auf den Weg, anhand dessen es möglich sein sollte zu entscheiden, an welchen Stellen wir als Menschen beim Einsatz von Computerintelligenz einschreiten sollten. Im zweiten Teil, betitelt mit „Das kleine ABC der Informatik“, werden grundlegende Begriffe aus der Informatik sowie ihre Arbeitsweise erklärt. Abschließend beschäftigt sich die Autorin in einem dritten Teil mit den ethischen Fragen beim Einsatz von Algorithmen: Wo können sie uns helfen, unser Leben erleichtern? An welchen Stellen haben sie ihre Grenzen? Wie steht es um ihre „Moral“? In diesem letzten Teil gibt die Autorin uns Leser/innen auch ein m.E. wertvolles Tool, die sog. „Risikomatrix“, mit auf den Weg, anhand dessen man überprüfen kann, wie sinnvoll und vor allem gefährlich bestimmte Entscheidungssysteme sind. Hier stehen vor allem Systeme im Fokus, die schädlich für den einzelnen Menschen und das soziale Miteinander sind. Und hier sieht die Verfasserin auch den Punkt, an dem der Einfluss künstlicher Intelligenz auf jeden Fall eingeschränkt oder vermieden werden sollte, nämlich wenn es darum geht, „über Menschen“, „über Ressourcen, die Menschen betreffen“ oder „die gesellschaftlichen Teilhabemöglichkeiten von Personen“ (S. 25) zu entscheiden. Katharina Zweigs Sprache ist leicht verständlich, und sie schafft es, auf den ersten Blick komplizierte Inhalte verständlich und kurzweilig zu kommunizieren. Anhand von Grafiken, vor allem aber von der Comic-Figur „KAI“ (der Name ist eine Zusammensetzung aus den Begriffen „künstliche Intelligenz“ und „artificial intelligence“), die mir allerdings gerade wegen ihres Comic-Stils weniger zusagt, wird das Geschriebene illustriert und verdeutlicht. Außerdem unterstützen zahlreiche Beispiele, beginnend mit Navigationssystemen bis hin zu Software wie „COMPAS“, die in den USA tatsächlich in Gerichten eingesetzt wird und Rückfälligkeitsvorhersagen von Strafgefangenen machen soll, Einblicke in die Möglichkeiten und Grenzen vom Einsatz vermeintlich intelligenter Computersysteme. Letztlich haben Zweigs Ausführungen mich darin bestätigt, was ich schon immer geahnt habe: Eine „starke Computerintelligenz", die menschlichen Fähigkeiten entspricht oder diese gar überbietet, gibt es (bis jetzt) noch nicht. Alle Systeme sind so gut oder schlecht wie die Menschen und Daten, die dahinterstehen. Was auf der einen Seite beruhigen (oder einige auch frustrieren) mag, birgt auf der anderen Seite Gefahren in sich, nämlich die, dass Menschen durch solche Systeme in ihrer Freiheit und in ihrem Entwicklungspotenzial eingeschränkt und zum Spielball von Interessen anderer werden. Genau hier sollten wir als Menschen uns einmischen und wehren, wenn wir merken, dass dieses der Fall sein könnte. Insgesamt präsentiert Katharina Zweig mit „Ein Algorithmus hat kein Taktgefühl“ ein informatives, gut lesbares Buch, dass auch technisch weniger versierten Menschen einen Einblick in die Welt der künstlichen Intelligenz bietet und sie somit animiert, sich kritisch mit dem Thema auseinanderzusetzen und dort einzugreifen, wo es nötig scheint. Allen, die dieser Entwicklung nicht hilflos gegenübertreten möchten, kann ich nur dazu raten, zu diesem Buch zu greifen.
Selten habe ich ein so kompetentes und kluges Buch zu diesem hoch aktuellen Thema gelesen. Katharina Zweig zeigt gut nachvollziehbar (auch für Programmier- und IT-Laien) die Grundlagen, Möglichkeiten, Grenzen und Potentiale der jetzigen und künftigen künstliche Intelligenzen auf.
Sie verliert sich nicht in philosophischen Auslassungen ob und wann KI Bewusstsein haben könnte, sondern arbeitet sich an konkreten Einsatzgebieten von KI ab und vor allem an den gesellschaftlichen Vorgaben, die in den Trainingsarten, Trainingsdaten, "positiven" Vorgaben etc. stecken.
Sehr anschaulich, wird bewusst gemacht, wo welche Arten von Vorgaben einfließen, wo notwendig gesellschaftliche Eingriffe gefordert und notwendig sind und wo die größten Gefahren und Vorteile liegen können.
Ein gelungenes und wichtiges, gut zu lesendes Buch.
Ich hatte vor zwei oder drei Jahren das Vergnügen, Katharina Zweig persönlich bei einem Vortrag zu erleben. Bin selbst Informatiker und hatte mir als erstes ihr zweites KI-Buch "Die KI war's" vorgenommen. Nachdem sich dieses unterhaltsam und schnell gelesen hatte, kam auch noch das KI-Erstlingswerk dran.
In diesem behandelt Katharina Zweig die technischen Grundlagen der Informatik und zeigt auf, wie Maschinen Entscheidungsprozesse angehen. Dabei wird eine Risikomatrix aufgestellt und anhand von Beispielen die Klassifizierung aufgezeigt.
Für all diejenigen, die sich praktisches Wissen über KI aneignen möchten, eine gute Einstiegsliteratur - auch für Nicht-Informatiker.
---
Two or three years ago, I had the pleasure of experiencing Katharina Zweig in person at a lecture. I'm a computer scientist myself and the first thing I did was read her second AI book “Die KI war's”. After this had been an entertaining and quick read, it was time for her first AI book.
In this book, Katharina Zweig deals with the technical foundations of computer science and shows how machines approach decision-making processes. A risk matrix is drawn up and examples are used to illustrate the classification.
This is a good introductory book for anyone who wants to acquire practical knowledge about AI - even for non-computer scientists.
In „Ein Algorithmus hat kein Taktgefühl“ erklärt uns die Universitätsprofessorin Katharina Zweig mit einfachen Worten und Humor wie Algorithmen funktionieren und wie der Mensch an deren Entwicklung und Überprüfung beteiligt ist. Die unterhaltsamen Beispiele und Bilder erleichtern ebenfalls das Verständnis. Ein gutes Buch für jeden, der besser verstehen möchte, wie die Welt um uns herum funktioniert und welchen Einfluss man auf sie hat.
Ein sehr gutes Buch zu einem aktuellen und wichtigen Thema, das für den interessierten Laien zum größten Teil verständlich bleibt. Man erhält eine fundierte Kenntnis darüber, wie Algorithmen funktionieren und warum nicht die Algorithmen das Problem sein werden. Die Grundbegriffe werden verständlich und unterhaltsam erläutert. Ich persönlich hatte mein Augenöffner-Moment bei der Erklärung des Verhältnisses von Maschinellem Lernen und Korrelationen, bzw. warum genau aus diesem Grund Big Data (für Google und Co.) so wichtig ist. Als Frau Prof. Zweig an dieser Stelle dann die Brücke zum Schwarzen Schwan (wo es auch um Skalierung und Vorhersagbarkeit geht) schlug, hatte sie mich. Jenes Buch von Herrn Taleb halte ich zwar nur zum Teil für lesbar, aber schon dieser Teil hebt den Schleier und zeigt eine andere Sicht auf die Welt auf.
So gut die Autorin im Erklären ist, ich war dennoch immer mal wieder überfordert. Zum Beispiel hatte ich auf Seite 225 das Gefühl, an einem ganz wichtigen Punkt zu sein. Betonung auf "Gefühl". Dort wird am Beispiel von Rückfälligkeitsvorhersagen beschrieben, dass verschiedene, für sich jeweils sinnvolle Fairnessforderungen an das Entscheidungssystem einfach nicht alle gleichzeitig erfüllt werden können. Man erkennt schön, dass die Gesellschaft hier aktiv werden und Gestaltungsmöglichkeiten wahrnehmen muss. Leider konnte ich genau an dieser Stelle den konkreten Ausführungen im Detail einfach nicht mehr folgen. Hier wäre zumindest für den Laien ein zweites Beispiel sinnvoll gewesen.
Ach ja, lustig der Querverweis im Text zu Marc-Uwe Klings "Qualityland". Er wertet meiner Meinung nach beide Bücher auf.
Offensichtlich gehört dieses Buch auf das Regal "Socioinformatics", denn warum wir dieses neue Studium brauchen, habe ich in diesem Buch beschrieben. Da ich es selbst geschrieben habe, werde ich die Bewertung allerdings anderen überlassen. :-)
Das Buch behandelt die Grundlagen, um zu verstehen, was künstliche Intelligenz ist, was sie heute kann und wo man sie stärker überwachen muss. Ihre wirklichen Chancen und Risiken können wir aber nur beurteilen, wenn wir das Gesamtsystem aus Entwickler:innen, Anwender:innen und Nutzer:innen betrachten - das ist das, was wir ein sozioinformatisches Gesamtsystem nennen.
Katharina Zweig zeigt, dass Algorithmen unser Leben zugleich leichter und unheimlicher machen: Der Navi auf dem Beifahrersitz hat zwar kein Taktgefühl, weiß aber erstaunlich genau, was wir als Nächstes kaufen sollen. Höchste Zeit also, selbst zu verstehen, wie diese Rechenknechte funktionieren – damit wir Politik und Wirtschaft endlich auf die digitalen Finger schauen können, bevor uns die Kaufempfehlungen zuverlässig ins Verderben lotsen.
(Bei meiner Ausgabe des Buchs handelt es sich um ein unbezahltes Vorabexemplar. Meine Wertung und Rezension wird davon nicht beeinflusst.)
Katharina Zweigs Buch beschreibt auf gut greifbare Art und Weise auch für Laien die Funktionsweise und -breite von Algorithmen und wirft dabei Fragen in den Raum, über die nachzudenken wichtig ist, auch wenn es einem vor dem Lesen nicht unbedingt klar war. Als solches ist das Buch voll von wertvollem und lehrreichem Inhalt. Zu jedem Zeitpunkt ist klar, dass Katharina Zweig sehr genau weiß, wovon sie redet - dennoch wirkt ihr Schreibstil nie "von oben herab", sondern bleibt immer sympathisch und traut dem Leser Verständnis für die verschiedenen Sachverhalte zu. Dem E-Book-Leser möchte ich zudem nahelegen, die Fußnoten am Ende der Datei nicht auszulassen - einige der sympathischsten Momente verstecken sich dort.
Zusammenfassend würde ich dieses Buch jedem nahelegen, der sich auch nur im Geringsten für Algorithmen in ihrer wachsenden Bedeutsamkeit für unsere Gesellschaftsstruktur interessiert. Eine klare Empfehlung!
Einfach ein tolles Buch. Es ist interessant, lehrreich und teilweise auch spielerisch geschrieben. Es bringt Konzepte und Ideen der KI einem auf leichtverständliche Art und Weise näher indem es den Leser wirklich abholt, egal was man für ein Vorwissen zu dem Thema hat. Vorallem bei so einem relevanten und präsenten Thema wie KI wo viel Halbwissen/Unwissen in der Bevölkerung herrscht ist das Buch umso wichtiger.