Die KI war’s!: Von absurd bis tödlich: Die Tücken der künstlichen Intelligenz

by Katharina Zweig

Dass Algorithmen über Menschen und deren Zukunft entscheiden, scheint unausweichlich zu sein – wir alle sind längst den Urteilen von Künstlicher Intelligenz Immer mehr Firmen lassen Bewerbungen automatisiert bewerten, und immer mehr Menschen bekommen Bescheide oder Auskünfte, die durch Maschinen vorbereitet wurden. Doch nicht alle diese algorithmisch getroffenen Entscheidungen sind korrekt, es gibt immer wieder Fälle, in denen KI diskriminiert, Unschuldige eines Verbrechens beschuldigt oder gar Leben gefährdet. Katharina Zweig, vielfach ausgezeichnete Informatikprofessorin, erklärt unterhaltsam und anhand spannender aktueller Fälle, wie wir falsche Entscheidungen erkennen und uns dagegen wehren können. Denn wir sollten wissen, worauf wir achten müssen, damit Algorithmen nach unseren Regeln spielen und nicht nach ihren eigenen.

Wo künstliche Intelligenz sich irrt und warum uns das alle betrifftDeutschlands führende Sozioinformatikerin erklärt anhand von vielen Beispielen aus unserem Alltag, wie wir falsche Software-Entscheidungen erkennen – und uns dagegen wehren können 2023 wird die Verabschiedung des Artificial Intelligence Acts auf EU-Ebene beschlossen – die nationale Umsetzung soll bis 2025 das erste Gesetz weltweit, mit dem KI in allen Lebensbereichen reguliert werden soll »Katharina Zweig [ist eine] digitale Vordenkerin [und] engagiert sich dafür, dass Algorithmen zur Chance für die Welt von morgen werden und nicht zur Gefahr.« (BamS)

Genres: Nonfiction

321 pages, Kindle Edition

Published September 13, 2023

Reviews

[Arno Hitzges · Rating 4 out of 5]

Das Buch ist eine sehr strukturiert aufgebaute Argumentationslinie zur Frage:
Welche Risiken und Chancen wir mit automatisierten, durch KIs getroffene Entscheidungen als Gesellschaft eingehen.
Anhand einiger sehr anschaulicher und gut ausgewählter Beispiele wird systematisch erläutert wo die Kernprobleme solcher Entscheidungsprozesse/Algorithmen für uns liegen. Auch die Leistungsfähigkeit und Grenzen von KI basierten Entscheidungsverfahren wird sorgfältig erörtert.
Durch die Beispiele erhält das Buch eine gewisse Würze und ist auch ausserhalb der Vorlesung von Prof. Zweig lesenswert. Es bleibt jedoch immer erkenntlich, dass es auf der Basis einer systematischen Vorlesungsreihe fußt.
Obwohl sehr deutlich wird, an welchen Stellen KIs wohl noch sehr sehr lange menschlichen Werturteilen und Entscheidungsprozessen zumindestens für den gesellschaftlichen Nutzen unterlegen sein werden, werden auch sehr gute Ansätze aufgezeigt, wie KIs beitragen könnten, etablierte Gesellschaftliche Entscheidungsprozesse zu verbessern und zu einem Erkenntnisgewinn beitragen können.

Für Fachinteressierte sehr lesenswert.

[Justus · Rating 3 out of 5]

Nach ungefähr der Hälfte des Buches wurde es etwas träge und weniger spannend zu lesen.
Aber zu Anfang hat es mich wirklich gepackt und einige interessante KI-Geschichten erzählt; von Drogenspürhund als KI-Blackbox Analogie, über die erst recht auf diesem Gebiet dringende Notwendigkeit von Diversität, bis hin zu regelbasierten Ansätzen und ihren Mankos.
Danach beschäftigt sich das Buch hauptsächlich mit der Frage danach, ob KI Werturteile fallen sollte und wie wichtig es dabei ist, dass "wesentlich Gleiches gleich und wesentlich Ungleiches ungleich" behandelt wird.

[Robert Dohrendorf · Rating 5 out of 5]

Katharina Zweig erklärt in „Die KI war’s!“ auf kluge, zugängliche Weise, wie moderne Softwaresysteme tatsächlich funktionieren – ohne Fachjargon, aber mit Tiefgang. Besonders hilfreich für alle, die keine Ingenieure, Physiker oder Informatiker sind, aber trotzdem verstehen wollen, welcher Logik KI folgt, wo ihre Grenzen liegen und warum das alles mit „Intelligenz“ im menschlichem Sinne nur wenig zu tun hat. Ein sehr nützliches, entmystifizierendes Buch. Absolut lesenswert.

[Susu · Rating 5 out of 5]

Hilft dem allgemeinen Verständnis zu KI enorm auf die Sprünge - wie kommen Entscheidungen zustande - was kann schief gehen - und wie kann man die Probleme korrigieren. Wenn man in den aktuellen Diskussionen mitreden will, sollte dieses Buch eine große Hilfe sein

[Tobia · Rating 4 out of 5]

Very interesting even though i probably only grasped a third of the content. Yet I feel like I have a better understanding of this topic.

[Kai Nowatzki · Rating 3 out of 5]

Spannender Einblick und wichtige Gedanken. Leider in dieser schnelllebigen Zeit schon etwas veraltet.