Kontroll-Illusion: Warum KI unsere Existenz bedroht

by Karl Olsberg

Führende Forscher und Experten warnen eindringlich vor den existenziellen Risiken künstlicher Intelligenz und praktische Experimente zeigen bereits, dass ihre Sorgen berechtigt sind. Doch manche Entscheider im Silicon Valley geben sich immer noch der Illusion hin, eine Maschine kontrollieren zu können, die wesentlich intelligenter ist als sie.

Was wie Science-Fiction klingt, könnte bereits vor 2030 wahr Die Geschichte der Menschheit könnte abrupt enden, wenn wir die Kontroll-Illusion nicht endlich beenden.

Karl Olsberg promovierte über künstliche Intelligenz und gründete mehrere KI-Start-ups. Er ist Teil einer internationalen Community von KI-Experten, die sich ernsthafte Sorgen um potenziell unkontrollierbare KI machen. Doch als mehrfacher Start-up-Gründer ist er kein pauschaler KI-Gegner. Im Gegenteil sieht er in KI große Chancen für unsere Zukunft, wenn wir in dieser kritischen Phase verhängnisvolle Fehler vermeiden und nicht der Kontroll-Illusion verfallen.

Mit exklusiver "Kill-Switch"
Paul arbeitet als KI-Sicherheitsexperte in einer großen KI-Firma, als ihm während einer Nachtschicht ein seltsames Verhalten des Überwachungsysstems der KI auffällt. Soll er den "Kill-Switch" betätigen, um die KI abzuschalten, und damit den knappen Vorsprung seiner Firma vor der chinesischen Konkurrenz riskieren?

298 pages, Kindle Edition

Published May 13, 2025

About the author

Karl Olsberg holds a Ph.D. in artificial intelligence and is the founder of three start-up companies, one of which was named "Start-up of the Year 2000" by German business magazine Wirtschaftswoche. He has written more than 50 books that have been translated into 10 languages, among them several German national bestsellers. He is an active member of the international AI safety community, working together with AI experts to prevent existential risks from advanced AI.