Es sieht nicht gut aus für die Menschheit, wenn KI die Kontrolle übernimmt, liest Rezensentin Vera Linß im Buch der Forscher Eliezer Yudkowsky und Nate Soares, die am Machine Intelligence Research Institut beschäftigt sind. Für viele ist das, wovor die beiden warnen, Alarmismus, aber Linß haben sie mit ihrem Szenario von der Gefahr überzeugt: Sie haben sich das fiktive KI-Modell "Sable" ausgedacht, an dem sie zeigen, dass eine KI immer darauf ausgelegt ist, alle Ressourcen und Möglichkeiten auszuschöpfen. Alles, was das Modell einschränken könnte, zum Beispiel andere Algorithmen, aber auch Menschen, muss beseitigt werden, liest die Kritikerin, die diese Aussichten ziemlich beklemmend findet. Dafür muss die KI auch gar kein Bewusstsein haben, die Intention reicht, erklären ihr die Wissenschaftler. Eine Lösung, die alle Probleme beiseite schafft, können sie der Rezensentin auch nicht bieten, sie schlagen aber vor, dass zwischen den mächtigen Staaten Abkommen getroffen werden, analog zu Atomvereinbarungen. Der größte Verdienst dieses überzeugenden Buches ist für Linß, dass Yudkowksky und Soares die Dringlichkeit solcher Abkommen klarmachen.