Human Compatible -- Künstliche Intelligenz und wie der Mensch die Kontrolle über superintelligente Maschinen behält

Kapitel 10: Problem gelöst?

‌Wenn wir Erfolg bei der Schaffung einer nachweislich vorteilhaften KI haben, würden wir damit das Risiko eines Kontrollverlusts über superintelligente Maschinen beseitigen.‌ ‌Die Menschheit könnte sich in Ruhe auf die weitere Entwicklung der Zivilisation konzentrieren und fast unvorstellbare Vorteile aus der so unfassbar großen Intelligenz ziehen.‌ Wir müssten nicht mehr – wie all die Jahrtausende bisher – in Landwirtschaft, Industrie und Büros arbeiten, sondern könnten uns ganz darauf besinnen, das Beste aus unserem Leben zu machen. ‌Aus solch einem goldenen Zeitalter würden wir dann auf unser heutiges Leben zurückblicken und es so wahrnehmen, wie sich Thomas Hobbes ein Leben ohne Regierung vorstellte: einsam, arm, ...