Human Compatible -- Künstliche Intelligenz und wie der Mensch die Kontrolle über superintelligente Maschinen behält

Kapitel 7: KI: Ein anderer Ansatz

Sobald die Argumente der Skeptiker widerlegt und all die Aber, Aber, Abers beantwortet wurden, lautet die nächste Frage normalerweise wie folgt: »Na gut, ich muss zugeben, dass es ein Problem gibt. Aber es gibt ja keine Lösung, oder?« Doch, es gibt eine Lösung. Rufen wir uns nochmals ins Gedächtnis, was eigentlich unser Ziel ist: Wir möchten Maschinen mit einem hohen Intelligenzniveau konstruieren, die uns bei schwierigen Problemen zur Hand gehen sollen, und gleichzeitig sicherstellen, dass diese Maschinen niemals so agieren, dass wir extrem unglücklich damit sind.‌ ‌

Das Ziel besteht zum Glück nicht darin, eine Maschine mit einem hohen Intelligenzniveau unter unsere Kontrolle zu bringen. Wäre das unser Ziel, ...