Human Compatible -- Künstliche Intelligenz und wie der Mensch die Kontrolle über superintelligente Maschinen behält

Kapitel 5: Übermäßig intelligente KI

Das Gorilla-Problem

Es braucht nicht viel Vorstellungskraft, um zu erkennen, dass es vielleicht keine so gute Idee ist, etwas zu erschaffen, das klüger ist als man selbst. Wir wissen, dass unsere »Herrschaft« über unsere Umwelt und andere Spezies ein Resultat unserer Intelligenz ist. Allein der Gedanke, dass etwas – ob Roboter oder Außerirdischer – existieren könnte, das intelligenter ist als wir, verursacht bei uns ein mulmiges Gefühl. ‌‌Vor etwa zehn Millionen Jahren erschufen die Vorfahren der heutigen Gorillas (zugegebenermaßen unabsichtlich) die genetische Linie, aus der der moderne Mensch entstammt. Was halten die Gorillas davon? Wenn sie uns ihre Meinung zu ihrer aktuellen Situation im Vergleich zu ...