Human Compatible -- Künstliche Intelligenz und wie der Mensch die Kontrolle über superintelligente Maschinen behält

Kapitel 8: Nachweislich vorteilhafte KI

Wenn wir KI neu denken wollen, muss das Fundament dieses Mal wirklich stabil sein.‌ ‌Denn wenn es um die Zukunft der Menschheit geht, reichen Hoffnung und gute Absichten – Bildungsinitiativen und Selbstverpflichtungen der Industrie, Gesetze und wirtschaftliche Anreize, das Richtige zu tun – einfach nicht aus. Denn all diese Dinge sind fehlbar und versagen häufig. Wir brauchen präzise Definitionen und strenge mathematische Schritt für Schritt nachvollziehbare Beweise, die unanfechtbare Garantien bieten.‌

Doch auch das ist nur ein Anfang. Wir müssen darüber hinaus so sicher wie möglich sein, dass das, was garantiert wird, auch das ist, was wir wollen, und dass die für die Beweise getroffenen Annahmen wirklich ...