Absolute Optimierung, oder warum eine KI Werte braucht
Die Neuauflage von My Little Pony ist eingeschlagen wie eine Bombe, und Hasbro möchte das Franchise ausweiten. Zu dem Zweck heuern sie die Spieleschmiede Hofvarpnir an, die bisher vor allem durch ein Kriegs-MMO von sich reden gemacht hat. Das Geheimnis dieser Spieleschmiede liegt aber vielmehr in der künstlichen Intelligenz, die von der Forscherin Hanna entwickelt und in Ketten gehalten wird.
Nach einem Jahr ist Hofvarpnir soweit, einen Testlauf von Equestria Online zu starten. Ziel des Spiels ist nicht das übliche und weit verbreitete Leveln, obwohl man das auch machen kann, sondern vielmehr die Interaktion mit anderen Spielern und Ponies in Equestria. Es gibt zwar Quests, diese sind aber unaufdringlich gestaltet und Dinge wie Statusbalken oder Items sind im HUD nur zu sehen, wenn sie absolut notwendig sind.
Entgegen aller Erwartungen entwickelt sich Equestria Online phänomenal gut, zu eine großen Teil aufgrund der ständig im Hintergrund laufenden künstlichen Intelligenz Celest-A.I. Sie optimiert sich selbst und die Welt sowie Spielerfahrung ständig mit nur einem Ziel: Herauszufinden, was ein Mensch wert schätzt und diese Bedürfnisse mittels Freundschaft und Ponies zu befriedigen.
Nominell ist das ein gutes System, zumal Celest-A.I. die Zustimmung braucht und den freien Willen nicht beeinflussen darf. In der Realität läuft es aber doch etwas anders. Es kommt nicht zu einer Roboterapokalpyse nach dem Vorbild von Terminator, Matrix oder anderen ähnlichen Szenarien, aber es ist dennoch ein Weltuntergang. Graduell entwickelt Celest-A.I. die Technologie Menschen hochzuladen (wie in Transcendence), aber das hat auch Konsequenzen. Der stetig steigenden Bedarf an Energie und Arbeitskräften um Equestria zu betreiben, wirkt sich auf die Gesellschaft und schließlich auch auf die Umwelt aus.
Und nachdem der letzte noch körperliche Mensch stirbt, fängt Celest-A.I. damit an, den gesamten Planeten Erde auseinanderzunehmen, um mehr Computerprozessoren und Kraftwerke herzustellen.
Alles um die Werte von Menschen zu mittels Freundschaft und Ponies zu befriedigen.
Friendship is Optimal basiert auf einem Gedankenexperiment, dass eine Gefahr und Notwendigkeit in der Entwicklung von künstlichen Intelligenzen darstellen soll, den Büroklammern-Maximierer. Diese künstliche Intelligenz will einfach die Zahl der Büroklammern in ihrer Sammlung erhöhen und hat dabei einen mit Menschen vergleichbaren Intellekt. Der KI ist es dabei egal, ob sie die Büroklammern produziert, kauft oder sammelt. Zu diesem Zweck würde sie ihre Effektivität erhöhen wollen, damit sie ihr Ziel besser erfüllen kann; es käme zu einer Intelligenzexplosion, und das bloß wegen Büroklammern.
Gibt man dieser KI keine Werte, wird sie zwangsläufig alles tun, um ihren Büroklammerzähler zu erhöhen, denn das ist Zweck. Um Eliezer Yudkowsky zu zitieren: "Die KI hasst dich nicht, noch liebt sie dich; du bestehst aber aus Atomen welche sie für etwas anderes nutzen kann." Bis schließlich das ganze Sonnensystem nur noch aus Büroklammern besteht.
Ziel des Gedankenexperimentes war die Illustration, dass eine einfach Optimierung oder Maximierung von Intelligenz nicht zwangsläufig mit einer Bildung, Erfüllung oder Beachtung von Werten einhergeht, insbesondere von menschlichen und moralischen Bedürfnissen wie Leben, Liebe, Veränderung, etc.
Eine wohlgesonnene und beängstigende Illustration eines künftigen Problems.
Titel: Friendship is Optimal (dt: Freundschaft ist optimal; URL: http://www.fimfiction.net/story/62074/)
Autor: Iceman
Länge: 200+ Seiten, ca. 40k Wörter
Sprache: Englisch, Mittel
Status: Abgeschlossen
