Jedem den das Thema Zukunft und was ist möglich und was nicht näher interessiert, möchte ich das Buch "summa technologiae" von, gott hab ihn selig, Stanislaw Lem (war mal klügstes Kind Südpolens) ans Herz legen.
Es ist sehr anspruchsvoll, dafür ist es seiner Zeit damals und in weiten Teilen jetzt immer noch weit vorraus. Virtuelle Realitäten hatte er sich unter der Bezeichnung "Fantomatik" als erster ausgedacht. Den großen Computerregler der schlauer als alle anderen ist ebenfalls in diesem Buch. 1970 geschrieben.
Und die Probleme die das mit sich bringt, weswegen es nciht gehen würde. Sein Beispiel: der Computer findet heraus dass sinkende Geburtenziffern gut sind für den Wohlstand der Menschen, also mischt er Empfängnisverhütungsmittel ins Trinkwasser. Als das herauskommt, werden ihm solche Aktionen verboten. Jetzt findet er aber irgendwann heraus, dass die Verkäufe von einer bestimmten Zahnpasta mit Wohlstand korrelieren, er wird diese Zahnpastamarke fördern, egal ob man bis jetzt nur noch nicht herausgefunden hat, dass sie empfängnisverhütend wirkt. Und wenn der Computer die Forschung steuert, wird man das auch nicht herausfinden.
Und noch ein paar andere nette Weiterführungen des Gedankens.
Die moralische Aufgabe: bringe den Menschen Wohlstand und Glück, kann dennoch negative Auswirkungen haben. (Hat sie ja auch bei den Menschen schon)
Die Menschen müssten ständig die Entscheidungsgrundlagen nachprüfen auf ungewollte Nebeneffekte, was aber aufgrund der höheren Intelligenz der Maschine nicht möglich wäre.
Dass Lem mit seiner Zeit immer schritt hielt, zeigt das Buch "die Megabit-Bombe" von ihm, dass er in hohem Alter kurz vor seinem Tod um die Jahrtausendwende über die neue Informationsflut schrieb.
Gruß, Max