„Eigentlich“ sollte man ein Buch gelesen haben, bevor man es rezensiert. Bei Mario Bartsch setze ich das als selbstverständlich voraus. Das gilt aber auch für die Rezension von Rezensionen. Wenigstens sollte man das Buch an- oder quergelesen haben. Bei einem großen Internethändler findet man hauptsächlich negative Beurteilungen. Ganze 17% vergeben aktuell die volle Punktzahl, was aber wenig sagen muss. Viele heutige Film- und Literaturklassiker sind mit vernichtenden Urteilen gestartet.

Wohlmeinend ist die schöne Einschätzung auf https://www.daserste.de/information/wissen-kultur/ttt/sendung/sendung-vom-06052018-102.html., kritischer die auf https://www.heise.de/tr/artikel/Rezension-Dramatisierte-Popkultur-4029993.html.

Ich beschränke mich daher auf das im Roman behandelte Thema Künstliche Intelligenz selbst. Ich bin kein studierter Informatiker, war aber in den letzten 10 Jahren der DDR in Erfurt Fertigungsingenieur in einer bekannten Chipfabrik. Ich war in der Abteilung, in der man von der Fertigung eines Computerchips das Wesentlichste mitbekommt – der „Ätzstrecke“. In dieser Abteilung fand auch die Qualitätskontrolle jeder Ebene der Chips statt. Hier kam es nicht auf Kenntnisse im Chipentwurf an, sondern darauf, die Fertigungstechnologie so umzusetzen, dass die Leiterbahnen in der entsprechenden Qualität aus anspruchsvollen Materialien herausgeätzt wurden. Die Tätigkeit wurde für DDR-Verhältnisse gut bezahlt und fand in Reinst-Räumen statt. Im Nachhinein betrachte ich die 10 Jahre als eine gewisse Entschädigung für das Eingesperrtsein in der „DDR“.

Wie damals fast überall üblich, begann die Frühschicht mit einem lockeren Schwätzchen, natürlich auch über Filme im Westfernsehen. Am Abend zuvor lief „2001: Odyssee im Weltraum“ von Stanley Kubrick. Darin putscht der empfindungsfähige Computer „HAL 9000“ gegen die Raumschiffbesatzung. Mein Einrichter, Herr B., und ich waren wohl die einzigen, die die Relevanz dieses Films für unsere Tätigkeit thematisierten. Mein Fazit war, dass die Besatzung in einer entsprechenden REALEN Situation keine Chance gegen eine dem Menschen überlegene KI gehabt hätte. So haben bis heute alle mir bekannten Romane und Verfilmungen entweder einen für die Menschen positiven oder einen offenen Ausgang. Darüber, was eine über die Weltherrschaft verfügende Allgemeine Künstliche Intelligenz (AKI) danach mit der Menschheit anstellen würde, können wir nur spekulieren.

Der schwedisch-US-amerikanische Kosmologe und Wissenschaftsphilosoph, Max Tegmark, wagt es in seinem populärwissenschaftlichen Buch „Leben 3.0“ und stellt in der deutschsprachigen Ausgabe auf Seite 243 eine Tabelle mit „KI-Nachwirkungsszenarien“ vor. Googeln Sie einfach nach: „max tegmark leben 3.0 ki-nachwirkungsszenarien“! Auf /books.google.de/books werden Sie fündig. Suchen Sie sich Ihr Wunschszenario aus!–) Oder entwickeln Sie eigene Vorstellungen, die dann sowieso nicht realisiert werden!

Noch vor wenigen Jahren wurden Leute, die sich mit solchen Themen ernsthaft beschäftigten; verlacht. Mit dem Erscheinen von „Alexa und Siri“ beginnt sich das langsam zu ändern. „Was passiert, wenn Alexa und Siri sich unterhalten!“?

Realität oder noch lustige Panikmache? Egal, in den nächsten Jahren oder Jahrzehnten wird etwas passieren, was unser Leben grundlegend verändern wird. Hier zwei Tatsachen, die darauf hinweisen:

• Nirgendwo im Kosmos wurde bis jetzt eine intelligente auf BIOLOGIE (DNA) basierende Zivilisation entdeckt. E.T. scheint nicht zu existieren. (Fermi-Paradoxon)

• Die biologische Evolution hat auf unserem Planeten nach dem Prinzip Versuch und Irrtum etwa vier Milliarden Jahre gebraucht, um intelligentes Leben hervorzubringen. Wie lange werden dazu wohl intelligente planvoll vorgehende und von KI unterstützte Menschen benötigen?

Fazit:
Künstliche Intelligenz betrifft uns jetzt schon. Auch "Technikmuffel" kommen daran nicht mehr vorbei.

Kein Supercomputer baut sich selbst zusammen. Diese wird auch nur die Interressen des Programmierers oder des Auftraggebers besser gesagt des Geldgebers durchsetzen. Digitale Zeitgenoss*innen (muss ich so schreiben, weil Gegenstände kein Geschlecht haben) wie Siri, Cortana und Alexa haben eine Aufgabe. Sie sollen für ihre Auftraggeber Informationen sammeln. So eine Schnüffeltante würde sich natürlich kein halbwegs intelligenter Mensch freiwillig kaufen und ins Wohnzimmer stellen. Da braucht man widerum ein Argument um die Leute trotzdem zum Kauf zu bewegen. Bequemlichkeit und Steigerung der Lebensqualität ist natürlich in unserer stressgeplagten Zeit ein absoluter Vermarktungshammer. Für ein paar Informationen nimmt dir die Alexa Dinge wie Zeitmanagement ab und bespaßt dich auch. Sie lernt deine Interressen kennen und kauft für dich ein. Alles was sie an Informationen aufsaugt lädt sie natürlich auf Cloudsysteme hoch. Sprüche wie : "Alexa mach mich reich, berühmt und schön !" werden sich wahrscheinlich eher nicht erfüllen. Das sich so eine Technik verselbständig und aus eigener Kraft gegen den Eigentümer putscht, kann ich mir nicht vorstellen, auch nicht wenn irgendwann mal die Fahrzeug-OBD mit in die allgemeine Vernetzung einbezogen wird, man den Menschen irgendwelche Chips einpflanzt, wie es einige Konzerne wohl schon in ihren Planungsschubladen haben. Die größte Gefahr ist der Missbrauch der Technik durch den Menschen selbst und die maßlose Gier.
https://www.youtube.com/watch?v=RxMMavrRw1E

Die Annahme das die KI immer von Menschen programmiert wird ist falsch. Schon jetzt gibt es selbstlernende Systeme bei denen man nicht immer nachvollziehen kann warum und wie sie auf ihre Ergebnisse kommen. Das ist ein vollkommen logischer Schritt, immerhin ist ja ihr Vorteil das sie mehr und schneller Daten auswerten kann als jeder Mensch.

Problematisch wird das wenn wir Computer bei Versicherungen, Krankenkassen und Zahlungssystemen sitzen haben die sich vielleicht auch noch austauschen. Technisch ist das alles kein Hexenwerk. Zb 3 Bier zuviel gekauft und schon steigert die Krankenkasse die Risikogruppe und die Beitragshöhe.
Eigentlich eine gruslige Sache aber letztendlich ist das der nächste logische Schritt und ehrlich gesagt gruselt mir davor.
Siehe China mit seinem Social Credit System wo man stellenweise keine Kreidite mehr kriegt, nicht mehr fliegen darf und selbst die Bahn dich nicht mehr befördert weil die Punktzahl zu niedrig ist und suggeriert das du dich nicht "gefällig" verhalten hast.

Der Youtube Link ist schräg. Denn das erste was Alexa in ihrem "Leben" erfährt ist der Name und die Adresse des Besitzers.
Mal abgesehen davon ist gerade Alexa dumm wie Brot, das Ding ist im Prinzip nur ein Mikrofon und Lautsprecher an nem langen Kabel.
Wir könnten das gerne Episch auf technischer Ebene diskutieren (finde ich wirklich interessant) im Prinzip ist aber das Ding wenig aufregend.

Ja Alexa ist wirklich dumm wie Brot. Das ist jede Maschine. Das Gefährliche ist der Mensch der dahinter sitzt, die gesammelten Daten auswertet und festlegt, was die Maschine tut. Krankenkasse und auch Social Credit da steckt immer ein solches Script dahinter was Entscheidungen anhand von Ereignissen trifft "For Schleife" oder "If then else" . Das sind einfache Bausteine aus der Befehlsreferenz eines jeden Betriebssystems. Mehr geht da nicht. Man kann Peripherie wie Sensoren als Eingang und Schrittmotoren als Ausgang dranhängen, Befehle kombinieren, in Variablen zusammenfassen, etwas auslesen lassen und daraus bestimmte Interaktionen ableiten. Man landet immer wieder beim Terminal, wo man das Script bearbeiten, starten und beenden kann. Dort legt der Programmierer fest, was wann passiert. Es gibt zwar Befehle mit denen man auch zufällige Komponenten einbauen kann. Das ist dann aber weit weg von KI. Es gibt auch kein Kommando, wie "Do what you think" welches einen Computer dazu bewegt eine eigene sinnvolle Entscheidung zu treffen, ähnlich wie beim menschlichen Gehirn. Man kann es mit einem Strategiespiel gegen den Computer vergleichen. Wenn man exakt die selbe Aktion durchführt, wird der PC immer exakt die selbe Antwort liefern. Das menschliche Gehirn entwickelt sich permanent. Es lernt. Das kann man zwar auch mit einem Computersystem machen aber wie gesagt es braucht immer jemanden, der diesem Teil seinen individuellen menschlichen Stempel draufdrückt oder es von der Ferne steuert. Die wichtigste Frage bleib : Wie weit ist die Menschheit bereit zu gehen, ihr Schicksal in die Hände einzelner zu legen ? Man kann zwar durch sammeln von Daten und Profiling dieses System immer weiter perfektionieren, zieht man jedoch den Stecker hat man wieder einen "Halbleiterfriedhof" und das vom Menschen gemachte Script.

Die Erschaffung einer autonomen übermenschlichen Allgemeinen Künstlichen Intelligenz ist so unwahrscheinlich wie die Entwicklung eines autonomen intelligenten Menschen aus der Verschmelzung von Ei- und Samenzelle.