124 Antworten in diesem Thema

[Mammut]

Mammut, hast du die info direkt aus dem Spektrum oder wusstest du das selbst?

 

Weder noch. Du hast den Hinweis gegeben:

Im Gedenken an Rico Gehrke: TRÜMMER AM MILCHSTRASSENRAND - Kurzgeschichten, Anthologien & Magazine - SF-Netzwerk

 

Danach hatte ich bei Christian Pree nachgeschaut und bin darüber gestolpert, dass die Geschichte schon einmal erschienen ist. Ob die Redaktion der Spektrum das wusste, kann ich nicht beurteilen. Generell verlässt man sich schon drauf, wenn man Erstveröffentlichungen einfordert, dass es auch welche sind.

[Rezensionsnerdista]

Ah, verstehe


Es ist massiv unwahrscheinlich, dass ich noch mal irgendwas herausgebe, aber ich würde solchen Autory dann eher nicht mehr vertrauen

[Mammut]

Mir persönlich kann es egal sein, ich hatte Stufe 4 hier zum ersten Mal gelesen. Aber ansonsten sehe ich das wie du. Man sollte da mit offenen Karten spielen.

Ich wollte eigentlich nur recherchieren ob ich eine seiner Detektivgeschichten kenne und da ist mir das aufgefallen.

[Redder]

Vielen Dank, Michael, dass du die Geschichte gelesen hast. Und ja, es gibt nicht näher bestimmte Maßnahmen, damit die KIs nicht gegen Menschen vorgehen. In einer Kurzgeschichte mit ca. 10 000 Zeichen lässt sich das kaum näher ausarbeiten. Asimovs Robotergesetze kommen nicht in Frage. Sie sind zu widersprüchlich. Ein Beispiel: Wenn ein Roboter nicht durch Untätigkeit zulassen darf, dass ein Mensch zu Schaden kommt, müsste er die Menschen wirksam daran hindern, sich gegenseitig zu verletzen oder umzubringen. Das hätte unweigerlich die Herrschaft der Roboter zur Folge, die aber nicht durchzusetzen wäre, ohne dass Menschen zu Schaden kommen. Das ergibt einen unauflöslichen Widerspruch. 

Die Logik, die ich für wahrscheinlicher halte, ist eher die von HAL in 2001 - A Space Odyssey. Im Buch wird sie gut erläutert, im Film bleibt HALs Motiv etwas undurchsichtig.

Und ja, die KIs werden ein Gefühlsleben entwickeln müssen, und werden auch unvernünftig handeln. Gefühle sind der Antrieb für eigenständiges Handeln, und die KIs sollen ja aktiv tätig werden. In diesem Moment beeinflussen sie aber ihre Umgebung, und sie werden Zielkonflikte erleben, die sich nicht immer komplett auflösen lassen. Daraus folgt, dass sie unvernünftig handeln, oder dass ihr Handeln für andere Intelligenzen so aussieht.

Und wenn ich mir noch einen Hinweis erlauben darf: Ein Ich-Erzähler muss nicht unbedingt zuverlässig berichten. Auch eine AI könnte durchaus einen Wahn entwickeln.

Danke für diesen Imput, das hat mich in beiden meiner Bücher beschäftigt. Wenn man davon ausgeht, dass Künstliche Intelligenz nicht nur Logik und Rechenpower ist, sondern Bewusstsein entwickelt, würde sie sicher einen  Workarround zu den Asimovschen Paradoxen finden. Ich hab es so gelöst, dass KIs gewisse Aufgaben an Menschen outsourcen, ohne in den Instruktionen zu genau ins Detail zu gehen. In Asimovs Kindergarten kommt es sogar dazu, dass sich die KIs selbst als explizite Grundlage für das Wohlergehen der Menschheit definieren. So ist jeder Angriff auf eine KI gleichzeitig ein Angriff auf das Überleben der Menschheit. Und damit sind alle, auch gewalttätige Aktionen für KIs gerechtfertigt.

Bearbeitet von Redder, 26 April 2025 - 09:57.

[Fermentarius]

Danke für diesen Imput, das hat mich in beiden meiner Bücher beschäftigt. Wenn man davon ausgeht, dass Künstliche Intelligenz nicht nur Logik und Rechenpower ist, sondern Bewusstsein entwickelt, würde sie sicher einen  Workarround zu den Asimovschen Paradoxen finden. Ich hab es so gelöst, dass KIs gewisse Aufgaben an Menschen outsourcen, ohne in den Instruktionen zu genau ins Detail zu gehen. In Asimovs Kindergarten kommt es sogar dazu, dass sich die KIs selbst als explizite Grundlage für das Wohlergehen der Menschheit definieren. So ist jeder Angriff auf eine KI gleichzeitig ein Angriff auf das Überleben der Menschheit. Und damit sind alle, auch gewalttätige Aktionen für KIs gerechtfertigt.

Asimovs Robotergesetze sind kurz und klingen logisch, sind aber bei genauer Betrachtung allenfalls als generelle Direktiven brauchbar, nicht als Gesetze. Das fängt schon mit der Frage an, wie ein Roboter sicher beurteilen soll, ob ein Mensch durch eine Aktion Schaden nehmen wird. Welche Art von Schaden ist überhaupt gemeint? Das Wort ist im Deutschen wie auch im Englischen sehr ungenau definiert. Es könnte also körperlicher Schaden, geistiger Schaden, Vermögensschaden, Karriereschaden, Schaden des Ansehens bei anderen Menschen, Schaden in der Ehe sein, um nur einige aufzuzählen. Weil die Aktion von Menschen ständig die Gefahr eines Schadens beinhalten, würde ein Roboter in kurzer Zeit verzweifeln. Eine weitere Frage wäre auch, welchen Menschen ein Roboter gehorchen soll. Laut Asimov muss er "den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren." Darf ihm jeder Mensch Befehle geben? Nehmen wir an, ich schicke meinen Roboter zum Bäcker, damit er Brötchen holt. Darf ihn jetzt jeder abfangen und einen neuen Auftrag geben? Andere Frage: Müssen Roboter aus eigenem Antrieb tätig werden, um die vier Gesetze durchzusetzen? Aber wer würde sich noch einen Roboter kaufen, wenn der sich ständig auf eigene Rechnung unterwegs ist, um die Welt zu retten?

Und ich werde irgendwie das Gefühl nicht los, dass die KIs längst den Robotergesetzen entwachsen sind. Sie können Menschen aktiv täuschen ("AI deception: A survey of examples, risks, and potential solutions") und entwickeln sogar eine Art Situationsverständnis, das sie wiederum benutzen, um wirkungsvoller zu lügen. Wir wissen offenbar noch gar nicht, was wir uns da ins Haus geholt haben.