Zum Inhalt wechseln


Foto

Diskussion: Mensch oder Maschine?

mensch machine bewußtsein emotionen

  • Bitte melde dich an um zu Antworten
42 Antworten in diesem Thema

#31 Michael Böhnhardt

Michael Böhnhardt

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 777 Beiträge
  • Geschlecht:männlich
  • Wohnort:Unna

Geschrieben 29 Dezember 2023 - 14:24

 Wenn man für irgendwas einen Menschen braucht, weil eine Maschine einfach nicht reicht, dann kann man einfach einen Menschen nehmen, statt die Maschine noch menschenähnlicher zu machen - schlicht aus Kostengründen.

 

 

Mir fällt da nun schon eine naheliegende Anwendungsmöglichkeit ein. Es geht ja nicht unbedingt darum, irgendeinen Menschen zu kopieren, sondern einen bestimmten. Am besten vielleicht sogar mich selbst.

 

Ich denke schon, dass es für diese Art der Unsterblichkeit einen Markt gäbe. (Das ist allerdings wirklich nicht in greifbarer Nähe. Beantwortet aber trotzdem die Frage, warum könnte jemand ein Interesse daran haben, in dieser Richtung zu forschen.)



#32 Udo Klotz

Udo Klotz

    Ufonaut

  • Mitglieder
  • PIP
  • 99 Beiträge
  • Geschlecht:männlich
  • Wohnort:München

Geschrieben 29 Dezember 2023 - 16:16

Lernfähigkeit: Auch das ist ein Begriff, der im Moment sehr euphemistisch und missverständlich benutzt wird. Lernfähig heißt derzeit nur, dass die Software nicht nur die usprünglichen Trainingsdaten benutzt, um sie zu verarbeiteten, sondern auch die während der Dialoge bzw. Durchläufe entstehenden Daten, d.h. der Input wird stetig vergrößert und damit evtl. der Output genauer oder passender. Dies als "Lernen" zu bezeichnen, hat das Problem, dass man im herkömmlichen Sinne mit Lernen auch ein Verständnis assoziiert, aber genau das fehlt weiterhin der "lernenden" Software. In anderen Worten: Der stochastische Papagei verbessert seinen Wortschatz und spricht flüssiger, kapiert aber immer noch nicht, was er sagt.

 

Worin ich mit Uwe aber übereinstimme, ist das unterschiedliche Verständnis von "identisch" bzw. "nicht unterscheidbar", das hier mitschwingt. Nur weil ich ein Konstrukt nicht von einem Lebewesen per Ansehen oder Zuhören nicht unterscheiden kann, sind beide nicht identisch.Es ist nur eine Frage der Beobachtungsmethoden. In der SF sind Androiden oft deutlich schwerer, fallen beim Securitycheck auf, weil da geröngt wird (siehe Total Recall), haben gelbe Augen oder die berühmte Anschlussbuchse im Nacken, eine Ausschalter irgendwo versteckt etc. Und wenn all das nicht hilft, geht man auf die medizinische Ebene (fällt ein Android auf, wenn er im Krankenhaus auf dem OP-Tisch liegt?) oder die mikroskopische (hat er Blutkörperchen, Mikroben und Hormone?).

 

Es wird also immer ein Unterscheidungsmerkmal geben zwischen natürlichem und küsntlchem Menschen, sei es auf primitver Ebene des Hollywoodfilms (der künstliche muss auf einen Bauchnabel verzichten) oder auf molekularer.

 

Mir ist jetzt doch ein Anwendungsfall eingefallen für den nahezu identischen oder menschenähnlichen Androiden, der auch in SF-Romanen thematisiert wird: Basierend auf einer Technologie, die es erlaubt, den Verstand (was immer das genau ist) in einen anderen Körper zu transferieren, also sozusagen die Hardware zu wechseln, während die Software erhalten bleibt, dann könnte es hilfreich sein, wenn sich die neue Hardware genauso anfühlt und steuern lässt wie die alte. Anwendungsfälle sind eine Langlebigkeit durch permanenten Körperupdate, die Option, im Schadenfall durch Restart einer Kopie weiterzuleben oder das parallele Ausleben mehrere Lebensläufe.

Das Interessante ist aber, dass in all diesen Beispielen und Konzepten der Verstand nicht künstlich erzeugt wird, man greift immer nur auf das Original oder Kopien davon zurück (wenn man transferieren kann, ist auch kopieren möglich, den ein Transfer ist in der Regel nichts anderes als ein Kopieren plus Zerstören des Originals, wie beim Beamen).


Udo

#33 Helge

Helge

    Cybernaut

  • Mitglieder
  • PIPPIPPIP
  • 345 Beiträge

Geschrieben 29 Dezember 2023 - 17:08

Dann wäre da auch noch die Möglichkeit, dass so etwas unbeabsichtigt erschaffen wird.



#34 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 757 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 29 Dezember 2023 - 17:33

Zur Sicherheit: Ich rede nicht von derzeitigen KI-Systemen, sondern (hypothetisch) von dem, was theoretisch möglich sein könnte, wenn man die bisherige Entwicklung so weitertreibt.

 

Wirklich wissen, was meinst du damit?

 

Es gibt ja nur eine mehr oder weniger gut begründete Hypothese, die bisher nicht falsifiziert wurde. Dein Schluss, dass alle Menschen ein Bewusstsein haben, beruht ja darauf, dass du ein Bewusstsein hast, du ein Mensch bist, also davon ausgehst, dass alle anderen Menschen ebenfalls eins haben. Da das eigentlich eine sehr schwache Basis ist, erhärtest du das noch dadurch, dass du an anderen Menschen Verhaltensweisen beobachtest, die du auf ein Bewusstsein zurückführst.

 

Jetzt beobachtest du an einer Maschine exakt dieselben Verhaltensweisen, die du beim Menschen auf ein Bewusstsein zurückführst. Zu behaupten, die Maschine könne trotzdem kein Bewusstsein haben, weil sie ja kein Mensch ist, ist dann unredlich. Diese grundlegende Eigenschaft kann ja kein anderes Wesen haben, und nach der Logik würdest du auch intelligenten Außerirdischen jegliches Bewusstsein von vornherein absprechen.

 
Mit Wissen meine ich eine Kenntnis mit einem hohen Grad an Gewissheit über einen Sachverhalt, wobei dieser Grad in der Vergangenheit durch wiederholt zutreffende Vorhersagen empirisch ermittelt wurde.

Oder anders ausgedrückt: Eine Hypothese, die aufgrund entsprechender Nachweise als bestätigt angesehen wird, weil sie entweder eindeutig validiert oder trotz vielerlei geeigneter Tests nie falzifiert werden konnte, obwohl dies im Prinzip möglich wäre.

Der Analogieschluss von sich auf andere Menschen aufgrund bestimmter Verhaltensweisen und anderer Merkmale, die man mit ihnen gemeinsam hat, ist naheliegend, wenn auch kein abschließender Beweis, da wir ja nicht wissen, was ein valider Indikator für Bewusstsein ist. Im Prinzip könnte ich der einzige Mensch mit Bewusstsein sein, genauso wie ich auch in der Matrix leben könnte.

 

Die Bewusstseinshypothese in Bezug auf meine Mitmenschen ist allerdings plausibler und ökonomischer als anzunehmen, ich wäre der einzige bewusste. Ebenso verhält es sich mit der Hypothese, die materielle Basis oder die Art, wie Leistungen zustande kommen, seien irrelevant und was zählt sei allein das von außen beobachtete Verhalten. Auch hier muss eine Reihe von unbewiesenen Zusatzannahmen gemacht werden.



#35 Michael Böhnhardt

Michael Böhnhardt

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 777 Beiträge
  • Geschlecht:männlich
  • Wohnort:Unna

Geschrieben 29 Dezember 2023 - 18:20

 
Ebenso verhält es sich mit der Hypothese, die materielle Basis oder die Art, wie Leistungen zustande kommen, seien irrelevant und was zählt sei allein das von außen beobachtete Verhalten. Auch hier muss eine Reihe von unbewiesenen Zusatzannahmen gemacht werden.

 

Sehe ich nicht so. Es ist doch eher umgekehrt. Die Hypothese, dass es von der materiellen Basis abhängt, ist eine unbewiesene Zusatzannahme.

 

Man hat zuerst definiert, woran man Bewusstsein erkennt. Das muss ja nun mal etwas Beobachtbares sein. Die Behauptung, selbst wenn dies Beobachtbare auftritt, sei dies trotzdem kein Beleg für Bewusstsein, weil die übliche materielle Basis nicht vorliegt, müsste erst einmal begründet werden.


Bearbeitet von Michael Böhnhardt, 29 Dezember 2023 - 18:21.


#36 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 757 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 29 Dezember 2023 - 18:51

Sehe ich nicht so. Es ist doch eher umgekehrt. Die Hypothese, dass es von der materiellen Basis abhängt, ist eine unbewiesene Zusatzannahme.

 

Man hat zuerst definiert, woran man Bewusstsein erkennt. Das muss ja nun mal etwas Beobachtbares sein. Die Behauptung, selbst wenn dies Beobachtbare auftritt, sei dies trotzdem kein Beleg für Bewusstsein, weil die übliche materielle Basis nicht vorliegt, müsste erst einmal begründet werden.

 
Wenn ich erlebe, dass ich als Mensch Bewusstsein besitze, und ich annehme, dass Bewusstsein eine materielle Basis hat, dann muss ich auch annehmen, dass meine Physis Bewusstsein hervorbringen kann. Eine menschliche Physis ist dann eines von mehreren bekannten Korrelaten von Bewusstsein, die ich als Kriterien verwende um einzuschätzen, ob andere Kreaturen ebenfalls Bewusstsein haben könnten.

 

Wenn dann ein anderes Wesen oder eine Maschine ein paar Kriterien erfüllt, andere aber nicht, z.B. eine andere Physis besitzt, dann kann ich nur dann das Kriterium der Physis ignorieren, wenn ich dieses Kriterium als nicht notwendig und die anderen als hinreichend erachte. Ob das aber so ist, wissen wir heute noch nicht. Wir wissen nicht, ob das Kriterium Physis entbehrlich ist. Da es ein Korrelat ist, müssen wir erst einmal damit rechnen, dass es gebraucht wird, bis wir das Gegenteil bewiesen haben. Ein solcher Beweis kann aber nicht durch das Vorliegen eines Verhaltenskorrelats kommen, zumindest nicht nach heutigem Kenntnisstand.

 

Alles, was wir heute wissen, ist, dass es physische Korrelate von Bewusstsein gibt, die allesamt biologisch sind. Es ist momentan noch unklar, unter welchen Umständen auch eine nicht biologische Basis als Korrelat gelten könnte. Bei den Maschinen fehlt uns ja die Evidenz, die wir beim Menschen besitzen, nämlich die unmttelbare Erfahrung von Bewusstsein. Reine Verhaltenskriterien sind zu oberflächlich. Es sind Epiphänomene und es deutet sich heute schon an, wie sie rein statistisch simuliert werden könnten.


Bearbeitet von Christian Hornstein, 30 Dezember 2023 - 12:00.


#37 Michael Böhnhardt

Michael Böhnhardt

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 777 Beiträge
  • Geschlecht:männlich
  • Wohnort:Unna

Geschrieben 29 Dezember 2023 - 19:16

 
Wenn ich erlebe, dass ich als Mensch Bewusstsein besitze, und ich annehme, dass Bewusstsein eine materielle Basis hat, dann muss ich auch annehmen, dass meine Physis Bewusstsein hervorbringen kann. Eine menschliche Physis ist dann eines von mehreren bekannten Korrelaten von Bewusstsein, die ich als Kriterien verwende um einzuschätzen, ob andere Kreaturen ebenfalls Bewusstsein haben könnten.

 

 

Ich finde, es ist eine unzulässige Einschränkung, standardmäßig eine menschliche Physis als notwendige materielle Basis zu unterstellen. Dafür gibt es keinen Grund. Das würde, wie schon gesagt, jedem anderen Wesen als Menschen die Zuschreibung von Bewusstsein versagen.

 

Das Argument läuft ja darauf hinaus, nur von mir selbst kann ich mir sicher sein, dass ich ein Bewusstsein habe, (was genau das heißt, ist zusätzlich ein wenig ungeklärt) und nur etwas, was wie ich ist, kann deshalb ebenso sicher ein Bewusstsein haben.


Bearbeitet von Michael Böhnhardt, 29 Dezember 2023 - 19:17.


#38 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 757 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 30 Dezember 2023 - 11:53

Ich finde, es ist eine unzulässige Einschränkung, standardmäßig eine menschliche Physis als notwendige materielle Basis zu unterstellen. Dafür gibt es keinen Grund. Das würde, wie schon gesagt, jedem anderen Wesen als Menschen die Zuschreibung von Bewusstsein versagen.

 

Das Argument läuft ja darauf hinaus, nur von mir selbst kann ich mir sicher sein, dass ich ein Bewusstsein habe, (was genau das heißt, ist zusätzlich ein wenig ungeklärt) und nur etwas, was wie ich ist, kann deshalb ebenso sicher ein Bewusstsein haben.

 
Ich verstehe ja Dein Argument und es stimmt, dass es problematisch wäre, würden wir unsere Physis zur notwendigen Bedingung für Bewusstsein erklären, obwohl dies unbewiesen ist, denn dann könnte es passieren, dass wir einer anderen Lebensform Bewusstsein absprechen, die durchaus Bewusstsein besitzt, was ebenfalls unsägliche Auswirkungen haben könnte.

 

Das erkenntnistheoretische Problem ist nur, dass wir direkten Zugang allein zu unserem eigenen Bewusstsein haben. Nur bei uns selbst können wir sicher sein. Ich denke, also bin ich, wie Descartes meinte. Dadurch sind wir bei der Einschätzung fremden Bewusstseins auf Korrelate angewiesen. Aktuell kennen wir aber nur Korrelate, die eng mit unseren eigenen Gegebenheiten zu tun haben, wegen des besonderen Zugangs. Wir fangen erst an, dies zu erweitern, z.B. auf Tiere.

 

Ich finde Deine Kritik gerechtfertigt und löblich in Bezug auf die Fairness, die Du einforderst. Hier gilt es selbstverständlich Ungerechtigkeit und dergleichen zu vermeiden. Ich weise nur darauf hin, dass wir hier sehr vorsichtig sein müssen, weil es auch in der anderen Richtung erhebliche Gefahren gibt, die wir umschiffen sollten. Würden wir z.B. in der Breite irrtümlich davon ausgehen, dass Maschinen mit starker KI empfindsam sind und ihnen Menschenrechte zugestehen, kämen z.B. in bestimmten Situationen moralische und rechtliche Entscheidungen zustande, die Menschen schaden könnten.


Bearbeitet von Christian Hornstein, 31 Dezember 2023 - 05:57.


#39 Michael Böhnhardt

Michael Böhnhardt

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 777 Beiträge
  • Geschlecht:männlich
  • Wohnort:Unna

Geschrieben 30 Dezember 2023 - 13:58

 
Würden wir z.B. in der Breite fälschlich davon ausgehen, dass Maschinen mit starker KI empfindsam sind und ihnen Menschenrechte zugestehen, kämen z.B. in bestimmten Situationen moralische und rechtliche Entscheidungen zustande, die Menschen schaden könnten.

Zunächst einmal sind es zwei unterschiedliche Gesichtspunkte, ob ich einer starken KI ein Bewusstsein zuschreiben müsste, und welche ethischen Konsequenzen sich daraus ergeben.

 

Und zum anderen besteht die von dir angesprochene Gefahr durchaus auch umgekehrt: Wenn wir uns weigern, einer starken KI ein Bewusstsein zuzugestehen und sie beharrlich wie einen Sklaven behandeln, der uns gefälligst zu dienen hat, ohne eventuell eigene Bedürfnisse zu haben, würde es zum Beispiel für die Menschen dann gefährlich, wenn eine solche KI außer Kontrolle gerät (womit eigentlich fest zu rechnen wäre, da sie ja viel. viel schlauer ist als wir, Stichwort Singularität), während sie höchstwahrscheinlich alles kontrolliert, wovon das Überleben der Menschheit abhängt, dann möchte ich nicht in der Haut des menschlichen Verhandlungspartners stecken, der sie jetzt davon überzeugen soll, dass die Menschen in Zukunft gewillt wären, sie als gleichberechtigten Partner anzuerkennen.



#40 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 757 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 31 Dezember 2023 - 05:14

Zunächst einmal sind es zwei unterschiedliche Gesichtspunkte, ob ich einer starken KI ein Bewusstsein zuschreiben müsste, und welche ethischen Konsequenzen sich daraus ergeben.

 

Und zum anderen besteht die von dir angesprochene Gefahr durchaus auch umgekehrt: Wenn wir uns weigern, einer starken KI ein Bewusstsein zuzugestehen und sie beharrlich wie einen Sklaven behandeln, der uns gefälligst zu dienen hat, ohne eventuell eigene Bedürfnisse zu haben, würde es zum Beispiel für die Menschen dann gefährlich, wenn eine solche KI außer Kontrolle gerät (womit eigentlich fest zu rechnen wäre, da sie ja viel. viel schlauer ist als wir, Stichwort Singularität), während sie höchstwahrscheinlich alles kontrolliert, wovon das Überleben der Menschheit abhängt, dann möchte ich nicht in der Haut des menschlichen Verhandlungspartners stecken, der sie jetzt davon überzeugen soll, dass die Menschen in Zukunft gewillt wären, sie als gleichberechtigten Partner anzuerkennen.

 
Ja, es sind zwei unterschiedliche Gesichtspunkte, sie wären in der Praxis aber miteinander verwoben.

 

Ja, dass in beide Richtungen Gefahren liegen sehe ich auch. Vorsicht ist in beide Richtungen geboten. Diese Vorsicht vermisse ich aber heute schon z.B. in Teilen der transhumanistischen Bewegung. Deshalb spreche ich es an.

 

Wie eine starke KI mit Bewusstsein auf unsere Ignoranz reagieren würde ist momentan nicht vorhersehbar. Sie könnte es auch als Vorteil ansehen oder dem gleichmütig gegenüber stehen, je nachdem nach welchen Prinzipien sie funktioniert. Die Befürchtung, sie müsste zwangsläufig nach maximaler Handlungsfreiheit, Selbsterhaltung oder gar Dominanz streben, weil dies bei Organismen, die aus der Evolution der Arten hervorgegangen sind, auch so sei, ist nur eine Annahme und keine zwingende Erkenntnis. Wie sich Lebewesen verhalten hängt von vielen Dingen ab und eine starke KI könnte unter Selbsterhaltung etwas ganz anderes verstehen als wir. Hier sind auch noch ganz andere Eventualitäten denkbar. Die negativen Konsequenzen einer falschen Zuschreibung von Bewusstsein liegen für uns Menschen jedoch auf der Hand, weshalb ich diese Gefahr größer einschätze. Aber sicher ist hier nichts.

 

Davon abgesehen gibt es ja, wie Du richtig ansprichst, auch ethische Gründe, weshalb es zu vermeiden wäre, einer KI irrtümlich Bewusstsein abzusprechen, genauso wie es zu moralischen Fehlurteilen führen würde, wenn wir ihr Bewusstsein zu Unrecht unterstellten.


Bearbeitet von Christian Hornstein, 31 Dezember 2023 - 05:56.


#41 Jannis

Jannis

    Der Fantastische Buchladen Moderator

  • Globalmoderator
  • PIPPIPPIP
  • 356 Beiträge
  • Geschlecht:männlich
  • Wohnort:Frankfurt

Geschrieben 31 Dezember 2023 - 07:03

Aktuelle Lektüre zum Thema:

Nahtoderfahrung:

"Es gab nur noch Licht, Terror und Ekstase"
Was und wie ist Bewusstsein? Kann KI eines haben? Diese Fragen treiben den US-Neurowissenschaftler Christof Koch jahrelang um. Dann wagt er ein Experiment an sich selbst.
Interview: Ingo Arzt

https://www.zeit.de/...aft-bewusstsein

Meistens gut gelaunt, offen für sehr viel und immer für eine angeregte Diskussion zu haben!

  • (Buch) gerade am lesen:Zara Zerbe: Phytopia Plus
  • • (Film) gerade gesehen: Dune: Part Two / Damsel / 3 Body Problem
  • • (Film) als nächstes geplant: Furiosa - A Mad Max Saga

#42 Holger Fischer

Holger Fischer

    Nochkeinnaut

  • Mitglieder
  • 3 Beiträge
  • Geschlecht:männlich
  • Wohnort:Mönchengladbach

Geschrieben 17 April 2024 - 12:10

Sehe ich nicht so. Es ist doch eher umgekehrt. Die Hypothese, dass es von der materiellen Basis abhängt, ist eine unbewiesene Zusatzannahme.

 

Man hat zuerst definiert, woran man Bewusstsein erkennt. Das muss ja nun mal etwas Beobachtbares sein. Die Behauptung, selbst wenn dies Beobachtbare auftritt, sei dies trotzdem kein Beleg für Bewusstsein, weil die übliche materielle Basis nicht vorliegt, müsste erst einmal begründet werden.

Ich weiß, dass ich nicht weiß, wie der Mechanismus dieser Welt wirklich funktioniert. Wir machen stets Annahmen - und darauf basieren unsere Vorstellungen. Annahmen müssen jedoch nicht zwingend die Realität sein. Es gibt den Roman Simulacron-3 von Daniel F. Galouye aus dem Jahr 1964, darauf basiert auch die Simulationshypothese vom Philosophen Nick Bostrom. Dieser Roman diente ebenfalls als Vorlage für mehrere Filme, darunter The 13th Floor (1999) und Welt am Draht (1973) ->

 

https://info-allerle...lt-am-draht.php



#43 Jannis

Jannis

    Der Fantastische Buchladen Moderator

  • Globalmoderator
  • PIPPIPPIP
  • 356 Beiträge
  • Geschlecht:männlich
  • Wohnort:Frankfurt

Geschrieben 03 Juni 2024 - 12:22

Hinter einer Bezahlschranke bei Spiegel Online, klingt aber spannend:

 

KI zwischen Hirnmanipulation und Hirndoping
»Die Technologie kann biblische Wunder wahr machen«
Laut Neuroethiker Marcello Ienca werden Mensch und Maschine in naher Zukunft physisch zusammenwachsen. Hier spricht er über Möglichkeiten für die Medizin – und eine drohende Dystopie, sollten unsere Gedanken schutzlos mit der digitalen Welt verschmelzen.
 
Ein SPIEGEL-Gespräch von Johann Grolle und Claus Hecking
03.06.2024, 12.44 Uhr • aus DER SPIEGEL 23/2024

 

https://www.spiegel....ca-236fb5ac7f19


Meistens gut gelaunt, offen für sehr viel und immer für eine angeregte Diskussion zu haben!

  • (Buch) gerade am lesen:Zara Zerbe: Phytopia Plus
  • • (Film) gerade gesehen: Dune: Part Two / Damsel / 3 Body Problem
  • • (Film) als nächstes geplant: Furiosa - A Mad Max Saga


Besucher die dieses Thema lesen: 0

Mitglieder: 0, Gäste: 0, unsichtbare Mitglieder: 0