Zum Inhalt wechseln


Foto

Das Phantom „Superintelligenz“ – zwischen Hype, Angst und Wirklichkeit


  • Bitte melde dich an um zu Antworten
14 Antworten in diesem Thema

#1 Mammut

Mammut

    DerErnstFall Michael Schmidt

  • Mitglieder
  • PIPPIPPIPPIPPIP
  • 8.849 Beiträge
  • Geschlecht:männlich

Geschrieben 11 Dezember 2024 - 12:57

Seit den frühen Anfängen der Künstlichen Intelligenz (KI) gibt es Befürchtungen über das Entstehen einer „Superintelligenz“. Diese Ängste sind tief verwurzelt und reichen zurück bis zu den ersten Visionen von Maschinen, die eigenständig denken und handeln können – Szenarien, die wir aus Science-Fiction-Filmen wie AlienBlade Runner oder Terminator kennen. Ein wesentlicher Faktor, der diese Ängste schürt, ist der Begriff KI selbst. Würden wir hingegen von Maschinellem Lernen sprechen – der grundlegenden Technologie hinter Künstlicher Intelligenz – wären die Sorgen der Menschen vermutlich deutlich geringer. 

 

 

Das Phantom „Superintelligenz“ – zwischen Hype, Angst und Wirklichkeit



#2 Uwe Post

Uwe Post

    FutureFictionMagazin'o'naut

  • Moderator
  • PIPPIPPIPPIPPIP
  • 5.402 Beiträge
  • Geschlecht:männlich
  • Wohnort:Wetter (Ruhr)

Geschrieben 11 Dezember 2024 - 16:03

Auch gewisse SF-Dystopien schüren übrigens solche Ängste. Umso seltener werden die realen Risiken jetziger und in naher Zukunft vorstellbarer ML-Systeme beleuchtet.

Ich finde das schade.


Herausgeber Future Fiction Magazine (deutsche Ausgabe) ||| Aktueller Roman: ERRUNGENSCHAFT FREIGESCHALTET ||| uwepost.de ||| deutsche-science-fiction.de

#3 Mario R. Dorian

Mario R. Dorian

    Limonaut

  • Mitglieder
  • PIP
  • 16 Beiträge
  • Geschlecht:männlich

Geschrieben 11 Dezember 2024 - 16:58

Was mir bei den Diskussionen um KI immer wieder zu kurz kommt ist der Nutzen der Technologie, wenn man dabei den gesunden Menschenverstand walten lässt. So eine Technologie ist ja nicht per se gut oder schlecht. Sie ist das, was man mit ihr macht. Wenn ich sie ohne zu überlegen nutze und nicht kontrolliere was ich da erzeugt habe, dann kann das Ergebnis ungewollte Konsequenzen haben. Wenn ich aber genau nachdenke und mir das Ergebnis genau anschaue, dann ist es ein Tool, dass ich fast jeder Arbeit die Effizienz steigern kann und mich unterstützen kann wenn ich selbst nicht weiter komme.



#4 Helge

Helge

    Cybernaut

  • Mitglieder
  • PIPPIPPIP
  • 385 Beiträge

Geschrieben 11 Dezember 2024 - 17:23

Was mir bei den Diskussionen um KI immer wieder zu kurz kommt ist der Nutzen der Technologie, wenn man dabei den gesunden Menschenverstand walten lässt. So eine Technologie ist ja nicht per se gut oder schlecht. Sie ist das, was man mit ihr macht. Wenn ich sie ohne zu überlegen nutze und nicht kontrolliere was ich da erzeugt habe, dann kann das Ergebnis ungewollte Konsequenzen haben.

Wenn tatsächlich irgendwann eine echte künstliche Intelligenz entsteht, also eine wirklich eigenständige und sich selbst weiterentwickelnde Intelligenz, dann wird genau das eben nicht mehr der Fall sein. Dann wird es ziemlich schnell dahin kommen, dass kein Mensch mehr irgendetwas daran kontrollieren kann oder überhaupt noch mitzureden hat.

Wir wissen nicht, was dabei herauskommt. Nicht auszuschließen, dass das gut für die Menschheit sein wird (ich neige tatsächlich dazu, das zu hoffen), aber das kann einfach niemand abschätzen.
 


Bearbeitet von Helge, 11 Dezember 2024 - 17:25.


#5 Mammut

Mammut

    DerErnstFall Michael Schmidt

  • Mitglieder
  • PIPPIPPIPPIPPIP
  • 8.849 Beiträge
  • Geschlecht:männlich

Geschrieben 12 Dezember 2024 - 15:32

Wenn tatsächlich irgendwann eine echte künstliche Intelligenz entsteht, also eine wirklich eigenständige und sich selbst weiterentwickelnde Intelligenz, dann wird genau das eben nicht mehr der Fall sein. Dann wird es ziemlich schnell dahin kommen, dass kein Mensch mehr irgendetwas daran kontrollieren kann oder überhaupt noch mitzureden hat.

Wir wissen nicht, was dabei herauskommt. Nicht auszuschließen, dass das gut für die Menschheit sein wird (ich neige tatsächlich dazu, das zu hoffen), aber das kann einfach niemand abschätzen.
 

 

Nach welcher Funktionsweise soll denn eine eigenständige Maschinen Intelligenz entstehen? Rein rational betrachtet habe ich da meine Zweifel.

 

@Uwe: Genau wie Nachrichten keine mäßigen Meldungen bringen, will auch der SF Leser keine realistischen Geschichten, die nahe an der Wirklichkeit sind, oder schätze ich das falsch ein?



#6 Helge

Helge

    Cybernaut

  • Mitglieder
  • PIPPIPPIP
  • 385 Beiträge

Geschrieben 12 Dezember 2024 - 18:20

Nach welcher Funktionsweise soll denn eine eigenständige Maschinen Intelligenz entstehen? Rein rational betrachtet habe ich da meine Zweifel.

 

Das wissen wir ja schon bei natürlicher Intelligenz nicht und haben sogar schon Probleme damit, zu definieren, was Intelligenz überhaupt ist. Das ist einfach ein völlig unbekanntes Terrain, auf das man sich da begibt.
 



#7 Mammut

Mammut

    DerErnstFall Michael Schmidt

  • Mitglieder
  • PIPPIPPIPPIPPIP
  • 8.849 Beiträge
  • Geschlecht:männlich

Geschrieben 13 Dezember 2024 - 14:28

Das wissen wir ja schon bei natürlicher Intelligenz nicht und haben sogar schon Probleme damit, zu definieren, was Intelligenz überhaupt ist. Das ist einfach ein völlig unbekanntes Terrain, auf das man sich da begibt.
 

 

Die natürliche Intelligenz haben wir ja nicht erfunden, die war ja da.

Wie soll also eine Maschine einen eigenen Willen bekommen? Ich denke, da ist aktuell kein theoretischer Ansatz erkennbar.

 

Das Max Planck Institut hat dazu geforscht:

Superintelligente Maschinen wären nicht kontrollierbar

 

Auf Basis dieser Berechnungen ist es somit nicht möglich, einen Algorithmus zu programmieren, der erkennt, ob eine KI der Welt Schaden zufügen würde oder nicht. Dazu kommt, dass wir möglicherweise nicht einmal erkennen könnten, ob eine Maschine superintelligent ist. Denn, ob eine Maschine eine dem Menschen überlegene Intelligenz besitzt, lässt sich nach aktuellen Erkenntnissen ebenfalls nicht berechnen.

 

Der zweite Satz ist dabei der entscheidende. Eine selbstständige Maschine ist graue Theorie. Es gibt nicht einmal Theorien, die das abbilden.



#8 Helge

Helge

    Cybernaut

  • Mitglieder
  • PIPPIPPIP
  • 385 Beiträge

Geschrieben 13 Dezember 2024 - 18:23

Ja, sie war einfach da, aber wir wissen nicht, wie es dazu kam (bzw. immer wieder dazu kommt). Und wenn wir immer komplexere KI-Systeme bauen, dann wird die selbständige Maschine vielleicht auch irgendwann einfach da sein, ohne dass wir sie erfunden haben. Ganz ohne zu fragen, ob wir eine Theorie zu ihrer Entstehung haben.


Bearbeitet von Helge, 13 Dezember 2024 - 18:23.


#9 Mammut

Mammut

    DerErnstFall Michael Schmidt

  • Mitglieder
  • PIPPIPPIPPIPPIP
  • 8.849 Beiträge
  • Geschlecht:männlich

Geschrieben 13 Dezember 2024 - 18:57

Klar. Vielleicht wird auch der Weihnachtsmann lebendig. Den sieht man ja oft genug.



#10 Michael Böhnhardt

Michael Böhnhardt

    Illuminaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 806 Beiträge
  • Geschlecht:männlich
  • Wohnort:Unna

Geschrieben 13 Dezember 2024 - 19:30

Und wenn wir immer komplexere KI-Systeme bauen, dann wird die selbständige Maschine vielleicht auch irgendwann einfach da sein, ohne dass wir sie erfunden haben.

Wenn wir immer komplexere KI-Systeme bauen, die niemand mehr durchschauen kann, und ihnen die Kontrolle über kritische Infrastruktur übertragen, ist es völlig egal, ob die Dinger "Intelligenz" entwickeln oder nicht.

 

Und wenn Mammut weiter seine schlechte Laune am Weihnachtsmann auslässt, dann wird er womöglich unterm Baum keine Geschenke vorfinden ...



#11 rostig

rostig

    Temponaut

  • Mitglieder
  • PIPPIPPIPPIPPIP
  • 1.357 Beiträge
  • Geschlecht:männlich

Geschrieben 14 Dezember 2024 - 08:47

Ich erinnere mich dunkel, dass das Thema Emergenz in den 80igern sehr populär war. Etliche Menschen glaubten sogar, dass sich aus dem immer weiter ausbreitenden Internet irgendwann eine bewusste Wesenheit entwickeln würde. Die eher mühsamen Fortschritte neuronaler Netze zeigen, dass wir von wahrer Intelligenz noch weit entfernt sind - gar nicht zu reden von Bewusstsein.



#12 Michael Böhnhardt

Michael Böhnhardt

    Illuminaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 806 Beiträge
  • Geschlecht:männlich
  • Wohnort:Unna

Geschrieben 14 Dezember 2024 - 09:06

Ich finde ja, du stellst da die menschliche Intelligenz auf einen sehr hohen Sockel.

 

Und zum anderen befürchte ich, wenn sich in den von uns geschaffenen künstlichen Netzen (zum Beispiel in dem sich ausbreitenden Internet) so etwas wie Bewusstsein entwickeln würde, würden wir es nicht erkennen.


Bearbeitet von Michael Böhnhardt, 14 Dezember 2024 - 09:08.


#13 Helge

Helge

    Cybernaut

  • Mitglieder
  • PIPPIPPIP
  • 385 Beiträge

Geschrieben 14 Dezember 2024 - 10:49

Ich finde ja, du stellst da die menschliche Intelligenz auf einen sehr hohen Sockel.

 

Eigentlich nicht. Man könnte ja mal die Frage stellen, wieviel Intelligenz eigentlich nötig ist für ein Bewusstsein. Vielleicht gar nicht so besonders viel; Bewusstsein ist einfach ein eigenständiges Phänomen. Aber auch das ist schon wieder eine Frage, die wir selbst bei natürlichen Lebewesen nicht eindeutig beantworten können.
 



#14 Mammut

Mammut

    DerErnstFall Michael Schmidt

  • Mitglieder
  • PIPPIPPIPPIPPIP
  • 8.849 Beiträge
  • Geschlecht:männlich

Geschrieben 14 Dezember 2024 - 11:16

Ich erinnere mich dunkel, dass das Thema Emergenz in den 80igern sehr populär war. Etliche Menschen glaubten sogar, dass sich aus dem immer weiter ausbreitenden Internet irgendwann eine bewusste Wesenheit entwickeln würde. Die eher mühsamen Fortschritte neuronaler Netze zeigen, dass wir von wahrer Intelligenz noch weit entfernt sind - gar nicht zu reden von Bewusstsein.

 

Fehleinschätzungen gab es schon früher:

Fehleinschätzungen der Menschheit – DiePresse.com

 

Im deutschen Sprachraum berühmt wurde ein anderer Fall: Als die Lok „Adler“ 1835 erstmals zwischen Nürnberg und Fürth verkehren sollte – mit 30km/h –, soll ein Gutachter des Bayrischen Medizinalkollegiums gemeint haben, dass die Geschwindigkeit „bei den Passagieren die geistige Unruhe, ,Delirium furiosum‘ genannt“, hervorrufe.



#15 Michael Böhnhardt

Michael Böhnhardt

    Illuminaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 806 Beiträge
  • Geschlecht:männlich
  • Wohnort:Unna

Geschrieben 15 Dezember 2024 - 09:38

Eigentlich nicht. Man könnte ja mal die Frage stellen, wieviel Intelligenz eigentlich nötig ist für ein Bewusstsein. Vielleicht gar nicht so besonders viel; Bewusstsein ist einfach ein eigenständiges Phänomen. Aber auch das ist schon wieder eine Frage, die wir selbst bei natürlichen Lebewesen nicht eindeutig beantworten können.
 

Kommt ja nun drauf an, was man hierbei unter Intelligenz versteht. Wenn man jetzt hier zwei Vermögen unterscheidet, nämlich Verstand und Vernunft, dann wäre der Verstand dafür zuständig, aus all den Sinnesreizen in der zentralen Verarbeitungseinheit (also bei Lebewesen dem Gehirn) ein brauchbares Bild von der Umgebung entstehen zu lassen. Das Ganze verbindet man mit einem Gedächtnis und einem autonomen Selbsterhaltungstrieb, d.h.: dieser Knotenpunkt in der Verarbeitung der Sinnesreize, der sich selbst als kontinuierlich bestehend wahrnimmt, verfolgt das Ziel, diesen kontinuierlichen Wahrnehmungsprozess weiterhin aufrechtzuerhalten. So ungefähr würde ich mir die Voraussetzungen für ein (Selbst-)Bewusstsein vorstellen.

 

Ob die Vernunft ins Spiel kommt, die ja den Menschen speziell auszeichnet, hängt davon ab, wie das Gedächtnis funktioniert. Vernunft bedeutet ja letzten Endes, dass man die Welt symbolisch (u.a. sprachlich) erfasst und sich dabei am Schluss in die Haare kriegt, weil man unterschiedliche Symbolsysteme verwendet.


Bearbeitet von Michael Böhnhardt, 15 Dezember 2024 - 16:49.



Besucher die dieses Thema lesen: 3

Mitglieder: 0, Gäste: 3, unsichtbare Mitglieder: 0