47 Antworten in diesem Thema

[Mammut]

Panikmache oder reale Gefahr, was denkt ihr?

https://www.tagessch...hatgpt-100.html

Bearbeitet von Mammut, 30 Mai 2023 - 18:26.

[Peter-in-Space]

Abwarten. Ansonsten schnitze ich mir schon mal Holzschuhe...

[Uwe Post]

"Vernichtung durch KI" - was für ein hanebüchener Unfug. Weder ChatGPT noch Midjourney werden die Menschheit vernichten, noch ist ein Nachfolger in Sicht, der dieses Potential hat. Was nicht heißt, dass keine Gefahren davon ausgehen.

Das ist vor allem viel zu allgemein. Man muss das schon etwas differenzieren: ChatGPT lügt, ohne rot zu werden. Midjourney gefährdet die Jobs tausender Illustratoren. Und so weiter.

Auch die Computertechnik an sich hat (schon lange) das Potenzial, extrem großen Schaden anzurichten - was ja auch regelmäßig geschieht.

Wenn, dann wird der Klimawandel die Menschheit vernichten. Das ist eine viel realere Gefahr, insofern halte ich es für völlig unangemessen, im Hinblick auf Risiken von KIs so laute Töne anzuschlagen.

Bearbeitet von Uwe Post, 31 Mai 2023 - 07:32.

[Denisovan]

Originalzitat  der Warnung von Hunderten Experten, darunter die Erfinder und die CEO's der wichtigsten US-KI-Firmen (Original-Quelle New York Times gestern);  die Warnung soll aus einem einzigen Satz bestehen:

 

"Es sollte global priorisiert werden, das Risiko der Auslöschung durch KI zu verringern - auf einer Stufe mit anderen Risiken für die Gesellschaft, wie etwa Pandemien und Nuklearkrieg."  (Quelle: SPIEGEL online 30.05.2023 und wie oben tagesschau.de)

 

 

Für SF-Leser eigentlich ein uraltes ausgelutschtes Thema... 

[WeepingElf]

Man sollte die Entwicklung in der KI-Forschung kritisch im Auge behalten, aber für Panikmache sehe ich keinen Anlass. Wie Uwe Post richtig gesagt hat, geht derzeit von der Klimaproblematik die größere Gefahr für den Fortbestand der Zivilisation aus.

[George Nelson]

Wenn, dann wird der Klimawandel die Menschheit vernichten.

Der Klimawandel wird die Menschheit nicht vernichten. Wer behauptet denn sowas?

 

Bei einem starken Gammablitz könnte es eng werden. Oder wenn ein Schwarzes Loch durch das Sonnensystem fliegt.

[rostig]

Viele Experten gehen davon aus, dass eine Erwärmung > 2 °C (recht wahrscheinlich wird diese eintreten) dazu führen wird, das etliche Landstriche unbewohnbar werden (Überschwemmung, Dürre). Dies führt zu großräumigen Flüchtlingsströmen und zu Verteilungskämpfen / Kriegen. Damit wird die Menschheit wahrscheinlich nicht vernichtet, aber die Zivilisation so wie wir sie aktuell kennen. Die Erde wird auch das überleben, aber dieses Forum wohl eher nicht.

[Uwe Post]

Ja, nichtmal der Klimawandel wird die ganze Menschheit vernichten, aber er wird definitiv sehr bald größere Schäden anrichten als jede KI, die auch nur annähernd in Sichtweite ist.

Wie so oft muss man freilich, wenn man auf etwas hinweisen will, massiv übertreiben, um in den Medien überhaupt zu erscheinen. Genau das ist passiert. Mehr steckt nicht dahinter.

Das die Politik einer technischen Entwicklung hoffnungslos hinterher hinkt, ist auch alles andere als neu.

Also zurück zur Tagesordnung.

Bearbeitet von Uwe Post, 01 Juni 2023 - 08:03.

[Frank Lauenroth]

Wie 'rostig' sagt:

"Die Weltbank schätzt, dass bis zum Jahr 2050 bis zu 143 Millionen Menschen zu Klimaflüchtlingen werden könnten. Der Grund: Die Auswirkungen auf ihren Lebensraum und ihre Existenz sind so dramatisch, dass sie keinen anderen Ausweg mehr sehen."

 

siehe auch: https://www.handelsb...n/22868574.html

 

Europa wird von Afrika überrannt werden.

Als SF-Autor erwarte ich also gemeinschaftliches Verderben oder bewaffnete Schutzwälle an den Mittelmeerküsten. 

[Uwe Post]

Wir können uns dann von KIs Bilder von Mittelmeerstränden ohne verhungerte Klimaflüchtlinge erzeugen lassen. Prima!

[Ulrich]

Das die Politik einer technischen Entwicklung hoffnungslos hinterher hinkt, ist auch alles andere als neu.
Also zurück zur Tagesordnung.

Aber, aber: Politiker sind ausgewiesene Kenner der Wissenschaften. Zum Beispiel: Das Netz speichert den Strom, pazifische Tsunamis über Deutschland, Panzer zu Napoleons und Bismarcks Zeiten, Länder in hunderttausenden Kilometern Entfernung, 360-Grad-Wenden für den Meinungswechsel, eine angebotsorientierte Stromerzeugung für eine spannende Zukunft (keine Grundlast mehr) und der Klassiker der Digitalisierung: Flugtaxis.

Zum Glück wird der Spaß an einem Black Out bereits im Kinderbuch erklärt. Und bitte immer an die Kobolde denken.

[Denisovan]

Provokation oder Satire, ihr entscheidet:

 

Bei Corona und Klima sollen wir auf den Konsens der Experten hören. Bei KI aber nicht, da werden teilweise hier im Forum ganz andere Töne vertreten: nach dem Motto "bitte nicht auf die Experten, Erfinder und CEO hören, die Regierungen verstehen es sowieso nicht etc. ..."   Das finde ich amüsant, im Vergleich zur Corona- und Klima- Problematik.

 

Daher generiere ich hiermit und reklamiere Copy-Satire-Rechte am 04.06.2023 abends gegen 18.19 Uhr per Urheberrecht das Narrativ "KI-Leugner": 

 

Derjenige, der die Experten-Warnungen zu KI sogar unter Verächtlichmachung der Regierung untergräbt, ist somit ... 

 

Duck und weg... 

Bearbeitet von Denisovan, 04 Juni 2023 - 17:22.

[Peter-in-Space]

Wir können uns dann von KIs Bilder von Mittelmeerstränden ohne verhungerte Klimaflüchtlinge erzeugen lassen. Prima!

... ich denke, das bräuchten wir dann nicht mehr...

[Uwe Post]

 

 

Bei Corona und Klima sollen wir auf den Konsens der Experten hören. Bei KI aber nicht, da werden teilweise hier im Forum ganz andere Töne vertreten: nach dem Motto "bitte nicht auf die Experten, Erfinder und CEO hören, die Regierungen verstehen es sowieso nicht etc. ..."   Das finde ich amüsant, im Vergleich zur Corona- und Klima- Problematik.

Der Unterschied ist, dass es für den Klimawandel haufenweise Beweise gibt, die Gefahr ist 100% real. Bei der zitierten, recht unkonkret formulierten Warnung geht es um Spekulationen über eine noch gar nicht existierende Software, die rein technisch zunächst mal überhaupt nicht die Möglichkeit hat, Menschen umzubringen. Sie kann Arbeitsplätze vernichten, ja, aber das tun verhältnismäßig dumme Roboter und diverse andere IT-Entwicklungen schon seit Jahrzehnten.

Davon abgesehen: viel wahrscheinlicher ist, dass eine KI die Menschheit rettet, denn nach aktuellem Stand machen wir ja keine großen Anstalten, unseren eigenen Untergang zu verhindern.

Man sollte freilich keiner Software, deren Rechenergebnisse nicht exakt vorhersagbar sind (wie bei aktuellen KIs), Zugriff auf die Atomraketen-Codes geben. Das ist aber auch meines Wissens nicht geplant.

 

Grundsätzlich würde ich mich nicht als KI-Leugner bezeichnen, sondern als Skeptiker. Ich will konkrete Beweise. Und bewiesen ist bisher allenfalls, dass KI den Energieverbrauch weiter in die Höhe treibt. Wenn demnächst auch noch jeder einen eigenen ChatGPT-Klon, eigene Bilder-, Video- oder Game-KIs zuhause auf dem eigenen PC betreiben will, und dazu stundenlang 300-Watt-Grafikkarten unter Volllast betreibt, hilft das auch nicht gerade bei der Klimarettung.

Bearbeitet von Uwe Post, 05 Juni 2023 - 07:57.

[ShockWaveRider]

"Experten warnen vor ... "

Dieses Satzmuster habe ich schon so oft gehört. Bislang leben wir noch.

 

Zum Thema KI: Was ist schlimmer? Künstliche Intelligenz oder natürliche Dummheit?

 

Gruß

Ralf 

[Frank Lauenroth]

"Experten warnen vor ... "

Dieses Satzmuster habe ich schon so oft gehört. Bislang leben wir noch.

 

Dazu fällt mir auch ne Analogie ein: 

Mann fällt aus dem Fenster vom 10ten Stock.

Auf Höhe des zweiten Stocks sagt er: "Bis hier ging's gut."

Bearbeitet von Frank Lauenroth, 05 Juni 2023 - 08:34.

[ShockWaveRider]

Dazu fällt mir auch ne Analogie ein: 

Mann fällt aus dem Fenster vom 10ten Stock.

Auf Höhe des zweiten Stocks sagt er: "Bis hier ging's gut."

 

Wenn dir in deinem Leben 20 oder 30 Weltuntergänge versprochen wurden und keiner trat ein, dann bleibst du bei der 31. Prophezeiung sehr gelassen.

 

Gruß

Ralf

[Denisovan]

Grundsätzlich würde ich mich nicht als KI-Leugner bezeichnen, sondern als Skeptiker. Ich will konkrete Beweise. 

 

Genau das ist doch eine differenzierte Haltung, die ich Klasse finde und ein wenig provozieren wollte. Unsere Gesellschaft wäre nicht so gespalten, würden (abgesehen von extremistischen Spinnern, die immer irgendwo auftauchen) jedenfalls Menschen, die nachdenklich, fakten-basiert auch einmal Gegenargumente oder einen anderen Blickwinkel bei Corona und Klima vortragen, eben nicht als "Leugner", sondern als "Skeptiker" bezeichnet und nicht dauernd mit Totschlags-"Argumenten" auf der ad-hominem-Ebene ohne jede inhaltliche Diskussion niedergemacht. Darum geht es mir immer.

Denn auch gegenüber der Konsens-Linie gibt es wissenschaftlich betrachtet stets eine Reihe von Schwachpunkten, da es sich immer um Modelle handelt, deren Parameter ständig justiert werden. Das sagt selbst das Potsdam-Institut in seinen Berichten (Klima) oder jetzt "im nachhinein" beim Thema Corona, wo es dann vom "Team Vorsicht" heute z.B. schlicht und einfach heißt:  "haben wir doch damals noch nicht wissen können" - aber man vergisst zu erwähnen, dass diejenigen, die es "damals" wussten/ahnten, "damals" einfach runtergemacht wurden als "Leugner" und eben nicht als "Skeptiker". Das stört mich enorm, jene Diskurs-abwürgende Haltung, die doch bekanntermaßen Risse und Spaltungen selbst durch Familien schneidet.

[Uwe Post]

So ist es.

Übrigens gibt es noch eine ganz andere Deutung dieser "Experten-Warnung". Nicht von mir wohlgemerkt.

Und zwar haben die Firmen, die zig Millionen in die KI-Forschung gesteckt haben, jetzt Schiss, dass der ganze Krempel Open Source wird und sie auf den Kosten sitzenbleiben. Die Technologie und Software sind ja schon längst open source, viele Sprach- und Bildmodelle (z.B. mit Nackedeis) sind bereits frei verfügbar (frei im Sinne von Open Source, nicht im Sinne von kostenlos, das ist ChatGPT auch, aber eben nicht "offen", auch wenn OpenAI dieses Wort im Namen trägt!). Die Regulierung, die diese Leute sich wünschen, könnte auch heißen, dass sie über Lizenz- oder Zertifizierungs-Regelungen die Open Source-Szene ins Abseits manövrieren wollen, um ihre Gewinne zu sichern. Nachvollziehbar - aber mit "Vernichtung der Menschheit" hat das so gut wie nix zu tun.

Bearbeitet von Uwe Post, 05 Juni 2023 - 10:47.

[Mammut]

Das Titelbild besitzt ein aufgelegtes Muster aus Quadraten. Verpixelt im Sinne eines "unabsichtlichen" Effekts ist es nicht.
 
Und "Selfie mit Alien" erschien in Nova 25; Nova 35 ist noch nicht veröffentlicht.
 
 
My.

  

So ist es.
Übrigens gibt es noch eine ganz andere Deutung dieser "Experten-Warnung". Nicht von mir wohlgemerkt.
Und zwar haben die Firmen, die zig Millionen in die KI-Forschung gesteckt haben, jetzt Schiss, dass der ganze Krempel Open Source wird und sie auf den Kosten sitzenbleiben. Die Technologie und Software sind ja schon längst open source, viele Sprach- und Bildmodelle (z.B. mit Nackedeis) sind bereits frei verfügbar (frei im Sinne von Open Source, nicht im Sinne von kostenlos, das ist ChatGPT auch, aber eben nicht "offen", auch wenn OpenAI dieses Wort im Namen trägt!). Die Regulierung, die diese Leute sich wünschen, könnte auch heißen, dass sie über Lizenz- oder Zertifizierungs-Regelungen die Open Source-Szene ins Abseits manövrieren wollen, um ihre Gewinne zu sichern. Nachvollziehbar - aber mit "Vernichtung der Menschheit" hat das so gut wie nix zu tun.

Da passt ja diese Meldung dazu, die ich gerade gefunden habe:
Die Chefin der Stiftung hinter der Chat-App Signal hat auf der Berliner Digital-Konferenz Republica eindringlich vor dem aktuellen Hype rund um Künstliche Intelligenz gewarnt. "Das Narrativ zur Vermarktung von KI dient dazu, das Überwachungs-Geschäftsmodell als Kern der Tech-Industrie zu mystifizieren, zu festigen und auszuweiten", sagte Meredith Whitacker zum Auftakt der dreitätigen Veranstaltung am Montag. Es gehe um die Kontrolle über die Beschäftigten sowie soziale Kontrolle, sagte sie. Ein besonderes Problem sieht Whitacker darin, dass Anwendungen mit Künstlicher Intelligenz die Fähigkeit zugeschrieben wird, den Menschen überlegen zu sein - obwohl es keine Belege für diese "Mythologie" gebe. Entsprechend kritisierte sie die jüngste Warnung von KI-Experten, die die Technologie in einer Reihe mit existenziellen Risiken wie Pandemien oder einem Atomkrieg stellten. "Es gibt keine Hinweise darauf, dass KI kurz davor steht, zu einer böswilligen Super-Intelligenz zu werden, oder jemals soweit sein wird", sagte die langjährige Google-Managerin Whitacker. Solche Warnungen lösten aber "Adrenalinschübe und Ehrfurcht" aus - und bräuchten nicht einmal berechtigt zu sein, um unser Leben zu beeinflussen. "Je mehr wie uns auf diesen Hype einlassen, desto mehr Macht geben wir einer Handvoll Konzerne, uns vorzuschreiben, wie unsere Welt funktioniert und was unser Platz in ihr ist." Signal ist eine Chat-App, die von einer Nonprofit-Stiftung betrieben wird und mit Komplett-Verschlüsselung auf mehr Datenschutz ausgerichtet ist. Zusammen mit anderen Chat-Diensten wie etwa WhatsApp wehrt sich Signal gegen Versuche, die Verschlüsselung zur Bekämpfung von Kriminalität aufzuweichen. Die Vorstellung, dass KI solche Maßnahmen mit Datenschutz vereinbaren könne, sei illusorisch, betonte Whitacker.

[Uwe Post]

Na, das muss man ja auch wieder differenzieren:

 

 

ass Anwendungen mit Künstlicher Intelligenz die Fähigkeit zugeschrieben wird, den Menschen überlegen zu sein - obwohl es keine Belege für diese "Mythologie" gebe. 

"Überlegen" → schneller als Menschen sind KIs mit Sicherheit. Aber weder verlässlicher noch energieeffizienter.

 

Aber allein schon die Tatsache, dass die "Warnung" so unkonkret und kurz ausfällt, zeigt ja schon, dass es in erster Linie um mediale Ausmerksamkeit geht.

[Peter-in-Space]

So ist es.

Übrigens gibt es noch eine ganz andere Deutung dieser "Experten-Warnung". Nicht von mir wohlgemerkt.

Und zwar haben die Firmen, die zig Millionen in die KI-Forschung gesteckt haben, jetzt Schiss, dass der ganze Krempel Open Source wird und sie auf den Kosten sitzenbleiben. Die Technologie und Software sind ja schon längst open source, viele Sprach- und Bildmodelle (z.B. mit Nackedeis) sind bereits frei verfügbar (frei im Sinne von Open Source, nicht im Sinne von kostenlos, das ist ChatGPT auch, aber eben nicht "offen", auch wenn OpenAI dieses Wort im Namen trägt!). Die Regulierung, die diese Leute sich wünschen, könnte auch heißen, dass sie über Lizenz- oder Zertifizierungs-Regelungen die Open Source-Szene ins Abseits manövrieren wollen, um ihre Gewinne zu sichern. Nachvollziehbar - aber mit "Vernichtung der Menschheit" hat das so gut wie nix zu tun.

dabei wäre der Nebeneffekt wünschenswert: eine wahrhaft offene Diskussion, die sich nachher in Programmierzeilen niederschlägt - das wollen die Unternehmen des Big Data garantiert nicht ... ich freue mich schon auf die nächste Generation Linux-KI: ich wäre hier sogar bereit, UNIX-Systeme anzuwenden. Wenigstens wissen die, wie man lebt!

 

Nebenbei bemerkt weiß ein Mensch stets, wo der Notausschalter zu finden ist. Bei einer Maschine könnte dieses sehr anders aussehen.

 

Ergo: es hat nichts mit Spökenkiekerei zu tun, Vorsicht walten zu lassen. Allerdings sehe ich die Diskussion um die Gefahren der KI als massives Ablenkungsmanöver, um die bitter nötige Diskussion um die globale Erwärmung schlicht zu umtanzen.

 

Honi soit qui mal y pense.

[Denisovan]

Interessant... für diese Sicht spricht, dass diejenigen genau aus den Zirkeln der CEO's und Erfinder, die so extrem warnen, zugleich die Anteile an den Firmen > an den Gewinnen weiter halten. "Follow the money".... als moderne Abwandlung von cui bono.

[Uwe Post]

Andreas Brandhorst (bekanntlich Autor eines Romans über das "Erwachen" einer KI mit Bewusstsein) schlägt in dieselbe Kerbe und verweist auf FB auf dieses Video:

(habe es noch nicht angesehen, weil ich solche Videos immer zeitlich als recht ineffizient empfinde, da die Inhalte meist in wenigen Sätzen schriftlich viel schneller zu kommunizieren wären... aber wer liest heutzutage noch? *schulterzuck*)

Bearbeitet von Uwe Post, 06 Juni 2023 - 15:46.

[Peter-in-Space]

... aber wer liest heutzutage noch? *schulterzuck*)

ich

[Uwe Post]

Gut, dann verschwende nicht die Zeit mit dem Video (das übrigens hübsch und dramatisch gemacht ist, fast schon suggestiv), lies meine Zusammenfassung, das geht schneller.

Es werden folgende Bedrohungen aufgeführt:

1. Überflutung mit Desinformation (meine Meinung: haben wir schon, und dass viele Menschen drauf reinfallen, hat nix mit KI zu tun, sondern mit Dummheit und mangelnder Bildung)

2. Zerstörung des Arbeitsmarkts (meine Meinung: Jein, weil nur ein Teil der Berufe von KIs übernommen werden kann, und selbst dort ist immer ein Mensch als Supervisor tätig - außerdem hat neue Technologie schon immer Arbeitsplätze vernichtet - und neue geschaffen)

3. Intellektuelle Schwächung, also Verdummung (meine Meinung: Stimmt, schaffen wir durch Bildungsprobleme aber auch ohne KI. Ist das aber eine "existenzielle Bedrohung" ähnlich Nuklearwaffen?)

4. Fehlerhafte Ziele, also dass fehlerhafte Trainingsdaten zu unerwünschtem KI-Verhalten führen (meine Meinung: Stimmt, aber das sagt uns nur, dass KI eben nicht verlässlich ist - und damit für viele Zwecke ungeeignet)

5. Nutzung als Waffe (meine Meinung: ja klar, aber dann ist die Bombe die "existentielle Bedrohung", nicht die KI-basierte, außer Kontrolle geratende Steuerung. Keine Bombe, keine Bedrohung. Der Putin ist ne viel größere Bedrohung - und ein Mensch, keine KI, soweit ich weiß. Peace!)

6. Systemischer Lock-In, also Abhängigkeit von den Tech-Firmen, die die KI-Software kontrollieren (meine Meinung: KI läuft schon jetzt prinzipiell auf jedem PC, wenn auch nicht so schnell - und wir sind faktisch jetzt schon Google und Meta "abhängig")

7. Kontrollverlust durch unerwartetes Verhalten (meine Meinung: Stimmt, ist eine Gefahr. Letztlich aber identisch mit 4)

8. Betrug und Machtverhalten, also "absichtliches" Lügen (meine Meinung: hier hat der Youtuber geschummelt, da Absicht nur einer starken KI unterstellt werden kann, und die existiert noch nicht. Siehe auch 1, 3, 4, 7)

9. Die Singularität. (meine Meinung: Es wird keine geben, weil die benötigte Energie nicht vorhanden ist.)

 

Also nix Neues, und "existenzielle Bedrohung", also eine Bedrohung der Existenz der Menschheit durch KI, ist schlicht eine publikumswirksame Übertreibung, um mehr Abonennten und damit letztlich mehr Werbeeinnahmen zu erzielen. 

 

Die hauptsächliche (aber nicht wirklich existenzielle) Bedrohung sehe ich darin, dass irgendwelche Bosse auf Berater reinfallen, die empfehlen, menschliche Mitarbeiter durch billige, total verlässliche KI zu ersetzen, mit dem Versprechen höherer Gewinne und höherer Boni, weniger Ärger mit den human resources und somit mehr Zeit für noch teurere Sexpartys auf der eigenen Yacht (mit menschlichem Steuermann, sicher ist sicher). Scherz beiseite. Damit sind schon viele Firmen reingefallen: Digitalisierung oder Outsourcing zwecks Gewinnmaximierung auf Kosten von Inhouse-Knowhow, Betriebssicherheit und Wartbarkeit. Heute sitzen viele dieser Bosse nicht auf ihren Yachten, sondern vor stark fehleranfälligen, kaum noch wartbaren Software-Systemen und suchen händeringend nach teuren Experten, die den ganzen Mist lauffähig halten, um Millionenverluste durch Stillstand der Produktion zu vermeiden.

 

Nein, die größte existenzielle Bedrohung ist schlechte Bildung. Denn wer gut ausgebildet ist, kann die Technologie beherrschen, weiß, wo man sie sinnvoll einsetzt und wo nicht und fällt auch nicht dauernd auf Desinformation rein.

 

Umso lustiger, dass die Kultusministerien unseres Landes gerade an einer neuen technischen Lösung arbeiten, die die Lernerfolge von Schülern drastisch erhöhen soll - mit Hilfe von KI.

[FrankW]

Nach meiner Meinung ist die Forderung nach einer Regulierung von KI vom Prinzip her nichts Neues. Es ist nichts anderes als die Maschinenstürmerei in den Tagen der industriellen Revolution. Damals wollten die Arbeiter keine Maschinen, die ihnen die Arbeitsplätze streitig machen, weil sie eben effektiver als Handarbeit sind. In den 1980ern wiederholte sich das mit der massenhaften Verbreitung von PCs. Das Personal in den Büros hatte Angst um ihre Arbeitsplätze, weil Kollege Computer stereotype Fleißarbeit mit Datenmengen viel schneller erledigen konnte. Und jetzt haben Leute, die mehr oder weniger kreativ arbeiten ...

[Uwe Post]

Die Geschichte hat gezeigt, dass neue Technologie sich nicht komplett verhindern lässt. Man kann nur schauen, dass man vernünftig mit ihr umgeht. Das galt für die Dampfmaschine, den PC und jetzt für KI.

[ShockWaveRider]

Du hast das Rad vergessen. Und das Feuer. Die Beherrschung des Feuers hat den homo self-reported sapiens erst in die Lage versetzt, so was wie einen Klimawandel zu verursachen.

 

Gruß

Ralf

[Uwe Post]

Wie Douglas Adams so schön schrieb, kann man ja auch das Herunterklettern von den Bäumen schon als Schritt in die falsche Richtung ansehen.