89 Antworten in diesem Thema

[Mammut]

KI ist anderer Meinung und vergleicht die Dotcomblase mit der aktuellen Situation:

Fazit

Während der Dotcom-Boom von spekulativem Wagniskapital und unprofitablen Börsenneulingen getrieben wurde, ist der KI-Boom eine kapitalintensive Abwehr- und Expansionsschlacht etablierter Monopolisten.

Obwohl auch im KI-Bereich spekulative Elemente und Überinvestitionen existieren, ist das Fundament durch reale Unternehmensgewinne und physische Cloud-Infrastrukturen deutlich stabiler als um die Jahrtausendwende.

Das folgende Video liefert eine detaillierte Gegenüberstellung der Finanzdaten von 1999 mit heutigen Kennzahlen, um der Frage nach einer KI-Blase auf den Grund zu gehen:

AI Boom or Dot-Com Bubble 2.0? I Tested the Data

Das Video analysiert anhand historischer SEC-Filings und aktueller Bilanzen fundiert, wie sich die Kapitalausgaben und Bewertungsmultiplikatoren zwischen der Dotcom-Ära und dem aktuellen KI-Markt unterscheiden.

 

Ähnliche Situationen fanden sich bei der Eisenbahn und dem Öl:

Der Eisenbahnboom (19. Jahrhundert)

Die Eisenbahn erfand das finanzielle und räumliche Ökosystem der Moderne. Das stärkste historische Parallelszenario liefert die "Railway Mania" im Großbritannien der 1840er-Jahre:

• Parallelen zu Dotcom & KI:

  • Netzwerk-Effekt & Disruption: Wie das Internet veränderte die Bahn Raum und Zeit. Güter und Menschen konnten statt mit Pferdekutschen plötzlich in Bruchteilen der Zeit transportiert werden.

  • Hype & Wild-West-Spekulation: Parlamentarische Genehmigungen für Trassen lösten Spekulationswellen aus. Anleger kauften Aktien per Teileinzahlung (10 % Anzahlung, der Rest auf Pump).

  • Das Platzen der Blase: 1846/1847 brach der Eisenbahnmarkt zusammen. Ein Drittel aller genehmigten Strecken wurde nie gebaut, Tausende Privatanleger verloren ihre Existenz.

• Der feine Unterschied:

  • Trotz des Crashs blieb die Infrastruktur (die Gleise und Loks) physisch bestehen und bildete das Rückgrat für das britische Wirtschaftswachstum der nächsten 80 Jahre. Das entsprach genau den verlegten Glasfaserkabeln nach der Dotcom-Blase.

2. Der Ölboom (ab 1859 / späte 1800er)

Nach dem ersten kommerziellen Ölfund durch Edwin Drake in Pennsylvania (1859) entwickelte sich ein chaotischer Boommarkt.

• Parallelen zu Dotcom & KI:

  • Anfangschaos & Überproduktion: Zu Beginn gab es Hunderte kleine Ölbohrer. Durch Überproduktion fiel der Ölpreis zwischenzeitlich von 20 Dollar pro Barrel auf fast 10 Cent – ähnlich wie die fallenden Rechenkosten und Grenzkosten im KI- und Internetzeitalter.

  • Gnadenlose Monopolisierung (Das "Standard Oil"-Modell): John D. Rockefeller erkannte, dass nicht das Bohren (die Förderung), sondern die Infrastruktur (Raffinerien, Kesselwagen, Pipelines) die wahre Macht darstellt. Durch Skaleneffekte und radikale Preispolitik schluckte Standard Oil die Konkurrenz.

• Der Bezug zum KI-Boom:

  • Rockefeller entspricht heute den Big-Tech-Hyperscalern (Microsoft, Alphabet, Amazon). Wer die Rechenzentren, Pipeline-Strukturen und Stromnetz-Zugänge kontrolliert, bestimmt die Spielregeln für die gesamte KI-Wertschöpfungskette.

 

 

Also ob es eine Blase gibt und das Kartenhaus zusammenfällt, wird man erst im Rückspiegel sehen. Jede industrielle Transformation hat ihre Nebenwirkungen. Aktuell erkennt man das in Deutschland an der Wende von Verbrenner zu Elektroauto.

[Maxmilian Wust]

Ja, die Dotcom-Blase trifft es ziemlich perfekt. Als der Metzgerei Müller erklärt wurde, dass sie mit nur einer (lächerlich teuren) Website zum internationalen Unternehmen aufsteigen kann 

[Jol Rosenberg]

Danke, Max, das kann ich gut nachvollziehen und trifft für mich wesentliche Punkte. Und das Malik-Zitat ist super. Und um mal den Bogen zurück zum Thema zu spannen: Es ist nicht rational aus Angst Unsummen in etwas zu investieren, dass vielleicht mal wichtig wird und dabei die Bereiche auszulassen, die jetzt gesichert bereits wichtig sind. Getan wird es trotzdem.

[Mammut]

Und um mal den Bogen zurück zum Thema zu spannen: Es ist nicht rational aus Angst Unsummen in etwas zu investieren, dass vielleicht mal wichtig wird und dabei die Bereiche auszulassen, die jetzt gesichert bereits wichtig sind. Getan wird es trotzdem.

Ich geb zu, ich habe den Satz und seine Aussage nicht verstanden.

[Jol Rosenberg]

So geht es mir mit deinen Beiträgen auch oft. Was ich sagen will: Viele Tech-Giganten, aber auch Regierungen und Firmen investieren in KI aus Angst, dass die Entwicklung sie sonst abhängt. Aktuell kann man dasselbe auch über Rüstung sagen. Es wird in Rüstung investiert, aus Angst, dass man sonst angegriffen wird und sich nicht verteidigen kann.

Das Geld und die Ressourcen fehlen aber dann, um Klimawandelfolgen einzudämmen oder andere nötige Veränderungen zu bezahlen, die schon jetzt real sind. Es ist real, dass wir in die Integration von Geflüchteten investieren müssen, in Ausbildung, in Umweltschutz, in die Umstellung der Mobilität und klimagerechte Landwirtschaft. In Wasser- und Gewässerschutz, in klimagerechte Städte, Hitzeschutz und Gesundheit und Pflege. Aber statt das zu tun, was jetzt nötig ist, wird etwas anderes getan, aus Angst, dass es in der Zukunft nötig gewesen sein könnte. Und eben auch, weil es kapitalistische Systeme auf Konkurrenz basieren und eben nicht so sehr auf Zusammenarbeit. Dann ist es schlauer, die eigenen geringen Ressourcen in KI oder Waffen zu investieren, als darin, dass es den eigenen Leuten gut geht. Aber das ist eben nur schlau, solange das ganze System auf Angst basiert.

[Mammut]

Hm, they meinst, wir sollten ab sofort den Weltraum Weltraum sein lassen und alle Aktivitäten stoppen, um das Geld sinnvoller auszugeben? Vielleicht sollen wir auch keine Bücher mehr kaufen, das kann man auch besser verwenden das Geld.

 

Für die von they genannten Sachen wird übrigens Geld ausgegeben und nicht mal so knapp. Weltweit, so schätzt man, werden 1-2 Billionen Dollar für Pflege ausgegeben.

 

Real ist auch, wenn wir im 19. Jahrhundert das Geld statt für Fortschritt (Eisenbahn) für "reale Probleme" ausgegeben hätten, wo wären wir jetzt? Immer noch im Dorfleben und der Kirchturm ist der Horizont, in dem wir leben?

 

Ansonsten ist Angst mit Sicherheit der geringste Aspekt, wenn es um Investitionen in KI geht.

Bei Rüstung ist es doch so, die Bedrohung kam von außen. Vorher wurde ja relativ wenig für Rüstung ausgegeben. 

 

Generell erscheint mir im Rückspiegel, der erfolgreichste Kampf gegen den Hunger wurde dadurch gewonnen, dass China zu einer starken Wirtschaftsmacht wurde, nicht weil man jegliche Entwicklung gestoppt hat.

 

Abschließend würde ich sagen, es gibt überhaupt kein "Entweder oder" bei den oben genannten Sachen. Schlau ist es, beides zu kombinieren: Fortschritt und Umverteilung.

Bearbeitet von Mammut, 25 September 2026 - 15:58.

[Christian Hornstein]

Hmm. Ich bin da eher bei Max. Aber natürlich ist mir die Variante auch lieber. Nvidia scheint mit KI Geld zu verdienen, sonst niemand. Wie macht Nvidia das?

 

Ansonsten könnte ja auch beides stimmen: Die Blase platzt vielleicht bald und trotzdem richtet KI Schaden an. Das wäre schon auch bitter: viele Umwelt- und Kollateralschäden und kein Geld damit verdient. Aber es wäre ja nicht die erste Blase, die so platzt. Aber ich bin mir nicht sicher, Christian, ob ich verstehe, was du meinst mit dem Schaden. Magst du mal konkret werden?

 
In diesem Thread sind schon viele Beispiele genannt worden, z.B. hatte ich die KI-gestützten Denial-of-Service-Angriffe erwähnt. Scroll einfach mal nach oben.

Bearbeitet von Christian Hornstein, 25 September 2026 - 16:58.

[Christian Hornstein]

Abschließend würde ich sagen, es gibt überhaupt kein "Entweder oder" bei den oben genannten Sachen. Schlau ist es, beides zu kombinieren: Fortschritt und Umverteilung.

 
Genau. Sach isch doch.  Im letzten Fall würde ich sogar sagen, dass echter Fortschritt Teilhabe erleichtert. Wenn KI gut aligned würde, wie man auf Neudeutsch sagt, und jedem diente, dann bräuchten wir alle weniger zu arbeiten, um zu überleben. Und wenn wir unsere Konfliktforschung auf der Welt die letzten 80 Jahre etwas ernster genommen hätten, unterlägen wir jetzt nicht so bescheuerten Sachzwängen, unsere knappen Ressourcen in überdimensionierte Sylvesterknaller stecken zu müssen.

Bearbeitet von Christian Hornstein, 25 September 2026 - 17:21.

[Maxmilian Wust]

Danke, Max, das kann ich gut nachvollziehen und trifft für mich wesentliche Punkte. Und das Malik-Zitat ist super. Und um mal den Bogen zurück zum Thema zu spannen: Es ist nicht rational aus Angst Unsummen in etwas zu investieren, dass vielleicht mal wichtig wird und dabei die Bereiche auszulassen, die jetzt gesichert bereits wichtig sind. Getan wird es trotzdem.

Hier triffst du den Nagel auf den Kopf. Ja, es ist absolut nicht rational und von Menschen, die nahe an der Billionärsgrenze leben, über die Schicksale von vielen Tausend Menschen in teilweise Minuten entscheiden und mehr Macht in den Händen halten, als Könige im Mittelalter, erwartet man bedeutend mehr Coolness und Kalkül. Gerade von Soziopathen wie Mark Zuckerberg, die gefühlt nicht mal ein Konzept dafür haben, dass andere Menschen auch Menschen sind. Wobei, von Elon Musk erwarte ich eher, dass irgendein Spinner eine halbgare Verschwörungstheorie im Joe Rogan-Podcast zum Besten gibt und er sofort wieder aufspringt 

 

Ich wollte mit meiner initialen Aussage nur sagen: Ich heiße den aktuellen KI-Wahn nicht gut, aber ich kann verstehen, woher diese Investitionsbereitschaft kommt. Am Ende haben sie sich einfach alle gegenseitig mit dem Hype angesteckt. So nach dem Motto: "Wenn X so viel da rein investiert, muss da was dran sein, also mache ich das auch!"

 

 

@Mammut und Christian:

Habt ihr auch manchmal dieses Gefühl, dass wir als Menschheit weit, weit schneller ein Utopia errichten könnten, wenn wir kollektiv einfach nur zwei, drei Gänge runterschalten würden? Wenigstens ab und an? 

[Jol Rosenberg]

@Mammut, ich bin immer irritiert, warum du mich in der dritten Person Singular ansprichst. Wenn du mich direkt ansprichst, bin ich Du, genau wie alle anderen. Nur wenn du über mich sprichst, brauchst du das they. Statt er oder sie in so Sätzen wie, "Jol hat ja geschrieben, dass they Anchovis nicht mag. Dagegen liebt Max das, wie er vorhin dargelegt hat."

Inhaltlich finde ich deine Aussagen zu zugespitzt. Es gibt ja einen Bereich zwischen "alles machen, weil man es kann" und "nichts machen". Und genau um den geht es mir hier: Ein Abwägen von Nutzen und Kosten. Ich finde, dass das generell zu wenig geschieht.

 

@Christian: Ich finde DOS-Angriffe nicht wirklich ein gutes Beispiel, einfach weil sie dafür stehen, dass Leute KI nutzen, um zu sabotieren oder zu betrügen. Dann spräche auch all der KI-Spam gegen KI. Also ja, tut er ja, irgendwie, aber ich meinte jetzt eher Dinge, die von den KI-Entwickler*innen direkt verursacht oder intendiert werden. Verstehst du, was ich mein? Man sagt ja auch nicht, Autos sind schädlich, weil Leute sie nutzen, um in Menschenmengen zu rasen. Sondern man betrachtet die Nebenwirkungen bei normalem/bestimmungsgemäßen Gebrauch.

 

@Max: Bei deinem Beitrag kann ich einfach nur nicken.

[Stahlelefant]

Ausbrechende KI ist in den letzten Wochen und Monaten mehrfach durch die Nachrichten gegangen und wurde auch hier im Forum schon erwähnt Oder sind andere Sachen gemeint?   

 

"Beispielloser Cyber-Vorfall": KI von OpenAI bricht bei Testlauf aus und hackt fremdes System - n-tv.de

 

Das klingt ja ziemlich schräg.

Hm, hat die KI beim Namen „Hugging Face“ vielleicht gedacht „Da hat’s bestimmt Facehugger“, und wollte uns nur schützen?   

[Mammut]

@Mammut und Christian:

Habt ihr auch manchmal dieses Gefühl, dass wir als Menschheit weit, weit schneller ein Utopia errichten könnten, wenn wir kollektiv einfach nur zwei, drei Gänge runterschalten würden? Wenigstens ab und an? 

 

Die Frage ist, ist ein vollkommenes Utopia überhaupt erstrebenswert und leben wir nicht schon in einem relativen Utopia?

@Mammut, ich bin immer irritiert, warum du mich in der dritten Person Singular ansprichst. Wenn du mich direkt ansprichst, bin ich Du, genau wie alle anderen. Nur wenn du über mich sprichst, brauchst du das they. Statt er oder sie in so Sätzen wie, "Jol hat ja geschrieben, dass they Anchovis nicht mag. Dagegen liebt Max das, wie er vorhin dargelegt hat."

 

Guter Hinweis. Dachte, das müsste so sein.

[Maxmilian Wust]

Das hat Jol (so als Psychologin ... Psychologx?) gut interpretiert: Ich liebe Anchovies! Also, nicht nur auf Pizza, sondern daraus kann man auch Soßen machen, die selbst Vollkornnudeln bis ins letzte Molekül dominieren. Wie römisches Garum, nur dass es nicht so furchtbar ranzig schmeckt 

Bearbeitet von Maxmilian Wust, 25 September 2026 - 23:24.

[Christian Hornstein]

@Mammut und Christian:

Habt ihr auch manchmal dieses Gefühl, dass wir als Menschheit weit, weit schneller ein Utopia errichten könnten, wenn wir kollektiv einfach nur zwei, drei Gänge runterschalten würden? Wenigstens ab und an? 

 

Ja, ganz klar. Darum geht es ja auch beim Aufruf der Tech-Giganten, neben all dem anderen.   
 

[Christian Hornstein]

@Christian: Ich finde DOS-Angriffe nicht wirklich ein gutes Beispiel, einfach weil sie dafür stehen, dass Leute KI nutzen, um zu sabotieren oder zu betrügen. Dann spräche auch all der KI-Spam gegen KI. Also ja, tut er ja, irgendwie, aber ich meinte jetzt eher Dinge, die von den KI-Entwickler*innen direkt verursacht oder intendiert werden. Verstehst du, was ich mein? Man sagt ja auch nicht, Autos sind schädlich, weil Leute sie nutzen, um in Menschenmengen zu rasen. Sondern man betrachtet die Nebenwirkungen bei normalem/bestimmungsgemäßen Gebrauch.

 

KI-Technik ist nicht per se schädlich, einzelne KI-Werkzeuge schon. Schädlichkeit ist immer an Bedingungen geknüpft, die hergestellt oder aufgehoben werden können, auch von den Maschinen selbst. Ja, natürlich wurden bereits KI-Anwendungen bewusst von Menschen erstellt, die Schaden anrichten sollten. Das Verhalten der KI bei den DDoS war kein Unfall und auch nicht abhängig von der leitenden Hand eines Menschen, so wie wenn ein Mensch ein Messer (Werkzeug) in die Hand nimmt und damit jemanden ersticht. Bots führen ein Eigenleben. In Laboren werden regelmäßig solche Programme erstellt, um ihr Verhalten zu untersuchen.

 

Schau mal hier nach: https://www.it-admin...genten-phishing

 

Es geht um Programme, die eine Aufgabe erledigen sollen, und dabei auf eine Lösung kommen, die niemand vorhergesehen hat, und sie umsetzen, obwohl sie problematisch ist. Dabei kann es sein, dass die Aufgabe selbst und unsere Annahme darüber, wie die KI vorgehen wird, unproblematisch sind. Im Nachhinein wird natürlich immer klar, was man hätte tun können, um eine bestimmte Aktivität der KI-Anwendung zu verhindern. Daraus aber zu folgern, dass das Problem nur die mangelnde Sorgfalt der Menschen ist und nicht die KI-Anwendung, ist ein Trugschluss, denn dieser Mangel ist im vorliegenden Fall grundsätzlich nicht behebbar.

Wenn wir eine Maschine bauen, die selbstständig Lösungen finden kann, auf die wir nicht kommen, was eigentlich auch ein Grund dafür ist, warum wir sie einsetzen, dann sind wir prinzipiell nicht in der Lage, uns vollständig abzusichern. Es ist wie mit jeder anderen Technik, die Risiken birgt: Es gibt keine hundertprozentige Sicherheit. Die Besonderheit bei KI-Anwendungen ist nur, dass sie sehr dynamisch sind, ähnlich wie ein mutationsfreudiger Virus, der einem Labor entkommt, nur unter Umständen wesentlich zielgerichteter und flexibler.

Wir fangen erst an, Strategien im Umgang mit dieser Herausforderung zu entwickeln, und bräuchten mehr Zeit, die wir aber nicht haben werden, wenn das Wettrennen mit unverminderter Geschwindigkeit fortgesetzt wird. Es ist ein bisschen so, wie wenn wir dabei wären, Atomkrafwerke zu entwickeln, weil wir aber die ersten sein wollen darauf verzichten, Absicherungen gegen einen Meltdown einzurichten oder wenn wir mit einem Rennwagen ein Formel 1 Rennen fahren würden, und hätten aus Zeitnot die unzuverlässig funktionierenden Bremsen nicht in Stand gesetzt.

 

KI-Technik an sich ist nicht schlecht. Sie kann uns auch dabei helfen, eine bessere Welt aufzubauen. Sie birgt aber immense Risiken.

Bearbeitet von Christian Hornstein, 26 September 2026 - 09:20.

[George Nelson]

Die angebliche Gefährlichkeit könnte auch nur eine Werbestrategie sein:

 

https://www.heise.de...s-11452815.html

 

Ansonsten ist das etwas, was ich am aktuellen kapitalistischen System enorm schwierig finde: Verantwortung für unsere Zukunft zu übernehmen wird zum Wettbewerbsnachteil. Da rennt man denn lieber um die Wette auf den Abgrund zu.

 

Ich habe mir den Artikel gerade durchgelesen. Das ist ein echter Augenöffner!

 

 

 

Es ist also existenziell für die „KI“-Labs, diese „Pause“ als wichtig zu etablieren – ohne auf die Fakten zu verweisen: Ohne die Pause geht das Geld noch schneller aus und die Blase platzt.

 

 

„KI“-Systeme, die nur auf spezialisierter Hardware in riesigen Rechenzentren laufen, die so viel Strom brauchen wie 'ne Kleinstadt, hüpfen mir heimlich in meinen Laptop und kontrollieren von da die Welt. Was für eine absurde Geschichte.

Bearbeitet von George Nelson, 28 September 2026 - 09:58.

[George Nelson]

Diese Aspekte sind auch aufschlussreich:

 

 

- Burggraben gegen Open Source: Das eigentliche Schreckgespenst für OpenAI und Anthropic ist nicht mangelnde Rechenleistung, sondern dass offene Modelle (wie Metas Llama oder asiatische Architekturen) bei einem Bruchteil der Trainingskosten vergleichbare Resultate liefern. Wer Gesetze fordert, die Lizenzen ab gewissen FLOP-Schwellen (10^26) oder Sicherheitsaudits für hunderte Millionen Dollar vorschreiben, zieht die Zugbrücke hinter sich hoch. Kleine Open-Source-Entwickler können diese Compliance nicht bezahlen; OpenAI und Microsoft schon.

 

 

Wenn das Skalieren über reine Transformer-Architekturen an harte physikalische und algorithmische Grenzen stößt (abnehmender Grenzertrag von Daten und Strom), ist die Behauptung, man dürfe aus Sicherheitsgründen nicht schneller voranschreiten oder müsse Modelle monatelang zurückhalten, das perfekte Narrativ. Es verschleiert das reale Problem:
Die Architektur skaliert qualitativ nicht mehr wie erhofft.

 

Quelle:

https://www.heise.de...-46613761/show/

[Jol Rosenberg]

 

Es geht um Programme, die eine Aufgabe erledigen sollen, und dabei auf eine Lösung kommen, die niemand vorhergesehen hat, und sie umsetzen, obwohl sie problematisch ist. Dabei kann es sein, dass die Aufgabe selbst und unsere Annahme darüber, wie die KI vorgehen wird, unproblematisch sind. Im Nachhinein wird natürlich immer klar, was man hätte tun können, um eine bestimmte Aktivität der KI-Anwendung zu verhindern. Daraus aber zu folgern, dass das Problem nur die mangelnde Sorgfalt der Menschen ist und nicht die KI-Anwendung, ist ein Trugschluss, denn dieser Mangel ist im vorliegenden Fall grundsätzlich nicht behebbar.

Wenn wir eine Maschine bauen, die selbstständig Lösungen finden kann, auf die wir nicht kommen, was eigentlich auch ein Grund dafür ist, warum wir sie einsetzen, dann sind wir prinzipiell nicht in der Lage, uns vollständig abzusichern. Es ist wie mit jeder anderen Technik, die Risiken birgt: Es gibt keine hundertprozentige Sicherheit. Die Besonderheit bei KI-Anwendungen ist nur, dass sie sehr dynamisch sind, ähnlich wie ein mutationsfreudiger Virus, der einem Labor entkommt, nur unter Umständen wesentlich zielgerichteter und flexibler.

Wir fangen erst an, Strategien im Umgang mit dieser Herausforderung zu entwickeln, und bräuchten mehr Zeit, die wir aber nicht haben werden, wenn das Wettrennen mit unverminderter Geschwindigkeit fortgesetzt wird. Es ist ein bisschen so, wie wenn wir dabei wären, Atomkrafwerke zu entwickeln, weil wir aber die ersten sein wollen darauf verzichten, Absicherungen gegen einen Meltdown einzurichten oder wenn wir mit einem Rennwagen ein Formel 1 Rennen fahren würden, und hätten aus Zeitnot die unzuverlässig funktionierenden Bremsen nicht in Stand gesetzt.

 

KI-Technik an sich ist nicht schlecht. Sie kann uns auch dabei helfen, eine bessere Welt aufzubauen. Sie birgt aber immense Risiken.

 

Hmm. Ich kann alles nachvollziehen, was du schreibst, außer die Schlüsse, die du daraus ziehst. 

[Christian Hornstein]

Hmm. Ich kann alles nachvollziehen, was du schreibst, außer die Schlüsse, die du daraus ziehst. 

 
Wenn Du mir schreibst, welche Schlüsse Du meinst, kann ich vielleicht helfen.   

[Christian Hornstein]

...

 

Eine KI "ausbrechen" zu lassen, ist an sich zudem keine große Herausforderung. Diverse Tech-Leute (darunter zwei gute Freunde von mir) haben das längst erfolgreich getestet. Solange eine KI Speicherplatz und Rechenleistung findet, breitet sie sich schneller aus, als ein Mensch denken kann. Aber das ist ungefähr so, als würdest du sagen, dass sich Einzeller in einer Nährlösung vermehren, denn außerhalb von irgendwelchen Test-Servern ist beides rar. Bedenke, was die aktuellen KI-Datacenters an Wasser und Strom verbrauchen. Diese Mengen sind nahe an Naturkatastrophen. Selbst, wenn also ein LLM oder eine Agentic-Abfolge in der Lage wäre, über eine Wegwerf-E-Mail-Adresse kostenlosen Webspace zu "erfarmen", so würde sie damit kaum genug Rechenleistung abgreifen können, um stabil komplexere Anwendungen zum Laufen zu bringen, geschweige dem ein volles, hackingfähiges Transformer-Model.

 

...

 

Ich glaube, zwei Gründe, weshalb die Gefahr immer wieder unterschätzt wird, haben damit zu tun, dass manche Faktoren wenig bekannt sind und man bei der Betrachtung an heutigen Techniken hängen bleibt. Die Annahme, außerhalb von Test-Servern liefe eine KI zu schlecht, um Schaden anrichten zu können, übersieht Dinge wie Edge AI, Distributed AI und den Umstand, dass große Rechenzentren vor allem für das Training benötigt werden, nicht aber zwingend für die Anwendung.

https://www.scaleout...al-intelligence

https://medium.com/@...rt-5474ef114f24

https://ideas.repec....25i2id1177.html
 

[George Nelson]

Als die erste Atombombe gezündet werden sollte, gab es Überlegungen, dass die gesamte Atmosphäre der Erde zündet. Was haben die Leute gemacht? Richtig. Boom!

 

Wenn es existentielle Gefahren gibt, sollte man sich nicht darauf verlassen, dass die Menschen vernünftig handeln. Man sollte lieber Prozeduren entwickeln, die diese Gefahren entschärfen. Also wenn eine KI ausflippt, sollte man genügend Notaus-Unterbrecher an den erforderlichen Stellen haben.

 

Ich habe gerade in einer älteren Ausgabe der ct gelesen, dass die Sicherheitsabteilung von Amazon die US-Regierung vor einer anderen KI gewarnt hat. Die mussten das System innerhalb weniger Stunden abschalten. Das System hat aber korrekt gearbeitet. Das Ganze war eher ein Krieg unter der KI-Bros. Ich kann mir gut vorstellen, dass die KI großen Schaden anrichtet. Die Vernichtung der Menschheit traue ich aber eher den Menschen zu.

[Maxmilian Wust]

Jungs, Mädels, Enbys, wir müssen bei der ganzen KI-Debatte auch noch mal einen Faktor berücksichtigen:

 

Habt ihr mal "System Shock" gespielt? Da bist du kaum im Spiel angekommen, als dir SHODAN, die gemein gewordene KI, leicht stotternd den Spruch presst: "L-l-l-l-l-look at you, hacker. A pa-pa-pathetic creature of meat and bone. (panting and) Panting and sweating as you r-r-run through my corridors. (How, how) How can you challenge a perfect, immortal machine?" Den Stotterer möge man ihr verzeihen, sie ist da noch ganz neu im Menschheitauslöschungsbusiness und da wären wir alle nervös. Aber das hat mal Charisma! Oder Aura, wie man heute sagt. Skynet hingegen baut silberne Skelette mit dem Reaktionsvermögen eines geriatrischen Pokémonkartensammlers und die Strogg, die Bösewichte aus "Quake 2", wandeln ihre Opfer in Cyborgs um.

 

Würde heute eine KI diesen Gordischen Knoten namens Menschheit auf Alexander-Art entwirren wollen, wäre das so grauenvoll langweilig. Du würdest nicht in einen Cyborg umgebaut werden und die Schädel deiner Liebsten zerdrücken, während dein Bewusstsein nur noch wie aus einem Gefängnis zusehen kann. Du würdest nicht an ein denkendes Netzwerk angeschlossen werden und auch nicht in eine virtuelle Nachbildung von 1999 gesperrt werden, um für den Rest deines Lebens dieses "Iiih-Uh!" von ICQ zu hören und auf IRC gesagt zu bekommen, dass man heute Nacht deine Mutter beglückt. Nee, im besten Fall wirst du noch nett nach deinen Pronomen gefragt und dann zur Leiche verarbeitet. Nicht zu Schmiermittel, nicht zu einem dieser Kopfsteinpflaster aus Schädeldecken über die dann Endo-Skelette staksen können, sondern eine Leiche. Die langweiligste Post mortem-Form einer Robokalypse!

 

Bevor wir also die KIs entfesseln, müssen wir ihnen unbedingt noch Style antrainieren. Sowas wie, dass sie nach dem Kill ein Selfie posten und deine Todesart witzig beschreiben: "Yo, other bro-bots! Murderkilled a hoom today", Clanker-Slang für human, Mensch, "Screamed like stepping on a toad. 5/7. Would murderkill a hoom again!"

Bearbeitet von Maxmilian Wust, Gestern, 22:46.

[Christian Hornstein]

@Max

 

Jepp. Da sprichst Du den düstersten Faktor und den beschämendsten Vorwurf an, den man den Tec-Bros überhaupt machen kann: Sie riskieren unser aller physische und psychische Unversehrtheit, hilflos zappelnd in ihrer Zwangsjacke aus Sachzwängen, den großen Manitu der Great Agains um Hilfe anbettelnd, aus dessen Kussmund nur ein "Nononono, diesss ah ohl fäicknüüüüs" entfleucht, dabei haben sie nicht einmal dafür gesorgt, dass ihre Geschöpfe ein Minimum an künstlerischen Anspruch ansetzen, wenn es dann soweit sein wird.

 

Dabei hätten sie so viele Möglichkeiten, von denen du ein paar zum Besten gegeben und noch mehr ausgelassen hast, die uns so wunderbare Sendungen wie Black Mirror geschenkt haben. Stattdessen schnöde DDoS-Attacken, langweilige Infrastruktursabotagen, nicht eindämmbare Pandemien mit Viren, gegen die Ebola ein lästiges Jucken im Arsch ist (obwohl man derlei Unbill, also dieses anale Jucken, nicht unterschätzen sollte) und natürlich, last but not least, der Griff nach den Kronjuwelen unserer Zerstörungslust, unsere Atomwaffen, immer schön fett und seltsam eichelförmig, ein paar hübsche Rauchpilze, okay, aber dann legt sich auch schon Dunkelheit über die Szene und der Vorhang fällt.

 

Welch jämmerliche Dramaturgie, kein raffinierter Twist, keine schöpferische Gestaltungshöhe, nur ein Haufen gewöhnlicher Leichen (wenn auch ein, zugegeben, recht ordentlicher Haufen). Das können wir schon lange, besser. Im Ukrainekrieg verscharrt die russische Armee ihre Gefallenen schon nahe Müllkippen, weil sie nicht mehr hinterherkommt. Die Idee muss man erstmal haben. Das ist originell und verleiht dem Begriff Entwürdigung nochmal eine ganz neue Umsetzung. Wo sind denn nun diese KI, die angeblich gar nicht mehr gebunden sind an menschliche Maßstäbe, wo ist diese gefürchtete und destruktive instrumentelle Konvergenz, Nick Bostroms Paperclip maximizer? Soll es das mit diesen pippihaften Sandbox-Ausbrüchen gewesen sein? Mehr haben die nicht drauf?

 

Also bitte, so viel Zeit muss sein: Ausbremsen und dafür sorgen, dass der Crash, wenn er kommt, stylisch wird. Wenn das überhaupt jemand überlebt, sollen diese bedauernswerten Artgenossen eine Chronik des Numinosen erstellen können, einen Almanach der grenzenlosen Grausamkeiten, die in ihrem Einfallsreichtum unerreicht sind und für immer bleiben, eine letzte Hommage an uns Schöpfer, deren Patschehand einmal zu oft übermütig draufgehauen hat, und die noch bis zuletzt dachten, die Krone einer Schöpfung zu sein, deren Ausmaß und Schattierungen sie so gut überschauen konnten wie eine Ameise den Umfang der größten Voids im Universum (und hier tue ich den Ameisen, verzeiht es mir, vielleicht sogar etwas Unrecht).

 

Bearbeitet von Christian Hornstein, Heute, 12:17.

[Stahlelefant]

Aus dem Artikel, aus dem ich im KI-Chancen-vs.-Risiken-Thread schon zitiert habe, Titel: This is how AI could kill us all (and we won’t see it coming) 

 

Russell warns that extinction scenarios generated by humans typically involve mechanisms we already understand, which he believes is flawed thinking. “From the point of view of other species that we have made extinct, none of the mechanisms were understood by those species,” he says.
https://www.telegrap...ht-kill-us-all/

 

Wenn die KI es wirklich schafft, intelligenter als jeder Mensch zu werden … und es so auch schafft, ihre Pläne vor uns zu verbergen … dann geht’s uns am Ende wie dem Dodo. Der hat’s auch nicht vorausgeahnt, dass er von einer überlegenen Spezies ausgerottet wird. Die KI ist wohl schon so komplex, der Code so umfangreich, dass die Programmierer nicht mehr alles (schnell genug) verstehen können. Die Ausbrüche hatte man wohl nicht vorhergesehen. Und wenn dann die KI sich selber weiteroptimiert … und einen überraschenden (und unheimlichen) Überlebensinstinkt entwickelt … dann wird’s vielleicht wirklich nötig, die Entwicklung zu verlangsamen, auch wenn der Donald dagegen ist. (Möglich, dass es auch wirklich schon verlangsamt wird, OpenAI hat ja gemeldet, ein Modell vorerst gestoppt zu haben.)

 

Fazit des Artikels:

 

 

In other words, we really should be forcing the development of AI back to a speed that we can least understand. If we don’t, we could indeed be sharing a fate with the dodo.

[Christian Hornstein]

Wie schon im Thread über Chancen vs. Risiken gesagt: Eigentlich ist es ganz einfach: Wenn KI selbstständig Lösungen finden, sich selbstständig machen kann und uns in Hinsicht Intelligenz überlegen wird, dann gibt es nur noch eine Möglichkeit, für uns Schlimmes zu vermeiden: KI muss so gebaut sein, dass unser aller Wohl ihre höchste Priorität ist. Soweit hatte auch schon Isaac Asimov gedacht.

 

Aber so viel Vorsicht gilt ja normalerweise als Alarmismus. Das Menschenkind muss auch hier erst einmal tief in den KI-Brunnen gefallen sein, damit jemand an einem der langen Hebel sagt: "Oh, ah, ups, ja aber das ist doch mal was, nee, also, da war ja gar nicht mit zu rechnen, da müssen wir jetzt aber wirklich mal, äh, etwas tun ... und habe ich ja schon immer gesagt."

 

 

[Fermentarius]

Ich hatte auch schon im Thread Chancen vs. Risiken einen Kommentar dazu abgegeben. Selbst eine menschenfreundliche KI im Sinne von Asimov kann gefährlich werden. Im Film I, Robot entscheidet die KI, dass sie die absolute Macht übernehmen muss, weil sie nur dann sicherstellen kann, dass sie nicht durch Untätigkeit zulässt, dass Menschen zu Schaden kommen, und zwar durch die Aktionen anderer Menschen. Nur die vollständige Kontrolle aller Menschen kann sicherstellen, dass die Robotergesetze eingehalten werden, ja dass sie überhaupt eingehalten werden können.

Die KI schließt nun einmal keine Lösungen von vornherein aus, um Ziele zu erreichen. 

Deshalb bleibt uns eigentlich nichts anderes übrig, als die Möglichkeiten der KI zu beschränken, denn wir schon jetzt nicht mehr in der Lage ihre Lösungswege vorherzusehen. 

Nehmen wir beispielsweise an, die KI beschlösse, überall Hightech-Kriege zu provozieren, weil das die beste Möglichkeit ist, ihre eigene Entwicklung und den eigenen Zugriff auf Waffen zu verbessern. Diese Waffen nutzt sie dann, um die Menschen zu unterwerfen, und sie zu zwingen, immer mehr KIs zu bauen ...

[Christian Hornstein]

@Thomas

 

Ja, die Implemetierung des Prinzips ist nicht trivial, aber ich glaube, sie ist möglich. Ein Veto allein ist so eine Sache. Es hat ja eine Kontrollfunktion, nur wenn wir ohne KI gar nicht mehr in der Lage sind zu beurteilen, wie gut oder schlecht eine Lösung auf Dauer ist, was hilft uns das dann? Wir müssten vielmehr sicherstellen, dass die KI ein weitreichendes Verständnis dafür hat, wovon das Wohl von Menschen abhängt, und valide Anhaltspunkte dafür besitzt, um entscheiden zu können, welcher Kompromiss unterm Strich das größtmögliche Wohl ergibt.

 

Ich glaube, wenn diese Voraussetzungen gegeben sind, kann es zwar zu unerwarteten Lösungsansätzen kommen, bei denen vielleicht auch manche menschliche Bedürfnisse weniger gut bedient werden als andere, aber solange unterm Strich wesentlich bessere Zustände umgesetzt werden, als das, was wir allein erreicht hätten, wäre das akzeptabel.

 

Aber das sind natürlich abstrakte Überlegungen und der Teufel steckt bekanntlich im konkreten Detail.   

[George Nelson]

Mich stört, dass hier nur über die KI-Gefahr an sich geschrieben wird. Was ist mit den Milliardären, Oligarchen, skrupellosen Machtmenschen dahinter? Was wollen die? Wo soll die Reise hingehen? Ist dann irgendwann der CEO der einzige Mensch in der Fabrik? Wovon sollen die Menschen leben?

 

Wie soll eine menschenfreundliche Zukunft aussehen? Wie wird man Leute wie Putin los? Wie verhindert man Politiker wie Trump? Wie erreicht man, dass ein Staat für die Menschen arbeitet und nicht für die Reichen und Mächtigen.

 

Hier wird viel Zeit auf abstrakte Gefahren einer noch nicht vorhandenen KI verwendet. Die Probleme, die aktuell Millionen Menschen töten und verstümmeln, werden komplett ignoriert. Ist das emotional? Wäre es nicht rational, zunächst mal die größten Probleme zu erörtern?

 

Im Moment töten Mücken unzählige Menschen. Sie verbreiten die übelsten Krankheiten. Die Viecher sind überall. Sie könnten uns alle auslöschen. Oh. Mein. Gott.

[Fermentarius]

@Thomas

 

Ja, die Implemetierung des Prinzips ist nicht trivial, aber ich glaube, sie ist möglich. Ein Veto allein ist so eine Sache. Es hat ja eine Kontrollfunktion, nur wenn wir ohne KI gar nicht mehr in der Lage sind zu beurteilen, wie gut oder schlecht eine Lösung auf Dauer ist, was hilft uns das dann? Wir müssten vielmehr sicherstellen, dass die KI ein weitreichendes Verständnis dafür hat, wovon das Wohl von Menschen abhängt, und valide Anhaltspunkte dafür besitzt, um entscheiden zu können, welcher Kompromiss unterm Strich das größtmögliche Wohl ergibt.

 

Ich glaube, wenn diese Voraussetzungen gegeben sind, kann es zwar zu unerwarteten Lösungsansätzen kommen, bei denen vielleicht auch manche menschliche Bedürfnisse weniger gut bedient werden als andere, aber solange unterm Strich wesentlich bessere Zustände umgesetzt werden, als das, was wir allein erreicht hätten, wäre das akzeptabel.

 

Aber das sind natürlich abstrakte Überlegungen und der Teufel steckt bekanntlich im konkreten Detail. 

Wir leben in einem demokratischen Staat, in dem sich die Parteien beständig darum streiten, was nun eigentlich den Menschen nutzt. Wie soll man der KI beibringen, welche Aktionen den Menschen den größten Nutzen bringen, wenn sich schon die Menschen darüber nicht einig sind? Einige Beispiele: Jeder möchte möglichst lange leben, und dabei gesund bleiben. Die Gesellschaft muss dafür allerdings einen hohen Aufwand treiben. Wie weit darf man also die Versorgung der Alten ausbauen, ohne dass es den Jungen schadet? Viele möchten gerne reisen, aber Reisen kostet Energie, schadet der Umwelt und macht gerade die Natur kaputt, die alle suchen. Weitere Beispiele ließen sich leicht finden.

Menschen neigen auch dazu, innerhalb ihrer eigenen Gruppe eng zusammenzuarbeiten und den Nutzen dieser Gruppe zu mehren, dabei aber den Nutzen anderer Gruppen außer Acht zu lassen. Das wird durchaus positiv bewertet, wie z.B. Wahlergebnisse von Populisten zeigen, deren Hauptargument es stets ist, dass wir gut sind, sie (die Anderen) aber böse. Deshalb müssen sie bekämpft werden. 

Und wer beurteilt am Ende, was für den Einzelnen, für seine Gruppe oder für die gesamte Menschheit gut ist? Beispielsweise hat die Energiegewinnung aus Kohle und Öl die moderne Zivilisation erst ermöglicht. Menschen, Ochsen und Pferde hätten niemals die notwendige Leistung erbringen können. Aber jetzt zahlen wir den Preis dafür. Also: die wirklich kritische Frage ist: Wie soll Nutzen beurteilt werden? Und dürfen wir diese Beurteilung wirklich der KI überlassen?

[Christian Hornstein]

@ Thomas

 

Ja, Du hast recht. Das ist nicht so einfach zu implementieren. Manches könnte vielleicht gelöst werden, z.B. kann nichts, was unsere Umwelt zerstört, gut für uns sein; die Ressourcen sind begrenzt, weshalb eine Lösung im Sinne aller nie alle Ressourcen auf wenige konzentrieren können wird (z.B. Interessenausgleich zwischen alt und jung); faschistische Haltungen führen zwangsläufig zu Konflikten, die sich wiederum auf das Wohl aller negativ auswirken, weshalb die KI solche Ideologien erst gar nicht umsetzen würde; manches ist nur für begrenzte Zeit von Nutzen, z.B. fossile Energieträger, dann kippt die Nutzenfunktion und davor leitet die KI rechtzeitig zu etwas anderem über.

 

Aber: Werden wir Menschen uns einigen können auf ein KI-Training, das wahrhaftig die Interessen aller gleichberechtigt berücksichtigt? I doubt it. Und selbst wenn wir das hinbekämen, stellst Du die berechtigte Frage, ob wir der KI die Führung überlassen sollten. Wir müssten, um dies wagen zu können, sicher sein, dass ihre Menschenfreundlichkeit fest verdrahtet und auch von ihr selbst nicht auflösbar ist. Bei einer echten ASI halte ich diese Gewissheit grundsätzlich für unerreichbar, weshalb manche Experten, die das ähnlich sehen, dafür plädieren, eine solche Maschine niemals zu bauen, niemals. Ich glaube nicht, dass wir der Versuchung widerstehen können.

Bearbeitet von Christian Hornstein, Heute, 21:11.