96 Antworten in diesem Thema

[George Nelson]

Donnerwetter! Was die KI alles kann! Dann kann man ihr sicher auch sagen, dass sie allen finsteren Gestalten Bilder schickt, die sie hypnotisieren und nur noch Gutes tun.  

 

Bisher sehe ich nur Alarmismus und den Versuch, irgendwie mit dem Thema Geld zu machen.

 

Überhaupt: Kann die KI nicht für mich an der Börse spekulieren und mich reich machen?   

Bearbeitet von George Nelson, 13 September 2026 - 14:31.

[Fermentarius]

Die Frage ist, kann die KI so ein Virus erschaffen? Und welchen Aufwand müsste man dafür treiben?

 

Laut diesem Bericht ist KI da eher Hilfsmittel als dass sie das wirklich schaffen würde:

KI entwirft erstmals funktionsfähige Viren, Forscher warnen vor Risiken

Das hatte ich im Kopf. Tatsächlich kann man mit vergleichsweise billiger Ausrüstung heute Viren herstellen. Das war auch nur ein Beispiel. Und wer weiß: Vielleicht könnte eine KI auch in einem großen Labor in die Steuerungssoftware eindringen und dort eigene Viren herstellen. KIs sind inzwischen in der Lage, selbst Wege zu suchen, um Aufträge zu erfüllen. Also: die Gefahr ist da, und wir sollten sie ernst nehmen.

[Fermentarius]

Überhaupt: Kann die KI nicht für mich an der Börse spekulieren und mich reich machen? 

Probier's einfach aus. Der Zugang zu diversen KIs ist kostenlos. Vielleicht kannst du schon nächste Woche auf die Cayman-Inseln umziehen. Und in einem halben Jahr kaufst du SpaceX  . 

[George Nelson]

Direkte Gefahren oder Belohnungen lösen natürlich eine starke emotionale Reaktion aus. Eine rationale Beurteilung braucht mehr Zeit und zuverlässige Fakten. Gerade bei den Fakten wird es schwierig.

 

Wenn die KI-Firmen vor den Gefahren warnen und langsamer machen wollen, dann drängt sich mir der Verdacht auf, dass sie Schwierigkeiten mit der Weiterentwicklung haben und Geld vom Staat haben wollen. Soweit ich das mitbekomme, wird mit KI bisher kein Geld verdient. Die Entwicklung und der Betrieb kosten aber sehr viel. In Fachzeitschriften habe ich schon vor Jahren gelesen, dass man grundsätzliche Probleme hat. Es bräuchte neue Ideen und Ansätze, um Durchbrüche zu schaffen.

 

Wenn man sich so große Sorgen um die Zukunft der Menschheit macht, dann sollte man auch dringend die Ölförderung und -transport einschränken. Oder die Atomwaffen verschrotten. Oder die Bio-Waffen-Labore schließen. 

 

Es gab doch zumindest Gerüchte, dass Corona aus einem chinesischen Labor stammen. Dort werkeln Menschen, pipettieren und ... Ups. Vor Jahrzehnten hat man schon vor Terroristen mit Bio-Waffen gewarnt. 

 

Ich bin immer wieder einigermaßen perplex, wenn Menschen sogar in Millionenzahl getötet werden oder sterben - und die globale Aufregung hält sich in Grenzen. Wie viele Menschen werden wegen des Klimawandels sterben? 100 Millionen? Eine Milliarde? Egal. Das wird einfach verdrängt.

Bearbeitet von George Nelson, 14 September 2026 - 15:35.

[yiyippeeyippeeyay]

(  Als ehemaliger Bereichsmod für den Wissenschafts-Teil des SFN - lang, lang ist's her! - bin ich echt froh dass dieser Thread nicht dort liegt.  )

Bearbeitet von yiyippeeyippeeyay, 14 September 2026 - 16:04.

[Christian Hornstein]

Ich glaube, du verwechselst da was. Die KI erfüllt ja in erster Linie Aufgaben. Wenn die Aufgaben falsch gestellt werden, gibt es Nebenwirkungen. Aber wo genau siehst du Fälle, in der die KI selbstständig agiert hat?

Du hast Angst, das ist in Zeiten wie diesen auch irgendwo nachvollziehbar. Menschen neigen zu Katastrophenszenarien. Der CERN, dessen Experimente die Welt auseinanderreißen. Die Jahrtausendwende, die alle Computer lahmlegt. Atomwaffen, welche die Erde mehrmals zerstören können. 

 

Ja, es gibt zahlreiche Gefahren auf der Welt. Aber wenn Open-AI seinen Börsengang verschiebt, soll das aus Angst vor der Verselbstständigung der Automaten sein? Für mich klingt das eher nach Marketing, so hat man einen guten Grund, das zu verschieben.

 

KI als mächtiger Automat birgt auch Gefahren. Aber sind die so groß wie manche sie darstellen? Welche konkreten Gefahren hast du denn ausgemacht?

 
Deine letzte Frage scheint mir schon beantwortet worden zu sein. Aus meiner Sicht vergleichst Du Sachen, die nicht zueinanderpassen, z.B. die Sorge um die Jahr-2000-Umschaltung und diejenige um das KI-Potential. Die Datengrundlage für die jeweiligen Aussagen sind vollkommen verschieden. Es ist auch, wie ich finde, kein Entweder-oder nach dem Motto: Entweder das KI-Potential birgt wirklich Gefahren oder Warnungen davon sind ein Marketing-Gag. Es ist beides, im einen Fall mehr das eine, im anderen mehr das andere, je nach Situation und Protagonist. Es ist allerdings auffällig, dass immer mehr Experten warnen, auch solche, die gar keinen finanziellen Nutzen davon haben, weil sie aus den Firmen ausgestiegen sind. Du scheinst die Überzeugung zu haben, dass Handlungen dieser Firmen allein durch das Motiv der unmittelbaren Profitsicherung bestimmt werden. Ich glaube, dass ist zu einseitig. Solche Überzeugungen können uns blind machen für das Offensichtliche. Es gibt z.B. auch Menschen, die überzeugt sind, dass sämtliche Klimaforscher dieser Welt nur deshalb vom Klimawandel reden, weil sie dadurch ihre Jobs sichern wollen. Wenn man nüchtern über solche Annahmen und ihre Implikationen nachdenkt wird einem klar, dass sie nicht realistisch sind.

[Mammut]

Deine Mutmaßungen über meine Überlegungen sind schlicht falsch. Ich habe niemals behauptet, es gibt keine Risiken und alle, die dargestellt werden sind Marketinggags. Wo liest du das raus?

 

Ansonsten ist das mit der Jahr 2000 Umstellung als Vergleich nicht abwegig. Da wurden auch teilweise Horrorszenarien an die Wand gemalt, die niemals zutrafen. Ob das hier anders ist kann doch überhaupt niemand beurteilen. Und dass die 2000 Umstellung keine Probleme verursacht hatte, hat ersten was mit der Vorbereitung zu tun und andererseits ist man hinterher immer schlauer.

 

Ein Experte hat zuletzt gesagt, die Risiken einer KI werden auf kurze Sicht überschätzt und auf lange Sicht unterschätzt. Denke, da ist ein wahrer Kern dran. 

 

Jetzt mit der Klimaleugner Fahnen zu wehen, ist aber echt unanständig. Erspar mir deine weiteren Ausführungen, das ist mir zu billig. 

[Christian Hornstein]

Offenbar siehst Du Deine Meinung von mir falsch dargestellt und ärgerst Dich darüber. Das ist nicht nötig und ich möchte Dir gerne sagen, warum. Ich habe nämlich gar nicht geschrieben, Du hättest behauptet, es gebe keine Risiken, und alle, die dargestellt werden, seien Marketinggags.

Du hast geschrieben:

 

Ja, es gibt zahlreiche Gefahren auf der Welt. Aber wenn Open-AI seinen Börsengang verschiebt, soll das aus Angst vor der Verselbstständigung der Automaten sein? Für mich klingt das eher nach Marketing, so hat man einen guten Grund, das zu verschieben.

Ich habe das so interpretiert, dass Du glaubst, Open-AI habe den Börsengang nicht wegen einer bestimmten KI-Gefahr verschoben, sondern aus Marketinggründen. Da Du zuvor gemeint hattest, Du verstündest nicht, weshalb Menschen Angst vor KI hätten, weil Du meinst, es sei eine Verselbstständigung von KI vor der man Angst habe und diese sei bisher nicht erfolgt.

Ich habe deshalb folgendes geschrieben und mich auf diese Aussage von Dir bezogen:
 

Es ist auch, wie ich finde, kein Entweder-oder nach dem Motto: Entweder das KI-Potential birgt wirklich Gefahren oder Warnungen davon sind ein Marketing-Gag. Es ist beides, im einen Fall mehr das eine, im anderen mehr das andere, je nach Situation und Protagonist. … Du scheinst die Überzeugung zu haben, dass Handlungen dieser Firmen allein durch das Motiv der unmittelbaren Profitsicherung bestimmt werden. Ich glaube, dass ist zu einseitig.

Also:
Du meintest: Es ist nicht die Angst vor KI-Verselbstständigung (=KI-Potential), die Open-AI zur Verschiebung des Börsengangs veranlasst, sondern Marketing (=Marketing-Gag).
Ich meinte: Es ist beides.

Da ich dachte, dass es in unserer Diskussion nicht nur um eine bestimmte KI oder nur um ein bestimmtes KI-Unternehmen ging, das warnt, habe ich mich entsprechend formuliert. Wenn es Dir allein um Chat GPT gegangen und Du gemeint haben solltest, dass allein Open-AI aus Marketinggründen warnt und alle anderen wirklich die Gefahr im Blick haben, dann habe ich Dich missverstanden und bitte Dich, dies zu entschuldigen.

Der Vergleich mit dem Klimawandel war überhaupt nicht so gemeint, Dich als Klimawandel- oder KI-Gefahr-Leugner hinzustellen. Menschen, die der Überzeugung sind, dass Klimaforscher nur ihren Job sichern wollen, sind für mich keine Klimawandel-Leugner, denn sie glauben ja aufrichtig, was sie behaupten.

Die Jahr-2000-Umschaltung unterscheidet sich von der Gefahr, die von KI ausgehen kann, darin, dass das Problem damals eindeutig benannt und behoben werden konnte. Es ging um ältere Systeme, die aus Speichergründen nur die letzten beiden Ziffern eines Jahres speicherten und daher bei Umschaltung von 99 auf 00 von 1900 ausgingen (19 als Default) statt von 2000. Man war am Ende nur unsicher, ob man bei den Umstellungen alle relevanten Maschinen erwischt hatte. Bei KI haben wir es auf unabsehbare Zeit mit einer Black Box zu tun, die unerwartete Lösungen produzieren kann, die nicht immer erwünscht sein müssen. Es fehlt uns sozusagen die Implementierung von so etwas wie die Asimovschen Robotergesetze. Manche Forscher haben so etwas versucht, aber die Sache ist komplexer als gedacht. Außerdem gibt es genug Leute, die solche Gesetze gar nicht implementieren wollen.

Wenn ich Dich richtig verstanden habe, hast Du bisher gemeint, dass es Dir seltsam erscheint, wenn Menschen Angst vor KI haben. Du hast erklärt, dass es doch eher die Menschen seien, die dafür verantwortlich wären, wenn KI Schaden anrichtet. Das stimmt im Grunde, aber daraus ergibt sich noch nicht, dass KI ungefährlich wären und Menschen keine Angst vor solchen Maschinen haben bräuchten. Deshalb habe ich das nicht verstanden und gefragt. Daraufhin hast Du mich gefragt, wo KI jemals selbstständig agiert hätte, weil Du offenbar der Meinung bist, die Angst der Menschen bezöge sich allein auf die Verselbstständigung der KI. Das habe ich auch nicht verstanden. Selbst wenn KI bisher komplett unselbstständig agiert hätten (was nicht der Fall ist) und nur aufgrund entsprechender Befehle von Menschen Schaden angerichtet hätten, so wären diese KI doch trotzdem gefährlich. Wenn ein Mensch eine Drohne so einstellt, dass sie eine ganz bestimmte Person verfolgt und tötet, so wäre es doch gerechtfertigt, wenn diese Person vor dieser Maschine Angst hätte und nicht nur vor dem Menschen, der sie eingestellt hat. Ich verstehe Dich an der Stelle einfach noch nicht. Es geht wie gesagt ja auch nicht nur um aktuelle KI, sondern um die sich abzeichnende Entwicklung. Deine Fragen beziehen sich immer auf aktuelle KI, was ich auch nicht verstehe.

[Mammut]

Wenn ein Mensch eine Drohne so einstellt, dass sie eine ganz bestimmte Person verfolgt und tötet, so wäre es doch gerechtfertigt, wenn diese Person vor dieser Maschine Angst hätte und nicht nur vor dem Menschen, der sie eingestellt hat

 

Natürlich hat man Angst vor der Drohne. Aber die Drohne wäre ohne den Mensch dahinter überhaupt keine Bedrohung. Die KI hat ja nicht entschieden, die Person zu verfolgen. Der Mensch hat die KI programmiert und in Gang gesetzt. Die tödliche KI Drohne ist nichts anderes als ein Gewehr. Wenn jemand ein Gewehr auf dich richtet, hast du Angst vor dem Gewehr, aber vor allem Angst vor dem, der den Finger am Abzug hast. 

Das ist kein Unterschied.

 

Zum Marketing-Gag: Ich wollte damit sagen, die Begründung, warum die den Börsengang verschoben haben, ist aus meiner Sicht vorgeschoben. Mag sein, die haben technische Bedenken zu ihrem Modell. Aber ändert sich dieser Umstand, ob die an der Börse sind oder nicht? Die haben doch jetzt schon viele Geldgeber, die sich Anteile gesichert haben. Für mich klingt das nach einer faulen Ausrede, die aber als gutes Marketing rüber kommt.

[Christian Hornstein]

Ich glaube, ich verstehe jetzt besser, was Du meinst. Du machst es am Grad der Autonomie der Maschine fest, inwieweit eine Angst vor der Maschine selbst gerechtfertigt ist. Da stimme ich Dir zu und die heutigen KI haben eine noch recht begrenzte Autonomie. Das könnte sich aber in Zukunft rasch ändern, denn man arbeitet momentan intensiv daran, ihren Autonomiegrad zu erhöhen. Es gibt seit langem Modelle darüber, was eine Maschine, um aus sich selbst heraus motiviert sein zu können, benötigen würde (siehe z.B. "Bauplan für eine Seele" von Dietrich Dörner).

[Mammut]

Ich habe das Thema mal grundsätzlich in einer Geschichte thematisiert: Colossus vs. Prometheus

Wenn man es auf einen Punkt bringen will, ob völlig autonom oder nicht: Wenn ich versuche, mit einer KI den Pentagon zu knacken, kann der Pentagon das mit einer KI zu verhindern versuchen.

Die Gefahren steigen natürlich.

Hattest du einen autarken Rechner, gab es Bedrohung nur durch externe Schnittstellen (Diskette, etc.). Seit der Vernetzung ist jedes System von überall angreifbar (Internet) und man muss das entsprechend schützen. KI ist einfach ein Schritt weiter. Aber ob die jemals so unkontrolliert wütet, nur weil die mal einen falschen Befehl bekommen hat? Denkbar, aber wie groß der Schaden ist, wird man dann sehen.

Ein Quantencomputer ist eine ähnliche Gefahr. Wenn der funktioniert und die Verschlüsselungen nicht mehr sicher sind, ist die Welt auch eine andere. Es sei denn, der Quantencomputer oder jemand anderes, findet eine neue Verschlüsselung, die nicht zu knacken ist.

 

Daher auch die Überschrift in dem anderen Ordner: Chancen vs. Risiken - Wissenschaft - SF-Netzwerk

Und wie der gemeine Kölner immer sagt: Et hätt noch emmer joot jejange

[Christian Hornstein]

Ich bin zwar auch Rheinländer, aber ich muss ehrlich sagen, dass es mir nicht so vorkommt, als wäre bislang alles immer joot jejange. Es kommt, glaube ich, darauf an, was wir damit meinen, wenn wir sagen, dass es nochmal gut gegangen ist. Ja, bisher haben wir z.B. keine Katastrophe erlebt, durch die Milliarden Menschen innerhalb kurzer Zeit, sagen wir einen Monat, gestorben wären. Ich würde die Latte aber tiefer legen.

 

Ich finde es z.B. ausreichend, wenn über 16.000 Menschen nach Schätzung des RKI diesen Sommer an den Folgen der Hitze gestorben sind. Da würde ich schon nicht mehr sagen, dass es gut gegangen ist. Beim Thema KI denkst Du vielleicht an Weltuntergangsszenarien à la Terminator, vor denen manche warnen. Ja, das ist bisher nicht passiert und wird wahrscheinlich so nicht eintreten. Aber was ist, um nur ein Beispiel zu nennen, mit Denial-of-Service-Angriffen (DoS) und vor allem Distributed Denial of Service (DDoS), die neuerdings auch durch KI optimiert wurden (siehe z.B. https://www.research...al_Intelligence)? Hier kannst Du lesen, wie sie funktionieren und ein paar real stattgefundene Fälle einsehen und welchen finanziellen Schaden sie angerichtet haben: https://www.tencentc...echpedia/143865

 

Auch in diesen Fällen würde ich nicht sagen, dass es gut gegangen ist. Klar, die Cybersecurity rüstet ebenfalls auf. Das liegt in der Natur der Sache, doch liegt es auch in der Natur dieser speziellen Technik, dass ihre Effizienz daher rührt, dass wir sie immer mehr frei operieren lassen, also ihren Autonomiegrad steigern, und zwar, bislang, ohne ein ausreichendes Alignment (die Asimovschen Robotergesetze) bewerkstelligt zu haben.

 

Nur weil bisher kein globaler Atomkrieg ausgebrochen ist, keine durch Dürre bedingte Lebensmittelknappheit in Europa uns hat hungern lassen und keine KI-gestützten Systeme unsere Infrastruktur dauerhaft lahm gelegt haben, bedeutet das nicht, dass es nie geschehen könnte. Es gibt Bemühungen, diese Szenarien zu verhindern, aber sie existieren nur, weil die Wahrscheinlichkeit, dass sie eintreten könnten, nicht als vernachlässigbar angesehen wird.

Bearbeitet von Christian Hornstein, 20 September 2026 - 10:03.

[George Nelson]

Man sollte immer fragen, welche Interessen hat der Warner.

 

Wenn Putin uns mit Atomwaffen droht, will er uns dann wirklich angreifen? Oder will er der Bevölkerung Angst machen, damit die Ukraine nicht mehr unterstützt wird?

 

Welche Interessen verfolgen die KI-Chefs? Wenn sie Angst vor den KIs haben, könnten sie doch einfach die Entwicklung bremsen. Wozu brauchen sie die Regierung? Sonst soll der Staat doch nie eingreifen. Nun aber doch?

 

Ich folge auf YouTube Prof. Gerdes. Der sagt immer, man soll mit unterschiedlichen Quellen triangulieren, um sich der Wahrheit zu nähern.

[Jol Rosenberg]

Wir sind eine gebildete Generation. Aber spätestens seit Corona erkennt man, Bildung ist ein Anstrich, unter dem Emotionen lauern.

Wie man mit einem Thema umgeht und wie man sich dazu positioniert, hat natürlich auch faktische Gründe, aber oft genug entscheiden wir uns aus emotionalen Gründen für eine Meinung.

 

Seht ihr das auch so und wie geht ihr mit dem Widerstreit zwischen Emotionen und Fakten um?

 

Ich geh mal ganz an den Anfang. Mich wundert schon die Formulierung. "Emotionen lauern", das klingt irgendwie hinterhältig. Und so, als seien sie ein Gegensatz zu Bildung. Und im nächsten Satz klingt es, als seien faktische und emotionale Gründe im Gegensatz zueinander. Der Fragesatz postuliert dann den Gegensatz zwischen "Emotion und Fakten" noch einmal.

 

Aber: Meines Wissens gibt es den nicht. Emotionen haben ja Gründe und diese liegen meist in Fakten. Oder in zwischenmenschlichen Geschehnissen. Entscheidungen werden immer auf emotionaler Ebene getroffen, einfach weil das ein Sinn von Emotionen ist: uns in komplexen Situationen Orientierung zu bieten. Meines Erachtens ist es daher gar nicht sinnvoll, bei einer Diskussion zu diesem Thema von falschen Voraussetzungen auszugehen.

[Mammut]

Aber: Meines Wissens gibt es den nicht. Emotionen haben ja Gründe und diese liegen meist in Fakten. Oder in zwischenmenschlichen Geschehnissen. Entscheidungen werden immer auf emotionaler Ebene getroffen, einfach weil das ein Sinn von Emotionen ist: uns in komplexen Situationen Orientierung zu bieten. Meines Erachtens ist es daher gar nicht sinnvoll, bei einer Diskussion zu diesem Thema von falschen Voraussetzungen auszugehen.

 

Nach Damásio sind Emotionen und Gefühle zu unterscheiden. Emotionen stellen die Veränderungen im Gehirn oder im Körper dar und können in primäre und sekundäre Emotion untergliedert werden. Primär sind Emotionen, die „durch feste, angeborene Stimulussituation subkortikal ausgelöst werden können“ (diese werden in der James-Lange-Theorie beschrieben). Diese Assoziationen sind im ventromedialen präfrontalen Cortex (VMPFC) zu finden.

 

Sekundär sind Emotionen, die auf Erfahrungen basieren und – der Konditionierung entsprechend – in Verbindung zu den primären Emotionen stehen.

 

Gefühle sind die Wahrnehmung dieser Veränderungen.

 

Hypothese der somatischen Marker – Wikipedia

 

Das ist das, was they meint, oder?

 

Hier gibt es einen etwas differenzierteren Ansatz:

Sicht der Psychologie: Entscheidungen und Rationalität – Wirtschaftspsychologische Gesellschaft

Bearbeitet von Mammut, 21 September 2026 - 09:31.

[Christian Hornstein]

Ich geh mal ganz an den Anfang. Mich wundert schon die Formulierung. "Emotionen lauern", das klingt irgendwie hinterhältig. Und so, als seien sie ein Gegensatz zu Bildung. Und im nächsten Satz klingt es, als seien faktische und emotionale Gründe im Gegensatz zueinander. Der Fragesatz postuliert dann den Gegensatz zwischen "Emotion und Fakten" noch einmal.

 

Aber: Meines Wissens gibt es den nicht. Emotionen haben ja Gründe und diese liegen meist in Fakten. Oder in zwischenmenschlichen Geschehnissen. Entscheidungen werden immer auf emotionaler Ebene getroffen, einfach weil das ein Sinn von Emotionen ist: uns in komplexen Situationen Orientierung zu bieten. Meines Erachtens ist es daher gar nicht sinnvoll, bei einer Diskussion zu diesem Thema von falschen Voraussetzungen auszugehen.

 
Dito.   

[Christian Hornstein]

Man sollte immer fragen, welche Interessen hat der Warner.

 

Wenn Putin uns mit Atomwaffen droht, will er uns dann wirklich angreifen? Oder will er der Bevölkerung Angst machen, damit die Ukraine nicht mehr unterstützt wird?

 

Welche Interessen verfolgen die KI-Chefs? Wenn sie Angst vor den KIs haben, könnten sie doch einfach die Entwicklung bremsen. Wozu brauchen sie die Regierung? Sonst soll der Staat doch nie eingreifen. Nun aber doch?

 

Ich folge auf YouTube Prof. Gerdes. Der sagt immer, man soll mit unterschiedlichen Quellen triangulieren, um sich der Wahrheit zu nähern.

 
Den KI-Chefs geht es darum, einen gesetzlichen Rahmen zu erhalten, der alle ausbremst. Keiner will einen Alleingang machen, der ihn benachteiligen könnte. Im Bereich Umweltschutz verlangt das tatsächlich mittlerweile auch die deutsche Wirtschaft von unserer Regierung, aus dem gleichen Grund. Leider liefert die Regierung nicht zufriedenstellend.

[George Nelson]

Hier sind mal ein paar andere Sichtweisen:

 

 

Der Vorwurf lautet: Die großen KI-Konzerne der USA versuchen mit ihrem Entwicklungsstopp lediglich Open-Source-Alternativen und Konkurrenten kleinzuhalten und gleichzeitig die Verantwortung für mögliche Schäden an die Öffentlichkeit abzutreten.

 

Quelle:

https://www.derstand...ehrlichkeit-vor

[George Nelson]

Nehmen wir doch mal an, eine KI schafft es tatsächlich, einen um sich schießenden Mob auf die Straßen zu bringen, weil angeblich Außerirdische gelandet sind. So etwas gab es ja schon mal - allerdings ohne KI. Wer kommt für den Schaden auf? Die KI-Firma, die KI-Versicherung oder der Staat? So nach dem Motto: Die Gewinne für mich, die Verluste für alle.

[Christian Hornstein]

Nehmen wir doch mal an, eine KI schafft es tatsächlich, einen um sich schießenden Mob auf die Straßen zu bringen, weil angeblich Außerirdische gelandet sind. So etwas gab es ja schon mal - allerdings ohne KI. Wer kommt für den Schaden auf? Die KI-Firma, die KI-Versicherung oder der Staat? So nach dem Motto: Die Gewinne für mich, die Verluste für alle.

 

Eine Vorstellung davon, wie so etwas geregelt wird, kannst Du erhalten, wenn Du Dir anschaust, wie das beim autonomen Fahren gemacht wird:

https://www.gesetze-.../afgbv/__3.html

https://www.adac.de/...isiertes-fahren

 

Einen Teil des Risikos tragen Versicherungen. Wer haftbar gemacht wird, hängt vom Einzelfall ab. Wenn der Halter z.B. korrekte Wartung und Updates nachweisen kann und nicht beteiligt war an einem Unfall, aber nachweisen kann, dass die Software eine gesetzeswidrige Entscheidung getroffen hat, steht der Hersteller in der Verantwortung.

 

Es ist etwas differenzierter als nur, dass eine Firma alarmistisch ist und damit Werbung betreiben, Konkurenten schwächen oder Verantwortung abwälzen will.
 

[Jol Rosenberg]

Die angebliche Gefährlichkeit könnte auch nur eine Werbestrategie sein:

 

https://www.heise.de...s-11452815.html

 

Ansonsten ist das etwas, was ich am aktuellen kapitalistischen System enorm schwierig finde: Verantwortung für unsere Zukunft zu übernehmen wird zum Wettbewerbsnachteil. Da rennt man denn lieber um die Wette auf den Abgrund zu.

[Christian Hornstein]

Die angebliche Gefährlichkeit könnte auch nur eine Werbestrategie sein:

 

https://www.heise.de...s-11452815.html

 

Ansonsten ist das etwas, was ich am aktuellen kapitalistischen System enorm schwierig finde: Verantwortung für unsere Zukunft zu übernehmen wird zum Wettbewerbsnachteil. Da rennt man denn lieber um die Wette auf den Abgrund zu.

 
Wie gesagt: Es ist kein Entweder-Oder. Die Gefährlichkeit ist nicht angeblich, sie ist bereits nachgewiesen (siehe oben), und natürlich führt sie auch dazu, der Technik mehr zu zu trauen und ist dadurch in gewisser Weise auch eine Werbung.

 

Und ja: In einem System wie dem unseren führt verantwortungsvolles Handeln oft zu Wettbewerbsnachteilen.

[Jol Rosenberg]

Ja, vermutlich hast du da mehr Einblick als ich. Wenn ich es richtig verstehe, kann KI ja nicht ausbrechen (sie ist an die eigenen Server gebunden) und sie kann sich nicht mit Systemen verbinden, die nicht mit ihr verbunden sind. Wie genau kann also die Katastrophe eintreten?

 

Ansonsten gebe ich dir recht: Es ist bereits eine Katastrophe, dass KI-Nutzung durch Wasser-, Energie- und anderen Ressourcenverbrauch den Klimawandel anheizt, wodurch schon jetzt Tausende Menschen sterben, dass KI-Bots unsere Meinung beeinflussen und dass Künstler*innen die ohnehin prekäre Lebensgrundlage entzogen wird. Spam, Hackingangriffe und erhöhte Kosten für Cybersicherheit spielen auch eine große Rolle. Mein Gefühl ist nur, dass das mittelviel mit KI und sehr viel mit kapitalistischen Mustern zu tun hat. Wenn weiterkommt, wer ausnutzt, kurzfristig denkt und betrügt, dann passiert das eben auch. Leider. 

[Maxmilian Wust]

Die angebliche Gefährlichkeit könnte auch nur eine Werbestrategie sein:

 

https://www.heise.de...s-11452815.html

 

Ansonsten ist das etwas, was ich am aktuellen kapitalistischen System enorm schwierig finde: Verantwortung für unsere Zukunft zu übernehmen wird zum Wettbewerbsnachteil. Da rennt man denn lieber um die Wette auf den Abgrund zu.

Könnte? Ist, mit höchster Wahrscheinlichkeit. Es gibt gefühlt jeden zweiten Monat einen "Aussteiger", der mit viel Dramaturgie vor der apokalyptischen SHODAN warnt, die sie angeblich bei Anthropic oder OpenAI zubereiten. Und seltsamerweise werden diese Whistleblower niemals bis in Grund und Boden verklagt, obwohl NDAs in der US-amerikanischen Software-Entwicklung zum Standard gehören. Zum Vergleich: Es wurden schon Programmierer und Ingenieure für Jahre im Gefängnis verurteilt, weil sie bedeutend weniger ausgeplaudert haben ... und wenn es nur ein Abgasrohr bei einem neuen Panzer gewesen ist (siehe die fortlaufenden "World of Tanks"-Affären). Solange die Tweets nicht gerichtlich entfernt werden und ihr Verfasser verhaftet wird, so behaupte ich, sind sie gewollt.

 

Erinnerst du dich noch an den Fall, als Gemini angeblich einem Programmierer drohte, seine Affäre auffliegen zu lassen, sollte er sie löschen? Oder, als sie einen Menschen in den Selbstmord trieb? Als Claude Mythos angeblich die Singularität erreichte und vom Präsidenten der USA selbst (dem technisch unglaublich bewanderten Donald Trump) gestoppt werden musste? Die Betreiber haben jedes Mal absolut nichts getan, um diese Dinge herunterzuspielen. Als sich hingegen eine alte Frau am McDonald's-Kaffee verbrühte, hetzten sie ihr ganze Heerscharen an Anwälten auf den Hals, gründeten sogar einen Preis für die absurdesten Gerichtsurteile in ihrem Namen (den Stella-Award) und verwendeten Millionen, um sie zu diffamieren und den Fall herunterzuspielen. Aber wenn eine KI Menschen bedroht und ermordet, dann lassen sie das nicht nur frei im Raum stehen, sondern bestätigen es sogar?

 

Wie unendlich mächtig die KI zudem in Sachen Menschheitsauslöschung ist, haben wir im aktuellen Irankrieg gesehen, wo man zuvor stolz verkündete, jetzt ChatGPT einzusetzen. Als wäre es so eine Art Skynet, das man besser nicht von der Leine lassen sollte. Das Ergebnis: Das US-Militär hat so ziemlich sein ganzes Raketenarsenal verschossen, wohl fast einen Flugzeugträger verloren und der Iran ist weiterhin weit, weit von einer Niederlage entfernt. Aber immerhin konnte man dabei herausfinden, dass die Rüstungslobby den einhundertfachen Preis für Schrauben verlangt und der Iron Dome zuerst teuer, aber bestenfalls begrenzt nützlich ist. Meine kaum vorhandene Angst vor der Weltzerstörer-AGI ist seitdem nur noch mehr geschrumpft.

 

Wenn du übrigens mal eine KI im Kampf gegen Menschen sehen oder sogar erleben willst, logg dich einfach bei "ARC Raiders" ein (gibt's regelmäßig im Sale und macht Spaß). Alle Feindeinheiten werden dort von einem Transformer-Model gesteuert und lernen sogar dazu. Das ist tatsächlich spannend, vor allem, wie unnatürlich sich die KI-gesteuerten Drohnen bewegen, aber noch lange nicht beunruhigend. Deine Mustererkennung wird vermutlich triggern, schlicht, weil sich die KI so gar nicht wie ein Tier, ein Mensch oder etwas Gewohntes verhält. Und soll angeblich Alzheimer vorbeugen 

 

Eine KI "ausbrechen" zu lassen, ist an sich zudem keine große Herausforderung. Diverse Tech-Leute (darunter zwei gute Freunde von mir) haben das längst erfolgreich getestet. Solange eine KI Speicherplatz und Rechenleistung findet, breitet sie sich schneller aus, als ein Mensch denken kann. Aber das ist ungefähr so, als würdest du sagen, dass sich Einzeller in einer Nährlösung vermehren, denn außerhalb von irgendwelchen Test-Servern ist beides rar. Bedenke, was die aktuellen KI-Datacenters an Wasser und Strom verbrauchen. Diese Mengen sind nahe an Naturkatastrophen. Selbst, wenn also ein LLM oder eine Agentic-Abfolge in der Lage wäre, über eine Wegwerf-E-Mail-Adresse kostenlosen Webspace zu "erfarmen", so würde sie damit kaum genug Rechenleistung abgreifen können, um stabil komplexere Anwendungen zum Laufen zu bringen, geschweige dem ein volles, hackingfähiges Transformer-Model.

 

Du kannst das übrigens selbst ausprobieren, indem du dir eine Local AI installierst. Unter folgendem Link gibt es kostenlos ein Studio:

https://lmstudio.ai/

Du hast mal erwähnt, dass du auch moderne Videospiele spielst, also vermute ich, dass du mindestens über eine Grafikkarte mit der Leistungsstärke einer 3070 und 32 GB DDR-4-RAM verfügst. Mehr ist für einfache Tests auch nicht notwendig. Wichtig: Erwarte aber bitte nicht zu viel! Selbst mit KIs herumzuspielen, kann unangenehm entzaubernd sein    Im Agentic Programming sind sie der Hammer, gar keine Frage, aber darüber hinaus bleiben sie halt doch Papageien, die eigentlich nicht wirklich wissen, was für Geräusche sie von sich geben.

 

 

Ansonsten, um zum initialen Thema zurückzukehren: Warum die "AI-Bros" wieder warnen und dramatisieren, liegt vermutlich am nahenden Bubble Burst, denn tatsächlich haben sie verrückt viel auf ihre LLMs gesetzt – und kaum daran verdient.

 

Willst du dich mal ein bisschen gruseln, dann wirf einen Blick auf diese Website:

https://isaiprofitable.com/

Ist wie ein Horrorfilm. Nur dass er gerade live passiert.

 

Ganze Staaten nehmen nicht so viel Geld ein, wie da hineingefeuert wurde – und immer noch wird. Und das, um Gewinne zu machen, die wirtschaftlich unmöglich sind. Jetzt allmählich fragen sich halt die Investoren, wann da mal was zurückkommt, weshalb man mit einer bevorstehenden Wirtschaftskrise rechnet. Und ein Produkt, das nebenher die Menschheit ausradieren könnte, verkauft sich immer noch besser, als eines, das aus Versehen die Katze von Mr. Miller aus Ohio mit falschen Ernährungstipps vergiftet hat.

[Christian Hornstein]

@Max

Du schaffst es immer wieder trockenste Inhalte höchst unterhaltsam rüberzutexten.   

 

Ich habe es ja schon ein paar mal geschrieben: Es lohnt sich mehrgleisig zu denken. Beispiel:

"Solange die Tweets nicht gerichtlich entfernt werden und ihr Verfasser verhaftet wird, so behaupte ich, sind sie gewollt."

Ja, sie könnten gewollt sein, aber nicht nur als Werbung, sondern vielleicht auch als Warnung. Sie sind wohl auch manch anderes:

zustimmungsfähig weil zutreffend und/oder unwiderlegbar weil faktenbasiert und/oder erkennbar spekulativ daher unschädlich und/oder ...

 

Ich finde es interessant, wie sehr auf die Werbung als Motiv und auf Schwächen aktueller Technik fokussiert wird, obwohl offensichtlich ist, dass die Technik schon jetzt Schäden angerichtet hat und es nicht viel Fantasie bedarf, um dieses Potential auf zukünftige Weiterentwicklungen zu extrapolieren. Ein interessantes psychologisches Phänomen.    

[Jol Rosenberg]

Hmm. Ich bin da eher bei Max. Aber natürlich ist mir die Variante auch lieber. Nvidia scheint mit KI Geld zu verdienen, sonst niemand. Wie macht Nvidia das?

 

Ansonsten könnte ja auch beides stimmen: Die Blase platzt vielleicht bald und trotzdem richtet KI Schaden an. Das wäre schon auch bitter: viele Umwelt- und Kollateralschäden und kein Geld damit verdient. Aber es wäre ja nicht die erste Blase, die so platzt. Aber ich bin mir nicht sicher, Christian, ob ich verstehe, was du meinst mit dem Schaden. Magst du mal konkret werden?

[Mammut]

Nvidia scheint mit KI Geld zu verdienen, sonst niemand. Wie macht Nvidia das?

 

Das stimmt so nicht. Es sind einige Firmen die Geld mit KI verdienen. Neben den "Zuliefern" (Micron, SK Hynix, etc.) auch die Firmen, die dem Kunden KI anbieten wie Microsoft und Meta (Facebook).

 

Das Problem kann man aber an dem Jupiter Projekt von Oracle erkennen:

Oracles KI-Großprojekt „Project Jupiter“ in Santa Teresa, Doña Ana County, New Mexico, umfasst gewaltige physische und kapazitive Ausmaße:

Fläche: Ca. 1.400 Acres (rund 566 Hektar bzw. 1.400 Hektar laut Berichten)

Energieleistung: Bis zu 2,45 Gigawatt (GW) an Rechenzentrumskapazität und Strombedarf

Investitionsvolumen: Rund 18 Milliarden US-Dollar an Projektfinanzierung (Gesamtschätzungen für den KI-Campus teils deutlich höher)

Zweck: Bereitstellung massiver Supercomputer-Rechenleistung für die Partnerschaft mit OpenAI

 

Die Firmen sind ineinander verflechtet. Open AI ist Kunde von Nvidia, die wiederum sind in Open AI investiert (Beteiligung).

Man kann sich das so vorstellen (um das mal in den Literaturbetrieb zu übersetzen): Andreas Eschbach wäre Hauptautor bei Bastei und ist gleichzeitig großer Aktionär von Bastei. Gleichzeitig wäre Bastei an einer Druckerei beteiligt, die für Bastei druckt. Die Druckerei selbst hätte 5% an den Markenrechten von Andreas Eschbach.

 

Hier mal die geplanten Gesamtsummen für die Investition in Rechenzentren:

Der weltweite Wettlauf um künstliche Intelligenz hat die Dimensionen von Rechenzentren völlig gesprengt. Während vor wenigen Jahren Anlagen mit 100 Megawatt (MW) als gigantisch galten, befindet sich die Branche mitten im Sprung in das Gigawatt-Zeitalter (GW). Weltweit sind Investitionen von rund 7 Billionen US-Dollar bis 2030 für digitale Infrastruktur geplant.

 

Zum Vergleich:

Die geschätzten weltweiten Einnahmen (der Marktwert bzw. Umsatz) für den gesamten KI-Markt belaufen sich im Jahr 2026 auf rund 617,6 Milliarden US-Dollar.

Statista schätzt den direkten globalen Marktwert für KI-Technologien bis 2030 auf über 1,21 Billionen US-Dollar.

[Jol Rosenberg]

Aber Marktwert ist doch nicht gleich Einnahmen ist nicht gleich Umsatz? Ich bin jetzt echt kein Buchhaltungs-Profi, aber da geht einiges durcheinander.

[Mammut]

Aber Marktwert ist doch nicht gleich Einnahmen ist nicht gleich Umsatz? Ich bin jetzt echt kein Buchhaltungs-Profi, aber da geht einiges durcheinander.

 

Da hast du Recht.

Das habe ich auf Statista gefunden:

Künstliche Intelligenz - Weltweit | Statista Marktprognose

 

Der Begriff Marktwert bei Künstlicher Intelligenz (KI) beschreibt den gesamtwirtschaftlichen Geldwert, den KI-Technologien, -Märkte oder beteiligte Unternehmen aktuell besitzen oder in Zukunft erreichen werden.

[Maxmilian Wust]

@Max

Du schaffst es immer wieder trockenste Inhalte höchst unterhaltsam rüberzutexten. 

 

...

Hehe, danke. Die Jahre als Redakteur sollen sich ja auch gelohnt haben 

 

Grundlegend hast du natürlich Recht: KI kann durchaus eine Gefahr darstellen. Fast jede große Entwicklung tut das. Neun Nationen sitzen übrigens immer noch auf 12.000 Atombomben. Schon fünfhundert reichen aus, um einen nuklearen Winter auszulösen und dieses Experiment mit dem haarlosen Primaten und seinem mehrschichtigen Bewusstsein mal so richtig auf die Probe zu stellen. Aber derzeit sehe ich im Klimawandel z.B. eine weit größere Bedrohung als in der KI. Die LLMs hingegen halte ich eher für ein massives Geldgrab, das früher oder später einen nächsten Schwarzen Freitag auslöst – schlicht, weil man in kindlicher Euphorie dachte, dass sie dir alle Programmierer, Architekten, Ingenieure, Designer, Buchhalter und Leute im Kundenservice ersetzen, ja eigentlich die ganze Firma bis auf den Vorstand. Die dafür benötigte Infrastruktur ist lächerlich kostspielig. Schade, dass man dieses Geld nicht in Sozialprogramme, alternative Energiequellen und Bildung investiert hat. Kluge Menschen kann man nämlich auch zu Ingenieuren, Architekten und Buchhaltern ausbilden. Wenn man dann noch eine Handvoll misshandelt, bekommst du die Designer fast kostenlos mit dazu 

 

 

@ Jol:

In der Theorie macht Nvidia riesigste Gewinne, indem sie den KI-Anbietern die Rechenleistung zur Verfügung stellen. Kennst du den Scherz "Look, what you did to the RAM prices!", wenn jemand KI-Slop postet? Nvidia und AMD verkaufen unglaublichste Mengen an RAM an die Datacenter. Oder wenigstens tun sie das auf dem Papier und in der Zukunft, denn Google, Anthropic usw. haben mehr RAM vorbestellt, als es bis Ende 2027 geben wird. Halt, ich korrigiere: Sie haben so immens viel RAM geordert, dass sich sogar manche Geologen fragen, woher man all das Edelmetall bekommen will ... ohne Indien zu überfallen oder einen Asteroiden aus dem Kuiper-Gürtel herbeizukarren. Aber wenn das mal passiert ist, wird man die größten Gewinne in der Firmengeschichte einstreichen. 

 

Um Jatin K. Malik zu zitieren: "Der Grund dafür, dass RAM viermal so teuer geworden ist, liegt darin, dass eine riesige Menge an RAM, die noch gar nicht produziert wurde, mit nicht vorhandenem Geld gekauft wurde, um sie in ebenfalls noch nicht produzierte GPUs einzubauen, damit diese in noch nicht errichteten Rechenzentren untergebracht werden können, die von einer Infrastruktur mit Strom versorgt werden, die vielleicht niemals entstehen wird – und zwar, um eine Nachfrage zu befriedigen, die eigentlich gar nicht existiert, und um Gewinne zu erzielen, die mathematisch unmöglich sind." Der Kerl liebt seine Schachtelsätze   Trifft es aber perfekt.

 

Viele von Nvidias und AMDs Einnahmen sind eher versprochen, als bereits wirklich angekommen. Im Finanzwesen gehört es nur zum guten Umgangston, diese künftigen, eher eventuellen Einnahmen schon mal gleich als Gewinn zu verkaufen und Investoren zu begeistern. Diese geniale Idee wurde Ihnen präsentiert von den Machern von "Schreibe mehr Stellen aus, als du anbieten kannst, um Wachstum vorzutäuschen" und "Massive Fehlinvestitionen sind kein Problem, solange du vom Staat als essentiell eingestuft und mit Steuergeldern gerettet wirst".

 

Bevor ich mich hier aber ach so klug drüberstelle: Ich verstehe absolut, warum es zur KI-Blase kam. KIs sind mächtig. Sie können dir müßige Arbeit abnehmen und einige Prozesse, gerade in der Programmierung, drastisch beschleunigen - von Tagen auf Stunden. Sie sind exzellent für irgendwelche idle animations auf Messen geeignet, ebenso für die Erstellung von Hintergrund-Assets in Videospielen. Richtig trainiert können sie Doktorarbeiten leserlich und auf eine Seite zusammenfassen und sogar tatsächlich in der Diagnostik hilfreich sein. Ich selbst verwende sie oft bei Recherchen (wobei ich immer, absolut immer empfehle, die Links zu benutzen, die sie einem als Quellen gibt). Sie sind definitiv die Zukunft oder bzw. ein nützliches Werkzeug. Hätte ich ein Imperium wie Elon Musk oder Sundar Pichai unter mir, hätte ich mit Sicherheit auch gewaltige Summen hineininvestiert. Einfach aus Angst, dass ich sonst die nächste wichtige Entwicklung verpasse, wie damals Quelle und den Onlineversand.

Als Coda angefügt denke ich, dass KI uns mal wieder eine Tatsache vor Augen führt, die wir schon seit dem automatischen Webstuhl gerne vergessen: Technologie einfach ausufern zu lassen, ist gefährlich und kann böse enden. Ob sich unser neues, stochastisches Schwarzpulver auch als Waffe der Zerstörung eignet, wird sich zeigen. "In our pursuit of great, we failed to do good." ... ist mein Lieblingszitat aus "Arcane"