38 Antworten in diesem Thema

[George Nelson]

Donnerwetter! Was die KI alles kann! Dann kann man ihr sicher auch sagen, dass sie allen finsteren Gestalten Bilder schickt, die sie hypnotisieren und nur noch Gutes tun.  

 

Bisher sehe ich nur Alarmismus und den Versuch, irgendwie mit dem Thema Geld zu machen.

 

Überhaupt: Kann die KI nicht für mich an der Börse spekulieren und mich reich machen?   

Bearbeitet von George Nelson, 13 September 2026 - 14:31.

[Fermentarius]

Die Frage ist, kann die KI so ein Virus erschaffen? Und welchen Aufwand müsste man dafür treiben?

 

Laut diesem Bericht ist KI da eher Hilfsmittel als dass sie das wirklich schaffen würde:

KI entwirft erstmals funktionsfähige Viren, Forscher warnen vor Risiken

Das hatte ich im Kopf. Tatsächlich kann man mit vergleichsweise billiger Ausrüstung heute Viren herstellen. Das war auch nur ein Beispiel. Und wer weiß: Vielleicht könnte eine KI auch in einem großen Labor in die Steuerungssoftware eindringen und dort eigene Viren herstellen. KIs sind inzwischen in der Lage, selbst Wege zu suchen, um Aufträge zu erfüllen. Also: die Gefahr ist da, und wir sollten sie ernst nehmen.

[Fermentarius]

Überhaupt: Kann die KI nicht für mich an der Börse spekulieren und mich reich machen? 

Probier's einfach aus. Der Zugang zu diversen KIs ist kostenlos. Vielleicht kannst du schon nächste Woche auf die Cayman-Inseln umziehen. Und in einem halben Jahr kaufst du SpaceX  . 

[George Nelson]

Direkte Gefahren oder Belohnungen lösen natürlich eine starke emotionale Reaktion aus. Eine rationale Beurteilung braucht mehr Zeit und zuverlässige Fakten. Gerade bei den Fakten wird es schwierig.

 

Wenn die KI-Firmen vor den Gefahren warnen und langsamer machen wollen, dann drängt sich mir der Verdacht auf, dass sie Schwierigkeiten mit der Weiterentwicklung haben und Geld vom Staat haben wollen. Soweit ich das mitbekomme, wird mit KI bisher kein Geld verdient. Die Entwicklung und der Betrieb kosten aber sehr viel. In Fachzeitschriften habe ich schon vor Jahren gelesen, dass man grundsätzliche Probleme hat. Es bräuchte neue Ideen und Ansätze, um Durchbrüche zu schaffen.

 

Wenn man sich so große Sorgen um die Zukunft der Menschheit macht, dann sollte man auch dringend die Ölförderung und -transport einschränken. Oder die Atomwaffen verschrotten. Oder die Bio-Waffen-Labore schließen. 

 

Es gab doch zumindest Gerüchte, dass Corona aus einem chinesischen Labor stammen. Dort werkeln Menschen, pipettieren und ... Ups. Vor Jahrzehnten hat man schon vor Terroristen mit Bio-Waffen gewarnt. 

 

Ich bin immer wieder einigermaßen perplex, wenn Menschen sogar in Millionenzahl getötet werden oder sterben - und die globale Aufregung hält sich in Grenzen. Wie viele Menschen werden wegen des Klimawandels sterben? 100 Millionen? Eine Milliarde? Egal. Das wird einfach verdrängt.

Bearbeitet von George Nelson, 14 September 2026 - 15:35.

[yiyippeeyippeeyay]

(  Als ehemaliger Bereichsmod für den Wissenschafts-Teil des SFN - lang, lang ist's her! - bin ich echt froh dass dieser Thread nicht dort liegt.  )

Bearbeitet von yiyippeeyippeeyay, 14 September 2026 - 16:04.

[Christian Hornstein]

Ich glaube, du verwechselst da was. Die KI erfüllt ja in erster Linie Aufgaben. Wenn die Aufgaben falsch gestellt werden, gibt es Nebenwirkungen. Aber wo genau siehst du Fälle, in der die KI selbstständig agiert hat?

Du hast Angst, das ist in Zeiten wie diesen auch irgendwo nachvollziehbar. Menschen neigen zu Katastrophenszenarien. Der CERN, dessen Experimente die Welt auseinanderreißen. Die Jahrtausendwende, die alle Computer lahmlegt. Atomwaffen, welche die Erde mehrmals zerstören können. 

 

Ja, es gibt zahlreiche Gefahren auf der Welt. Aber wenn Open-AI seinen Börsengang verschiebt, soll das aus Angst vor der Verselbstständigung der Automaten sein? Für mich klingt das eher nach Marketing, so hat man einen guten Grund, das zu verschieben.

 

KI als mächtiger Automat birgt auch Gefahren. Aber sind die so groß wie manche sie darstellen? Welche konkreten Gefahren hast du denn ausgemacht?

 
Deine letzte Frage scheint mir schon beantwortet worden zu sein. Aus meiner Sicht vergleichst Du Sachen, die nicht zueinanderpassen, z.B. die Sorge um die Jahr-2000-Umschaltung und diejenige um das KI-Potential. Die Datengrundlage für die jeweiligen Aussagen sind vollkommen verschieden. Es ist auch, wie ich finde, kein Entweder-oder nach dem Motto: Entweder das KI-Potential birgt wirklich Gefahren oder Warnungen davon sind ein Marketing-Gag. Es ist beides, im einen Fall mehr das eine, im anderen mehr das andere, je nach Situation und Protagonist. Es ist allerdings auffällig, dass immer mehr Experten warnen, auch solche, die gar keinen finanziellen Nutzen davon haben, weil sie aus den Firmen ausgestiegen sind. Du scheinst die Überzeugung zu haben, dass Handlungen dieser Firmen allein durch das Motiv der unmittelbaren Profitsicherung bestimmt werden. Ich glaube, dass ist zu einseitig. Solche Überzeugungen können uns blind machen für das Offensichtliche. Es gibt z.B. auch Menschen, die überzeugt sind, dass sämtliche Klimaforscher dieser Welt nur deshalb vom Klimawandel reden, weil sie dadurch ihre Jobs sichern wollen. Wenn man nüchtern über solche Annahmen und ihre Implikationen nachdenkt wird einem klar, dass sie nicht realistisch sind.

[Mammut]

Deine Mutmaßungen über meine Überlegungen sind schlicht falsch. Ich habe niemals behauptet, es gibt keine Risiken und alle, die dargestellt werden sind Marketinggags. Wo liest du das raus?

 

Ansonsten ist das mit der Jahr 2000 Umstellung als Vergleich nicht abwegig. Da wurden auch teilweise Horrorszenarien an die Wand gemalt, die niemals zutrafen. Ob das hier anders ist kann doch überhaupt niemand beurteilen. Und dass die 2000 Umstellung keine Probleme verursacht hatte, hat ersten was mit der Vorbereitung zu tun und andererseits ist man hinterher immer schlauer.

 

Ein Experte hat zuletzt gesagt, die Risiken einer KI werden auf kurze Sicht überschätzt und auf lange Sicht unterschätzt. Denke, da ist ein wahrer Kern dran. 

 

Jetzt mit der Klimaleugner Fahnen zu wehen, ist aber echt unanständig. Erspar mir deine weiteren Ausführungen, das ist mir zu billig. 

[Christian Hornstein]

Offenbar siehst Du Deine Meinung von mir falsch dargestellt und ärgerst Dich darüber. Das ist nicht nötig und ich möchte Dir gerne sagen, warum. Ich habe nämlich gar nicht geschrieben, Du hättest behauptet, es gebe keine Risiken, und alle, die dargestellt werden, seien Marketinggags.

Du hast geschrieben:

 

Ja, es gibt zahlreiche Gefahren auf der Welt. Aber wenn Open-AI seinen Börsengang verschiebt, soll das aus Angst vor der Verselbstständigung der Automaten sein? Für mich klingt das eher nach Marketing, so hat man einen guten Grund, das zu verschieben.

Ich habe das so interpretiert, dass Du glaubst, Open-AI habe den Börsengang nicht wegen einer bestimmten KI-Gefahr verschoben, sondern aus Marketinggründen. Da Du zuvor gemeint hattest, Du verstündest nicht, weshalb Menschen Angst vor KI hätten, weil Du meinst, es sei eine Verselbstständigung von KI vor der man Angst habe und diese sei bisher nicht erfolgt.

Ich habe deshalb folgendes geschrieben und mich auf diese Aussage von Dir bezogen:
 

Es ist auch, wie ich finde, kein Entweder-oder nach dem Motto: Entweder das KI-Potential birgt wirklich Gefahren oder Warnungen davon sind ein Marketing-Gag. Es ist beides, im einen Fall mehr das eine, im anderen mehr das andere, je nach Situation und Protagonist. … Du scheinst die Überzeugung zu haben, dass Handlungen dieser Firmen allein durch das Motiv der unmittelbaren Profitsicherung bestimmt werden. Ich glaube, dass ist zu einseitig.

Also:
Du meintest: Es ist nicht die Angst vor KI-Verselbstständigung (=KI-Potential), die Open-AI zur Verschiebung des Börsengangs veranlasst, sondern Marketing (=Marketing-Gag).
Ich meinte: Es ist beides.

Da ich dachte, dass es in unserer Diskussion nicht nur um eine bestimmte KI oder nur um ein bestimmtes KI-Unternehmen ging, das warnt, habe ich mich entsprechend formuliert. Wenn es Dir allein um Chat GPT gegangen und Du gemeint haben solltest, dass allein Open-AI aus Marketinggründen warnt und alle anderen wirklich die Gefahr im Blick haben, dann habe ich Dich missverstanden und bitte Dich, dies zu entschuldigen.

Der Vergleich mit dem Klimawandel war überhaupt nicht so gemeint, Dich als Klimawandel- oder KI-Gefahr-Leugner hinzustellen. Menschen, die der Überzeugung sind, dass Klimaforscher nur ihren Job sichern wollen, sind für mich keine Klimawandel-Leugner, denn sie glauben ja aufrichtig, was sie behaupten.

Die Jahr-2000-Umschaltung unterscheidet sich von der Gefahr, die von KI ausgehen kann, darin, dass das Problem damals eindeutig benannt und behoben werden konnte. Es ging um ältere Systeme, die aus Speichergründen nur die letzten beiden Ziffern eines Jahres speicherten und daher bei Umschaltung von 99 auf 00 von 1900 ausgingen (19 als Default) statt von 2000. Man war am Ende nur unsicher, ob man bei den Umstellungen alle relevanten Maschinen erwischt hatte. Bei KI haben wir es auf unabsehbare Zeit mit einer Black Box zu tun, die unerwartete Lösungen produzieren kann, die nicht immer erwünscht sein müssen. Es fehlt uns sozusagen die Implementierung von so etwas wie die Asimovschen Robotergesetze. Manche Forscher haben so etwas versucht, aber die Sache ist komplexer als gedacht. Außerdem gibt es genug Leute, die solche Gesetze gar nicht implementieren wollen.

Wenn ich Dich richtig verstanden habe, hast Du bisher gemeint, dass es Dir seltsam erscheint, wenn Menschen Angst vor KI haben. Du hast erklärt, dass es doch eher die Menschen seien, die dafür verantwortlich wären, wenn KI Schaden anrichtet. Das stimmt im Grunde, aber daraus ergibt sich noch nicht, dass KI ungefährlich wären und Menschen keine Angst vor solchen Maschinen haben bräuchten. Deshalb habe ich das nicht verstanden und gefragt. Daraufhin hast Du mich gefragt, wo KI jemals selbstständig agiert hätte, weil Du offenbar der Meinung bist, die Angst der Menschen bezöge sich allein auf die Verselbstständigung der KI. Das habe ich auch nicht verstanden. Selbst wenn KI bisher komplett unselbstständig agiert hätten (was nicht der Fall ist) und nur aufgrund entsprechender Befehle von Menschen Schaden angerichtet hätten, so wären diese KI doch trotzdem gefährlich. Wenn ein Mensch eine Drohne so einstellt, dass sie eine ganz bestimmte Person verfolgt und tötet, so wäre es doch gerechtfertigt, wenn diese Person vor dieser Maschine Angst hätte und nicht nur vor dem Menschen, der sie eingestellt hat. Ich verstehe Dich an der Stelle einfach noch nicht. Es geht wie gesagt ja auch nicht nur um aktuelle KI, sondern um die sich abzeichnende Entwicklung. Deine Fragen beziehen sich immer auf aktuelle KI, was ich auch nicht verstehe.

[Mammut]

Wenn ein Mensch eine Drohne so einstellt, dass sie eine ganz bestimmte Person verfolgt und tötet, so wäre es doch gerechtfertigt, wenn diese Person vor dieser Maschine Angst hätte und nicht nur vor dem Menschen, der sie eingestellt hat

 

Natürlich hat man Angst vor der Drohne. Aber die Drohne wäre ohne den Mensch dahinter überhaupt keine Bedrohung. Die KI hat ja nicht entschieden, die Person zu verfolgen. Der Mensch hat die KI programmiert und in Gang gesetzt. Die tödliche KI Drohne ist nichts anderes als ein Gewehr. Wenn jemand ein Gewehr auf dich richtet, hast du Angst vor dem Gewehr, aber vor allem Angst vor dem, der den Finger am Abzug hast. 

Das ist kein Unterschied.

 

Zum Marketing-Gag: Ich wollte damit sagen, die Begründung, warum die den Börsengang verschoben haben, ist aus meiner Sicht vorgeschoben. Mag sein, die haben technische Bedenken zu ihrem Modell. Aber ändert sich dieser Umstand, ob die an der Börse sind oder nicht? Die haben doch jetzt schon viele Geldgeber, die sich Anteile gesichert haben. Für mich klingt das nach einer faulen Ausrede, die aber als gutes Marketing rüber kommt.