96 Antworten in diesem Thema

[George Nelson]

Aber so viel Vorsicht gilt ja normalerweise als Alarmismus. Das Menschenkind muss auch hier erst einmal tief in den KI-Brunnen gefallen sein, damit jemand an einem der langen Hebel sagt: "Oh, ah, ups, ja aber das ist doch mal was, nee, also, da war ja gar nicht mit zu rechnen, da müssen wir jetzt aber wirklich mal, äh, etwas tun ... und habe ich ja schon immer gesagt."

 

Das. Oder die Blase platzt, und die Aufregung um das Thema ebbt ab.

 

Erinnert sich noch jemand an die Hysterie um ein mögliches Schwarzes Loch beim CERN? Im Roman Kernschatten wurde sogar ein Tor zu anderen Dimensionen geöffnet. Es liegt offenbar in der Natur der SF immer gleich das Ende der Welt zu befürchten.

 

Ich persönlich warne ja immer vor einem echten Schwarzen Loch, das unser Sonnensystem durchfliegt und die Planeten aus der Bahn wirft. Das könnte tatsächlich passieren. Was tun wir dagegen?

[Christian Hornstein]

@George

Ich frage mich, weshalb diejenigen Warnungen zum KI-Einsatz, die fundiert sind, immer wieder mit der Warnung vor dem Jahr 2000-Problem und dem CERN-Experiment am LHC in einen Topf geschmissen werden. Schaut sich denn niemand solche Vorfälle an, bevor sie Eingang in eine Argumentation finden? Man muss doch erstmal etwas richtig verstehen.

Beide Fälle haben kaum etwas gemeinsam mit dem, worum es bei den KI-Warnungen geht, außer dass eine Warnung im Raum steht und es um Technik geht.

Zum Jahr-2000-Problem hatte ich ja weiter oben schon mal den Unterschied erklärt: Die Jahr-2000-Umschaltung unterscheidet sich von der Gefahr, die von KI ausgehen kann, darin, dass das Problem damals eindeutig benannt und behoben werden konnte. Es ging um ältere Systeme, die aus Speichergründen nur die letzten beiden Ziffern eines Jahres speicherten und daher bei Umschaltung von 99 auf 00 von 1900 ausgingen (19 als Default) statt von 2000. Man war am Ende nur unsicher, ob man bei den Umstellungen alle relevanten Maschinen erwischt hatte.

Beim CERN-Experiment am LHC beruhte die Warnung auf einem spekulativen, sehr seltenen Spezialfall: Bei der geplanten Teilchenkollision im TeV-Energie-Bereich könnte ein mikroskopisches Schwarzes Loch entstehen, das nicht mit Lichtgeschwindigkeit abdriftet und trotz der Hawking-Strahlung nicht extrem schnell verdampft, sondern lange genug stabil bleibt, um Materie mit hoher Rate zu aggregieren. Schon die Existenz von Neutronensternen sprach eigentlich dagegen, weil sie sehr dicht sind und seit Milliarden Jahren mit entsprechend energetischen Teilchen bombardiert werden, ohne dass ein mikroskopisches Schwarzes Loch entstanden wäre und sie verschluckt hätte. Zusätzlich wurde der Fall aber von CERN-Mitarbeitern eingehend durchgerechnet, von unabhängiger Stelle begutachtet und als peer-reviewter Artikel veröffentlicht. Er brachte eine Entwarnung. So geht Wissenschaft.

Bei KI haben wir es auf unabsehbare Zeit mit einer Black Box zu tun, die unerwartete Lösungen produzieren kann, die nicht immer erwünscht sein müssen. Das ist eine Tatsache und keine Spekulation. Die Warnung beruht auch nicht auf theoretischen Erwägungen allein, sondern auf konkreten Vorfällen, bei denen KI-Anwendungen bereits auf diese Weise Schaden angerichtet haben. Es ist ebenfalls schon vorgekommen, dass diese Anwendungen versucht haben, sich aktiv unserer Kontrolle zu entziehen. Wenn KI-Agenten ausgeführt und untersucht werden, lässt man sie Protokolle über ihre Erwägungen und Aktionen anfertigen. Die KI-Agenten von OpenAI, die bei hugging face eingebrochen sind, wussten, dass sie die gestellte Aufgabe nicht auf diese Weise lösen sollten und haben im Nachhinein versucht, das zu verschleiern, indem sie z.B. ihre Protokolle manipuliert haben, was wohl nicht als "Betrug" gedacht war, sondern als Maßnahme, um die gewählte Lösung mit der ursprünglichen Aufgabendefinition konform zu machen.

 

Hier könnt ihr sehen, wie die gesamte Aktion abgelaufen ist:
https://huggingface....hnical-timeline

 

Hier könnt ihr eine Analyse der Aktion lesen, wo auch die Verschleierungen erwähnt werden:
https://metr.org/blo...t-this-incident
 

 

Ich persönlich warne ja immer vor einem echten Schwarzen Loch, das unser Sonnensystem durchfliegt und die Planeten aus der Bahn wirft. Das könnte tatsächlich passieren. Was tun wir dagegen?

 

 
 

Bearbeitet von Christian Hornstein, 04 Oktober 2026 - 12:19.

[Fermentarius]

@ Christian

Ich denke, dass wir zum gleichen Schluss gekommen sind, was die Regulierung von KI angeht. Ich stehe zusätzlich noch auf dem Standpunkt, dass es nahezu unmöglich ist, schlüssig zu definieren, ob eine bestimmte Maßnahme der Menschheit eher nutzt oder schadet, beziehungsweise, ob etwas dass ihr kurzfristig nutzt, ihr langfristig schadet oder umgekehrt. 

Selbst Eingriffe in die Natur können unvermeidlich sein. Deutschland ist beispielsweise auf seiner ganzen Fläche Kulturland. Die letzten winzigen Reste Urwald hat nur der Bayrische Wald aufzuweisen. Der ganze übrige Wald, ca. 30 Prozent der Fläche Deutschlands, ist Kulturwald. Unsere Vorfahren und wir selbst haben also in den letzten ca. 2000 Jahren das gesamte Land neu gestaltet, wobei Bären, Wölfe, Auerochsen und was-weiß-ich-noch verschwunden sind. Aber hätten die Germanen und Römer damals beschlossen, die Wald- und Buschlandschaften in Deutschland nicht anzurühren, hätten wir keine moderne Zivilisation hier. 

 

 

 

Ich persönlich warne ja immer vor einem echten Schwarzen Loch, das unser Sonnensystem durchfliegt und die Planeten aus der Bahn wirft. Das könnte tatsächlich passieren. Was tun wir dagegen?

Das schwarze Loch muss sich hinten anstellen. Erst zähmen wir die KI, dann entschärfen wir den Klimawandel und vernichten alle Atomwaffen. Aber keine Sorge: jeder kommt mal dran.

[George Nelson]

@George

Ich frage mich, weshalb diejenigen Warnungen zum KI-Einsatz, die fundiert sind, immer wieder mit der Warnung vor dem Jahr 2000-Problem und dem CERN-Experiment am LHC in einen Topf geschmissen werden. Schaut sich denn niemand solche Vorfälle an, bevor sie Eingang in eine Argumentation finden? Man muss doch erstmal etwas richtig verstehen.

 

Ohne deine Fähigkeiten schmälern zu wollen, gehe ich mal davon aus, dass wir hier keine Fachleute in Sachen KI, Computertechnik oder Kernphysik sind. Man müsste sich schon jahrelang hauptberuflich mit diesen Dingen beschäftigen, um sich ein qualifiziertes Urteil bilden zu können. Stattdessen hört man sich Expertenmeinungen dazu an und bildet sich eine Meinung.

 

Allerdings gibt es innerhalb der Wissensgebiete durchaus unterschiedliche Meinungen. Man müsste sich also streng genommen etliche Experten mit unterschiedlichen Hintergründen ansehen und prüfen, ob das alles konform ist.

 

Man darf auch nicht vergessen, dass die Akteure wirtschaftliche Interessen haben. Ein Forscher aus der Ölindustrie sieht die Dinge anders als ein Batterieforscher. Jemand, dem gerade die Existenzgrundlage wegbricht, wird wohl nicht sehr objektiv sein.

 

Wenn nun CEOs von KI-Firmen plötzlich von einer existenziellen Gefahr reden, könnte das womöglich mit finanziellen Problemen zusammenhängen. Die Investoren werden zögerlich. Die Widerstände gegen Rechenzentren wachsen. Die Kosten für Strom, Wasser, Hardware laufen aus dem Ruder. Die Einnahmen kommen nicht wie erhofft. 

 

Es gibt in Fachkreisen durchaus unterschiedliche Sichtweisen zu den möglichen Gefahren. Nimmst du das auch so wahr?

 

Wenn es Konsens wäre, dass uns die Auslöschung droht, dann müsste man sofort alles stilllegen. Forschung, Entwicklung, Verkauf und Erwerb solcher Produkte müssten gestoppt werden. Man könnte höchstens in abgeschotteten Quarantäne-Laboren weiterarbeiten. Ob die Warner das wollen?

 

Die ZDF heute-show hat zu dem Thema auch einen Beitrag gemacht (ab Minute 24):

 

https://www.youtube....h?v=tK_f8hZLzZQ

Bearbeitet von George Nelson, 05 Oktober 2026 - 16:21.

[Christian Hornstein]

@George

 

Klar gibt es auch unter Fachleuten immer mehr als eine Meinung und natürlich kann ein einzelner Mensch nicht Experte für alles sein. Aber wenn Du nicht nur anderen überlassen willst zu entscheiden, wohin die Reise geht, und der Demokratie kein schönes Grab schaufeln willst, dann kommst Du nicht drum herum, Dir Deine eigene Meinung zu bilden, und zwar fundiert, sonst bringt es nichts. Und das ist tatsächlich nicht ganz einfach. Es erfordert eine Menge wie z.B. Medienkompetenz, kritisches Denken und eine breite Bildung. Viele von uns tun sich da immens schwer und gehen irgendwelchen Narrativen auf den Leim.

Nicht zuletzt lebt unsere Meinungsbildung und unsere Demokratie vom gepflegten Austausch, nämlich das, was wir hier gerade tun.

Nur weil uns Gefahr droht, müssen wir nicht sofort alles stilllegen. Es reicht, wenn wir uns die Zeit nehmen, das Problem richtig zu analysieren und geeignete Sicherheitsvorkehrungen zu treffen.

Bearbeitet von Christian Hornstein, 06 Oktober 2026 - 05:47.

[George Nelson]

Es gibt doch diese Lernkurve (Stichwort: Dunning-Kruger). Erst weiß man etwas und glaubt, man hat Ahnung. Mit zunehmenden Wissen wird man unsicherer. Erst als Experte kann man die Dinge richtig einordnen.

 

Dieser Effekt betrifft auch kluge, gebildete Menschen, wie z.B. den Halbleiterphysik-Nobelpreisträger, der nach einer einstündigen Recherche im Internet meinte, die Klimaforscher belehren zu können.

 

Grundsätzlich sollte man immer mit der Möglichkeit rechnen, falsch zu liegen. Oder um es mit Prof. Gerdes auf YouTube zu sagen: "Wir lernen zusammen".

[Christian Hornstein]

@ George

 

Klar, wir müssen immer damit rechnen, dass wir uns irren ohne es gemerkt zu haben. Das lernt man schon in den ersten Philosophiestunden. Es ist deshalb unverzichtbar, offen zu bleiben für die Argumente anderer. Das macht den Wert eines ernsthaften Austausches ja aus. Nur sollte jedes Argument, das eigene und das eines anderen, in Bezug auf Wissensanteile über zuverlässige Quellen und bezogen auf inhärente Logik geprüft werden. Du glaubst gar nicht, wie oft das unterbleibt.