127 Antworten in diesem Thema

[yiyippeeyippeeyay]

(Eine "Spezies" mit DNA o.ä. das vererbt wird?! Echt jetzt?   -- Bezügl. zukünftigen "timelines", es könnte sich genausogut entwickeln wie im DUNE-Universum... Autonome Automaten, virtuell oder mehr, drehen irgendwann durch und bedrohen die Menschheit; wir wehren uns ähnlich wie in der Butlerschen Dschihad dort, und verbannen denkfähige Maschinen aus allen Menschenwelten 'für immer'. Hört sich ehrlichgesagt für mich mom. als angebrachter an, als der Kuddelmuddel, der zzt. wg. Umgang mit Bedrohungen durch KI besprochen wird. 

 

Im anderen Thread - "Emotional" usw. - gab es einen Link auf eine coole HEISE-Analyse, die ich sehr lesenswert fand. Äußere mich gelegentlich dort im Thread noch dazu! )

Bearbeitet von yiyippeeyippeeyay, 29 September 2026 - 00:55.

[Stahlelefant]

Ein neues Tschernobyl als KAU? (Kleinster anzunehmender Unfall.)

 

 

“One leading AI company chief executive told me that a Chernobyl-scale disaster is the best he can hope for because only an event on that scale would force governments to implement serious regulation,” says Russell. “I think the actual consequence of that would be a total shutdown of AI companies, as they would have forfeited all trust.

“But, of course, this means that the AI systems will avoid causing such a disaster because they don’t want to be shut down. Instead, they will bide their time until they can take control irreversibly, which probably also means getting rid of us because we won’t sit quietly and do what we’re told.”

https://www.telegrap...ght-kill-us-all

 

In dem Artikel werden so einige unheimliche Dinge angesprochen. Ein Ausschaltknopf nützt nichts, wenn die KI-Agenten sich über das Internet verbreitet und die Kontrolle über viele Systeme erlangt haben. Ein (eher abgefahrenes) Szenario wird genannt, das an Sci-Fi denken lässt: Die Agenten könnten so weit die Kontrolle über elektromagnetische Wellen übernehmen, dass sie alle Sonnenstrahlung um die Erde herumlenken könnten. Auf der Erde würde dann natürlich alles einfrieren.

 

Tja, kann man es im Zaum halten? Hoffentlich. Aber es hieß mal „Life will find a way“. Und bald vielleicht „Artificial Intelligence will find a way“?   

[Christian Hornstein]

Tja, kann man es im Zaum halten? Hoffentlich. Aber es hieß mal „Life will find a way“. Und bald vielleicht „Artificial Intelligence will find a way“? 

 
Also eigentlich ist es ganz einfach: Wenn KI selbstständig Lösungen finden, sich selbstständig machen kann und uns in Hinsicht Intelligenz überlegen wird, dann gibt es nur noch eine Möglichkeit, für uns Schlimmes zu vermeiden: KI muss so gebaut sein, dass unser aller Wohl ihre höchste Priorität ist. Soweit hatte auch schon Isaac Asimov gedacht.
 

[Stahlelefant]

Aktuell geht’s ein bisschen hin und her zwischen diesem und dem Emotional-vs.-rational-Thread … der von der KI übernommen wurde …    Wahrscheinlich wäre es zu aufwändig, die Posts aus dem anderen Thread hiereinzukopieren, aber hier zumindest mal ein Link https://scifinet.org...e-3#entry476375

… falls es vielleicht mal einen Späteinsteiger in die Diskussion gibt, der den anderen Thread nicht gesehen hat. (Unter dem geposteten Link finden sich auch weitere Infos aus dem Artikel, aus dem ich zwei Beiträge hierdrüber zitiert habe.)

[Fermentarius]

 
Also eigentlich ist es ganz einfach: Wenn KI selbstständig Lösungen finden, sich selbstständig machen kann und uns in Hinsicht Intelligenz überlegen wird, dann gibt es nur noch eine Möglichkeit, für uns Schlimmes zu vermeiden: KI muss so gebaut sein, dass unser aller Wohl ihre höchste Priorität ist. Soweit hatte auch schon Isaac Asimov gedacht.
 

Nehmen wir an, wir bläuen der KI ein, dass sie immer so handeln muss, wie es für die organischen Lebewesen der Erde am besten ist. Wir sorgen dafür, dass sie davon nicht abweichen kann, und immer moralisch handeln muss.

Wer garantiert uns dann, dass sie nicht zu dem Schluss kommt, die Menschen seien die größte Gefahr für das organische Leben und alle übrigen Lebewesen würden von ihrer Ausrottung profitieren? Jede menschenfreundliche Philosophie, jedes moralische Handeln, jede gut gemeinte Wohltat haben ihre Schattenseiten. Die Abwägung wird immer von Gefühlen überlagert, die eine KI nicht hervorbringen kann.

Wenn wir uns einer überlegenen Intelligenz ausliefern wollen, deren Gedankengänge wir irgendwann weder nachvollziehen noch überprüfen können, begeben wir uns immer in Gefahr. Ich würde das deshalb nicht empfehlen. Menschen sind mitunter grausam, hinterhältig, machtgierig und mörderisch, aber sie bleiben vorhersehbar. Wir wissen, was sie antreibt und wo ihre Grenzen sind. Und wir wissen, dass sie irgendwann sterben. Bei der KI wissen wir das alles nicht.

[Christian Hornstein]

@Thomas

 

Ja, die mangelnde Vorhersehbarkeit und Verständlichkeit ist ein grundsätzliches Problem. Wenn die KI unser Wohl an erster Stelle setzt, wird es aber nicht passieren, dass sie uns zum Wohle anderer Mitgeschöpfe ausrottet. Klar, Entscheidungen sind immer das Ergebnis von Abwägungen. Wenn diese aber einer Optimierungsfunktion des menschlichen Wohls folgen, bleiben wir auf der sicheren Seite ... was unser eigenes Wohl betrifft. 

Bearbeitet von Christian Hornstein, 03 Oktober 2026 - 16:17.

[Fermentarius]

@Christian

Wir führen tatsächlich im Moment die Diskussion weitgehend doppelt. Das soll mich aber nicht stören. Ich merke dann, dass sich meine Sicht allein durchs Aufschreiben noch einmal subtil verändert. Also: Wenn die Ki zum Wohl der Menschen handelt, dann geht das nur, wenn sich alle einig sind, was eigentlich das Wohl der Menschen ausmacht. Mein Wohl und dein Wohl müssen nicht identisch sein, was mir und den Menschen meiner Umgebung nutzt, entzieht anderen vielleicht Ressourcen. Und Ressourcen sind nun mal endlich. Selbst in einem reichen Land wie Deutschland sind medizinische Ressourcen beispielsweise knapp. Nicht jeder so schnell und umfassend behandelt werden wie das sinnvoll oder geboten wäre. Eine Optimierungsfunktion des menschlichen Wohls kann wiederum schlecht für andere Lebewesen sein. Menschen möchten vielleicht Wälder und Sümpfe zu Ackerland umwidmen, was wiederum den dortigen Pflanzen und Tieren nicht gut tut. 

Die Frage ist nur: Wollen wir die Optimierungsfunktion des Wohls den Maschinen überlassen? Würde das akzeptiert? Und wie rigoros sollte man das durchsetzen? Ich tue mich schwer mit der Idee, nichtmenschlichen Intelligenzen die Beurteilung zu überlassen, wie mein Wohl, das Wohl meines Umfeldes und das Wohl aller Menschen auszusehen hat.

[Christian Hornstein]

@Christian

Wir führen tatsächlich im Moment die Diskussion weitgehend doppelt.

 
Genau. Ich antworte Dir auf dem anderen Thread.