38 Antworten in diesem Thema

[yiyippeeyippeeyay]

Nachdem es innerhalb dem letzten Jahr ernsthafte Auseinandersetzungen in US-Medien zumindest mit den Singularisten gab, hat mich dieses Tech-Kommentar im TAGESSPIEGEL vor ca. 1 Woche doch etwas beruhigt. Wenn die Werbe-K.I. noch so doof ist, fällt ja evtl. auch mein unbedeutendes kl. Leben noch 4 Jahrzehnte lang durchs Raster. Und dann bin ich gespannt auf die große S. im Jahre 2045...

[methom]

und volle Zustimmung zum Artikel. Ich hätte auch lieber Werbung, die mich interessiert. Aber am Interesse hapert es doch deutlich, wenn mir ständig Produkte angeboten werden, die ich gerade gekauft habe.

[derbenutzer]

Der verlinkte Artikel ist wirklich zum Schmunzeln …


Wobei mich dieser „Singularity Summit“ (Februar) in New York schon interessiert hätte:

ist z.B. hier beschrieben:

http://derstandard.a...-der-neuen-Welt

Immerhin sind da (auch) einige SF-Autoren anzutreffen und Mr. Kurzweil sowieso, so als Zaungast wär ‘s ganz lustig. Denk ich allerdings an Ticket- und Reisekosten: wieder weniger …

LG

Jakob

[yiyippeeyippeeyay]

Danke für den österreichischen Artikel! Schön, dass da auch (moderatere!) optimistische Stimmen zu Worte kamen... Ich sehe, Kurzweil hat dort schon die Wartezeit bis zum Eintritt der großen S. verkürzt, um mal eben 16 (= 2 hoch 4) Jahre!

[lapismont]

Ich will gar nicht wissen, wie gefährlich die Gegenbewegung einer solchen Singularität ist. Kann ja auch durchaus sein, dass sich die Menschheit wieder vom Computer verabschiedet.

[yiyippeeyippeeyay]

Ich bin ein Gegner der "Singularität" und ich bin eher weniger gefährlich (bin einfach zu unfit, und muss noch an meiner Fausttechnik arbeiten ).

Es geht doch um Balance halten, und dass solche Extrapolationen das den Menschen in den nä. Jahrzehnten nicht zutrauen? Ich stehe da jedenfalls auf der Seite des noch nicht so lange verstorbenen Joseph Weizenbaums, und des noch quietschfidelen Bill Joys, beide berühmte & gewiefte Programmierer, und eher keine Ludditen - die aber davor warnen, zukünftiger IT oder Computernetzwerken zuviel Macht zu übertragen bzw. maschinelle "Intelligenz" mit allen Mitteln zu fördern. Wobei ich auch bezweifle, dass Menschen heute überhaupt wissen, was sie mit "Intelligenz" meinen - m.E. jedenfalls nicht das, was mit einem IQ-Test gemessen wird.

[lapismont]

ich vermute, dass technische Intelligenz eine Evolution starten wird, die vom Menschen nicht kontrollierbar ist. Mit neurologischen Netzen und Quantencomputern kann der Mensch nicht lange mithalten. Wenn man es nicht von vornherein verhindert, wird es zu einem Kampf Ki/Mensch kommen. Das halte ich für hochwahrscheinlich.

[Diboo]

ich vermute, dass technische Intelligenz eine Evolution starten wird, die vom Menschen nicht kontrollierbar ist. Mit neurologischen Netzen und Quantencomputern kann der Mensch nicht lange mithalten. Wenn man es nicht von vornherein verhindert, wird es zu einem Kampf Ki/Mensch kommen. Das halte ich für hochwahrscheinlich.

Oder wir enden wie im Polity-Universum von Neal Asher und werden (meist) gern geduldete Gäste in einem von KIs regierten Staatswesen.

Bearbeitet von Diboo, 06 August 2012 - 08:18.

[Torwan]

Das "Kampf zwischen KI gegen Menschen"-Szenario halte ich mittlerweile für unrealistisch. Ausschließen kann man ja nie etwas, zugegeben, aber warum sollte das realistisch sein?

Bei allen (!) Dystopien, bei denen es um den Endkampf zwischen Mensch und Maschine geht, handeln und denken die Maschinen wie Menschen. Wenn man mal ein paar der populäreren rauspickt, wie z.B. "Matrix" oder "Terminator", die Maschinen handeln immer wie Menschen. Es geht um "Terretorium" und "Rasse". Das sind wirklich sehr menschliche Motivationen, eigentlich sogar die menschlichen Motivationen für jegliche Art von Krieg. Warum sollten Maschinen genauso handeln?

Zunächst einmal sind Maschinen nicht voll-autonome und zweck-unabhängige Geräte. Sie sind immer zweckorientiert und die Maschinen, die sich-selbst-verbessernde Algorithmen haben (werden), werden in diesem Bereich besser werden wollen. Die beste Suchmaschine, die beste Kampfdrohne, der beste Türsensor usw. Warum sollte der Türsensor plötzlich auf die Idee kommen mich auslöschen zu wollen? Warum will die Suchmaschine meinen Computer sprengen? Oder die Kampfdrohne mich in die Luft sprengen, wenn ich ihr doch gesagt habe, dass sie den Taliban-Bus wegbomben soll? Der Drohne ist es doch völlig egal, dass ich möglicherweise ein arroganter Idiot bin. Ich bin derjenige, der den korrekten Zugangscode hat und deswegen ist mein Befehl OK.

Und selbst wenn wir annehmen, dass die Maschinen eines Tages zweckungebunden gebaut werden und menschlich denken. Warum sollten sie uns hier killen wollen? Terretorium? Überleben? Unsinn. Als Maschine würde ich einfach weggehen. Ich (als Maschine) kann doch auch auf dem Mond oder dem Mars oder einfach im freien Weltraum überleben. Der Mensch ist auf seinem "Gefängnis Erde" gefangen und kann es ohne Maschinen nicht verlassen. Soll er da doch verrotten. Ich kann mich sogar jahrtausendelang durchs All treiben lassen und in ein anderes Sonnensystem segeln. Theoretisch kann ich das als Maschine überleben, wenn ich nur robust genug gebaut bin. Zeit ist doch für eine Maschine nicht so relevant wie für ein sterbliches, organisches Wesen...

Bearbeitet von Torwan, 06 August 2012 - 09:00.

[lapismont]

Ein Kampf Mensch/KI muss ja nicht die Auslöschung einer Partei beinhalten. Es ist ja schon Macht, wenn die menschliche Gesellschaft von der KI abhängig ist. Lass das Internet intelligent werden und erkennen, wie groß sein Einfluss ist. Da reicht schon eine Fake-Meldung und unsere ganze Zivilisation bricht zusammen. Und selbst wenn es nur geringfügige Manipulationen sind. Wie groß ist der Anteil unique in der Cloud gespeicherter Daten? Wie erpressbar ist man damit?

[methom]

die aber davor warnen, zukünftiger IT oder Computernetzwerken zuviel Macht zu übertragen bzw. maschinelle "Intelligenz" mit allen Mitteln zu fördern.

Nach dem aktuellen Beispiel, bei der eine Aktienhandelsfirma in 45 Minuten einen Verlust von 440 Millionen USD gemacht hat, weil das neue, "intelligente" Handelssystem zu hohe Preise bezahlte, ist das gar kein schlechter Ansatz: http://www.heise.de/...en-1660142.html

[Naut]

Das "Kampf zwischen KI gegen Menschen"-Szenario halte ich mittlerweile für unrealistisch. Ausschließen kann man ja nie etwas, zugegeben, aber warum sollte das realistisch sein?

Bei allen (!) Dystopien, bei denen es um den Endkampf zwischen Mensch und Maschine geht, handeln und denken die Maschinen wie Menschen.[...]

Na ja, stimmt nicht. Als Gegenbeispiel fällt mir "Accelerando" von Charles Stross ein, wobei die da ja auch nicht so richtig "kämpfen".

Im Übrigen stimme ich Dir aber zu, diese "wir gegen die" Szenarien sind meist nur schlecht bemäntelte Allegorien auf die Angst der Menschen vor sich selbst. Ein echte Roboterinvasion würde so aussehen: http://what-if.xkcd.com/5/

[derbenutzer]

Ich wage mal zu behaupten: Niemand vermag massive Technologiesprünge vorherzusehen. Daher halte ich auch die Singularitäts-Geschichten aller Arten für angewandte Lustigkeiten - Sorry Mr. Kurzweil - und nicht viel mehr. Die wirklich großen Dinge passieren halt en passant - so what ...

Heute tragen viele ein Smart-Handy mit sich, das mehr Rechenpower hat, als alles gebündelte, was es zu Apollo-Mondlandung-Zeiten an Rechnern gegeben hat. Kein Schwein (sorry) hat das vorhergesehen ...

Aus welcher Ecke da etwas kommt (Nano- oder Gentechnik, Quanten-Computer oder sonst was) ist unvorhersehbar. Punkt.

Klar, mit Quantencomputern wäre so rund momentan eine Vertausendfachung an Leistung verfügbar: nur daraus entstünde noch lange keine KI, da gehe ich jede Wette ein. Das wären noch immer Rechenknechte, die halt wirklich schnell sind. Microsoft oder so würde da ein aufgeblähtes Tralala-OS kreieren: und das wäre es auch schon gewesen.

LG

Jakob

[My.]

Technologiesprünge können schon aus einem einfachen Grund nicht mehr unvorhersehbar sein: Die Journaille schreibt wochenlang auch über Läusefürze. Und ein sich anbahnender Technologiesprung furzt lauter. Und das Problem, dass er, der T-Sprung dann überraschend kommt, liegt nur daran, dass die Konsumenten (betriebs-) blind (oder taub oder beides) sind. My.

[Tiff]

Irgendwie gelingt es mir nicht, Deinen fäkalsprachlichen Text zu entschlüsseln.

[Ming der Grausame]

die aber davor warnen, zukünftiger IT oder Computernetzwerken zuviel Macht zu übertragen bzw. maschinelle "Intelligenz" mit allen Mitteln zu fördern.

Nach dem aktuellen Beispiel, bei der eine Aktienhandelsfirma in 45 Minuten einen Verlust von 440 Millionen USD gemacht hat, weil das neue, "intelligente" Handelssystem zu hohe Preise bezahlte, ist das gar kein schlechter Ansatz: http://www.heise.de/...en-1660142.html

Knightmare on Wall Street ist tatsächlich ein ausgezeichnetes Beispiel für Joseph Weizenbaums Warnung, autonome Systeme zu viel Autonomie zu gewähren. Allerdings dürfen wir dabei nicht vergessen, dass wir es zurzeit mit geradezu sturzdumme Systeme zu tun haben – selbst eine Küchenschabe dürfte intelligenter sein. Der Endkampf gegen Skynet steht also noch nicht vor der Tür. Abgesehen davon, dass ich es diesbezüglich mit StanisÅ‚aw Lem halte, der sagte: „Bevor wir imstande sein werden, künstliche Intelligenz zu konstruieren, gelingt es uns nach großen Anstrengungen, ein System zu bauen, das mit beträchtlicher Dummheit versehen ist.“

Ich wage mal zu behaupten: Niemand vermag massive Technologiesprünge vorherzusehen.

Ja, Prognosen sind schwierig, besonders wenn sie die Zukunft betreffen.

[My.]

Irgendwie gelingt es mir nicht, Deinen fäkalsprachlichen Text zu entschlüsseln.

Musst du ja auch nicht. Es reicht, wenn du Journalisten glaubst.

My.

[Tiff]

Es reicht, wenn du Journalisten glaubst.

Ich finde darin immer noch keine Erklärung, warum Technologiesprünge vorhersehbar sind. Wenn es selbst SF-Autoren nicht gelingt, Dinge vorherzusehen, warum sollte dies dann den Journalisten gelingen?

[Ming der Grausame]

Vor allem, da trotz jahrzehntelanger Forschung sich nicht einmal ein klitzekleiner Durchbruch im Bereich starke künstliche Intelligenz abzeichnet.

[My.]

Ach, Tiff, du hast mich einfach nicht verstanden? Okay. Sag das doch Ich meinte: Technologiesprünge waren in vergangenen Jahrhunderten, Jahrzehnten usw. deshalb möglich, weil ein solcher Sprung überraschend sein musste, sein sollte, sonst wäre es ja kein Sprung gewesen, kein Ruck, keine schlagartige Neuentwicklung. Sind wir uns darin einig? Technologiesprung, weil überraschend, weil lange vorbereitet, dann ... tataaaa! Öffentlichkeit! Das geht nicht mehr. Journalisten riechen nicht nur, nein, sie veröffentlichen auch jeden Furz, den jemand läßt. Auch Wissenschaftler in einem Technologiesprungprojekt furzen. Ein Journalist hört, riecht, sieht das - und veröffentlicht das. Auch wenn er nichts weiß, er veröffentlicht, daß er nichts weiß, und das ist einfach schlimm genug. Damit gibt es lange, lange vor der Zeit, vor der sich ein Technologiesprung wirktlich ereignet, schon Gerüchte und Gerüche diesbzgl., und damit ist der Sprung am Ende nur noch ein Schrittchen. Okay? My.

[methom]

Ein echte Roboterinvasion würde so aussehen: http://what-if.xkcd.com/5/

Die neue what-if-Rubrik ist klasse.

[Torwan]

@Iapismont

Ein Kampf Mensch/KI muss ja nicht die Auslöschung einer Partei beinhalten. Es ist ja schon Macht, wenn die menschliche Gesellschaft von der KI abhängig ist. Lass das Internet intelligent werden und erkennen, wie groß sein Einfluss ist. Da reicht schon eine Fake-Meldung und unsere ganze Zivilisation bricht zusammen. Und selbst wenn es nur geringfügige Manipulationen sind. Wie groß ist der Anteil unique in der Cloud gespeicherter Daten? Wie erpressbar ist man damit?

Nehmen wir mal dieses Szenario an, auch wenn ich es für unwahrscheinlich halte. "Das Internet" wird bewusst und beschließt SkyNet-like die Menschheit zu versklaven (oder so). Es bringt die entsprechende Fake-Meldung und die Zivilisation bricht zusammen. Die Wirtschaft kollabiert, Leute verhungern, der Handel bricht zusammen. Was passiert noch? Kommunikationszentren fallen aus, die Stromnetze versagen...das Internet geht kaputt oder nimmt zumindest enormen Schaden. Wo ist da der "Nutzen" für "das Internet"?
Die große Schwachstelle von "Terminator 3", als SkyNet nicht mehr ein Zentralcomputer, sondern "das Internet" war, war doch das Ende dort, als Atomwaffen durch die Gegend fliegen. Das ist doch kapitaler Selbstmord für jede dezentrale Internetapplikation. Wo ist da dann also die "Motivation"?

Nehmen wir ferner das Motiv "Macht" an. Warum hat das Internet Interesse an Macht? Wenn wir "das Internet" als Wesen betrachten, dann hat es primär Interesse am eigenen Fortbestand, möglicherweise am eigenen Wachstum. Das passiert heute schon. Mit jedem Tag wird das Internet größer und schneller. Es ist wie ein Parasit, der bereits jetzt aufblüht und gedeiht. In der Hinsicht kann man es wie eine Mistelpflanze betrachten, der es gut geht, wenn es dem Baum, auf dem sie wächst, ebenfalls gut geht. Wenn es also die Menschheit beeinflussen müsste, dann positiv - damit es immer mehr wächst. Wo ist da ein Motiv für Macht? Die Menschen strömen doch freiwillig zum Internet. Wenn das Internet plötzlich ein Feind wäre, würde genau das enden, was "gut" für das Internet ist.

Das einzige Szenario, in dem ich ernsthaft eine Gefahr "Mensch gegen Maschine" sehe, ist wenn wir weiter Soldaten durch Maschinen ersetzen und die in Kriegsgebieten breit aufstellen. Das wird zwar keine Apokalypse für die Menschheit insgesamt werden - aber durchaus für die "Gegner" dieser Maschinenkrieger. Vorallem, wenn die nicht vernünftig zwischen Zivilisten und Soldaten unterscheiden können bzw. nicht richtig kapieren, was "aufgeben" und "weiße Fahne" bedeutet.

@Naut

Na ja, stimmt nicht. Als Gegenbeispiel fällt mir "Accelerando" von Charles Stross ein, wobei die da ja auch nicht so richtig "kämpfen".

Das kenne ich nicht, werde es aber mal nachschlagen.

Bearbeitet von Torwan, 07 August 2012 - 08:25.

[lapismont]

Vorausgesetzt, @Torwan, eine KI würde menschliche Motive übernehmen, bzw. eine ähnliche Ethik verfolgen. Warum etwa sollte das bewusste Internet nicht einfach beschließen, Selbstmord zu begehen?

[Ming der Grausame]

Warum sollte man überhaupt Selbstmord begehen? Ich sterbe meiner Meinung nach schon früh genug, da muss ich nicht auch noch nachhelfen.

[simifilm]

Ach, Tiff, du hast mich einfach nicht verstanden? Okay. Sag das doch

Ich meinte: Technologiesprünge waren in vergangenen Jahrhunderten, Jahrzehnten usw. deshalb möglich, weil ein solcher Sprung überraschend sein musste, sein sollte, sonst wäre es ja kein Sprung gewesen, kein Ruck, keine schlagartige Neuentwicklung.
Sind wir uns darin einig? Technologiesprung, weil überraschend, weil lange vorbereitet, dann ... tataaaa! Öffentlichkeit!

Das geht nicht mehr. Journalisten riechen nicht nur, nein, sie veröffentlichen auch jeden Furz, den jemand läßt. Auch Wissenschaftler in einem Technologiesprungprojekt furzen. Ein Journalist hört, riecht, sieht das - und veröffentlicht das. Auch wenn er nichts weiß, er veröffentlicht, daß er nichts weiß, und das ist einfach schlimm genug. Damit gibt es lange, lange vor der Zeit, vor der sich ein Technologiesprung wirktlich ereignet, schon Gerüchte und Gerüche diesbzgl., und damit ist der Sprung am Ende nur noch ein Schrittchen.

Das kommt sehr darauf an, was Du als "Technologiesprung" bezeichnest. Ich würde behaupten, dass diverse der grossen, die Gesellschaft verändernden Technologien der letzten Jahrzehnte von niemandem korrekt vorausgesehen wurden. Weder das Web in seiner heutigen Form, noch moderne Smartphones, noch MP3, noch Facebook — die Liste liesse sich beliebig fortsetzen. Das waren alles Technologien, die zu massiven Umwälzungen geführt hat, die in dieser Form kaum jemand vorausgesehen hat (die Nicht-Voraussehbarkeit sieht man am deutlichsten daran, dass plötzlich ganz neue Spieler im Markt sind: Auf einmal wird ein Computerkonzern zum wichtigsten Verkäufer von Musik und Telefonen, während Unternehmen wie Nokia oder RIM, die vorher den Markt dominiert haben, am Rande der Pleite sind. Wären die Veränderungen so absehbar gewesen, hätten diese Firmen früh genug reagiert).

Nun könnte man einwenden, dass das alles nicht Technologien sind, sondern spezifische Umsetzungen bereits existierender Technologien. Und darauf würde ich antworten: Genau. Und hier liegt der Grund für die Nicht-Voraussehbarkeit. Als Technologie sind Touchscreens beispielsweise nichts neues, in der konkreten Umsetzung im iPhone haben sie aber die Telefonindustrie umgewälzt und pflügen derzeit den PC-Markt.

In den seltensten Fällen geht es um die Technologie als solche, sondern um deren konkrete Umsetzung, die dann ein Publikum und somit auch Verbreitung findet.

Bearbeitet von simifilm, 07 August 2012 - 15:05.

[Torwan]

Vorausgesetzt, @Torwan, eine KI würde menschliche Motive übernehmen, bzw. eine ähnliche Ethik verfolgen. Warum etwa sollte das bewusste Internet nicht einfach beschließen, Selbstmord zu begehen?

Das machen eigentlich keine bewusste Wesen ohne speziellen Grund. Macht auch nicht viel Sinn. Die oberste Prämisse jeden Lebens ist das eigene Überleben und das Überleben der eigenen Spezies. Ein "bewusstes Internet" würde also weiterleiben wollen.

Allerdings muss man sich auch hier die Frage stellen, inwieweit ein Stück Cyberspace überhaupt irgendetwas "machen" kann. Wir können unsere Umwelt durch unseren Körper beeinflussen und nehmen unsere Umwelt durch unsere Sinnesorgane wahr. Wie würde "das Internet" seine Welt wahrnehmen, wie würde dieses "Cyberwesen" die Welt beeinflussen können? Wir haben es hier ja nicht mit einem Androiden zu tun, wo man die gleichen Kanäle wie bei einem Menschen voraussetzen kann. All das beeinflusst ja die Denke und Handlungsweise. Mensch und Tier sind ja auch für viele Pflanzen nicht gerade vorteilhaft (Futter!!), aber die haben weder die Sinne noch die Körper, um etwas dagegen zu tun.

[lapismont]

eben dieses Nichtwissen, darum, wie eine bewusste KI agiert/reagiert, macht es so schwierig, Vorhersagen zu treffen.

[martin089]

[Selbstmord] machen eigentlich keine bewusste Wesen ohne speziellen Grund. Macht auch nicht viel Sinn. Die oberste Prämisse jeden Lebens ist das eigene Überleben und das Überleben der eigenen Spezies. Ein "bewusstes Internet" würde also weiterleiben wollen.

Eigentlich schon. Selbstmörder nämlich. Und warum soll "das internet" nicht schonmal als sich selbst bewusstes Wesen erwacht sein, festgestellt haben dass das alles nicht so schön ist und sich das Bewuustsein wieder abschalten ... bis 30 min später wieder ein bewusstes internet als emergente Struktur aus all dem Gebimse was wir hier so produzieren entstanden ist.


Was die vorhersagbarkeit von Entwicklungen angeht bin ich mir unsicher - einerseits gab es eine Menge Überraschungen der letzten Jahre - eispiele siehe oben - andrerseits gibt es mittlerweile genau deshalb auch eine wahnsinnige Kultur aus early adoptern hier, Spekulierern da und Marketingheinzen überall. Was auch immer das nächste große Ding nach smartphones und brot in scheiben sein wird, wir werden vorher davon hören. Wir werden vorher nicht wissen, welches von all den Sachen die unser Leben angebliuch verändern werden - Quanten Computer? Big Data? AR? 3D-Drucker? Robotik? - wirklich wichtig wird, wir werden sicher sehr überaschende Anwendungen erleben, aber der große Zukunftsschock ... ich bin da skeptisch.

Der Glaube an die Singularität erscheint mir jedenfalls eher religiös zu sein als wirklich durchdacht.

[simifilm]

Eigentlich schon. Selbstmörder nämlich. Und warum soll "das internet" nicht schonmal als sich selbst bewusstes Wesen erwacht sein, festgestellt haben dass das alles nicht so schön ist und sich das Bewuustsein wieder abschalten ... bis 30 min später wieder ein bewusstes internet als emergente Struktur aus all dem Gebimse was wir hier so produzieren entstanden ist.

Weil es "das Internet" nicht gibt. Weder als bewusstes Wesen, noch als sonst etwas. Was man gemeinhin als Internet bezeichnet, ist ein Sammelsurium diverser Technologien, Netze, Protokolle etc. Das kann ungefähr so bewusst werden wie die örtliche Kanalisation.

[martin089]

Weil es "das Internet" nicht gibt. Weder als bewusstes Wesen, noch als sonst etwas. Was man gemeinhin als Internet bezeichnet, ist ein Sammelsurium diverser Technologien, Netze, Protokolle etc. Das kann ungefähr so bewusst werden wie die örtliche Kanalisation.

Stimmt schon, nur wenn die Anhäufung von Rechenpower und Bandbreite die das internet ist magischerweise doch mal sich selbst bewusst wird, gibt es sowenig Grund anzunehmen das es nicht suizidal ist wie für das Gegenteil.

Wenn ich so darüber nachdenke, ist der Glaube and die Singularität tatsächlich etwas sehr mystisches, weil es ja oft nur um abstrakte Sachen wie Moores Law hier und die tatsache das 90 oder 99% des globalen Mailverkehrs von robotern generierter Spam sind, die irgendwie beweisen sollen das die Singulrität hinter der nächsten Ecke lauert.