71 Antworten in diesem Thema

[Naut]

Interessante Meldung, „… the first time AI autonomously resolved a major open problem central to a mathematical subfield …“:

Ich habe mir das mal angesehen. Das ist zwar interessant und hat eine gewisse historische Bedeutung, aber was die KI hier eigentlich geleistet hat, ist nicht, "einen neuartigen Beweis konstruiert", wie in der Zusammenfassung behauptet, sondern ein besonders geschicktes Gegenbeispiel zu Erdös' Behauptung, dass eine bekannte Konstruktion optimal sei.

Anders formuliert: Unter allen Beweistechniken ist diese die einfachste, weil es genügt, ein einziges Gegenbeispiel zu finden.

Ich will das gar nicht kleinreden, denn das erwähnte Gegenbeispiel ist so komplex, dass bisher niemand das Durchhaltevermögen hatte, darauf zu kommen. Das ist eben eine Stärke von KI, sie langweilt sich nicht. Trotzdem ist damit das zugrundeliegende Problem nicht gelöst, wir wissen nur, dass Erdös falsch lag.

(Kurz nach Publikation des Gegenbeispiels fand ein menschlicher Mathematiker auf Basis der Arbeit ein eleganteres Gegenbeispiel.)

[Stahlelefant]

Ich fürchte, dass sie nächstes Jahr Sturmgewehre jonglieren können … und vielleicht auch bedienen. […]
 
Könnte aber (hoffentlich) auch sein, dass die benötigte Rechenpower doch noch zu hoch ist, als dass man die nötigen Chips (und Akkus) in einem Roboter unterbringen könnte. Das ist zumindest aktuell wohl noch das Problem bei KI-gesteuerten Drohnen (Ukraine-Krieg). Gewisse Aufgaben können die schaffen, aber sie sind wohl noch nicht in der Lage, komplett autonom zu agieren.

 
KI für Zielaufklärung und Drohnensteuerung, die Freunde vom Donald helfen, die Ukraine profitiert davon: Reisners Blick auf die Front "Die Drohnenangriffe tragen die Handschrift von Trumps Tech-Bros" https://www.n-tv.de/...id30998191.html
 
Und hier noch was für alle Optimisten, hoffentlich stimmt’s :
https://observer.co....the-human-touch
Artikel aus dem Observer. Der Mensch wird vieles nicht der KI anvertrauen wollen, und teilweise ist es auch kaum möglich – wenn jemand die Verantwortung tragen muss. Handarbeit (hochwertige Artikel) wird begehrt sein, weil Leute auch mal was Besonderes haben wollen, wenn alles maschinell hergestellt werden kann … etc.

[Mammut]

Philosophie ist für viele der Inbegriff einer brotlosen Kunst und eines Studiums mit mageren Karriereaussichten. Informatikern schien dagegen die Zukunft zu gehören. Im Zeitalter der künstlichen Intelligenz haben sich die Aussichten für Absolventen allerdings verschoben.

Umwälzung dank KI: Philosophen überholen Informatiker auf dem US-Arbeitsmarkt - n-tv.de

[Mammut]

Roland Emmerich im Interview
"Technik kann man nicht aufhalten"
https://www.n-tv.de/...id31095196.html

[Michael Fallik]

 Technik kann man nicht aufhalten ... finde ich eine gelungene Aussage, kommt gleich nach Der Ball ist rund. Wenn ich ins Gym gehe, sitzen dort jeweils acht Sportbegeisterte um mich herum, die völlig weggetreten auf ihr Handy starren. Wie sagte letztens ein Freund von mir ... mangels Alternative wird es als Normalzustand angesehen. Heutzutage die Frage nach Chancen und Risiken zu stellen, ist völlig sinnfrei. Es impliziert, das es eine Entwicklung ist, die von denen, die diese Frage stellen, beeinflusst werden kann. Langfristig hat uns das Massentierhaltung, eine kaputte Umwelt und Wohlstandskrankheiten eingebracht. Wenn man einmal die sinkende Lebensqualität in Relation zur Industrialisierung stellt, die stetig sinkende Bereitschaft zum kritischem Denken dazu addiert und durch die Anzahl der Katzen-Videos und der tanzenden, blauen Elefanten mit Trumpgesicht  teilt ... wartet, ich habe die Science-Fiction-Szene vergessen, die munter Untergangsszenarien konsumiert oder Raumschlachten in fernen Galaxien dem täglichen Überlebenskampf derjenigen vorzieht, die Kobalt und  seltene Erden aus ihrer vormals grünen Heimat buddeln. Das ist kein Pessimismus. Es ist ehr die  Frage, ob es der Krone der Schöpfung gerecht wird. Objektiv  betrachtet, gab es in der Vergangenheit eine Menge Chancen. Doch jede Verbesserung, sei es die Fähigkeit, mit Schiffen um die Welt zu segeln oder Metall zu schmieden, wurde ganz wie von selbst zum Todesurteil aller, die noch nicht in den Genuss dieser Vorzüge geraten waren. Afrika wurde erstaunlich spät von den Europäern kolonisiert. Warum? Die kleine Tse-Tse fliege war schuld. Jemand erforschte die Wirkung von Chinin und die Sklaverei begann. War irgendjemand dran Schuld? Fällt alles unter Risiken. Zurück zu deinem Thema:

So ein Big Brother Ding braucht seine eigene Zeit und eine Bereitschaft der Massen. Keine Ahnung, wie die chinesische Bevölkerung damit umgeht, aber ob die noch die Luft haben, über Chancen und Risiken zu philosophieren, bezweifele ich.

[Stahlelefant]

Kimi K3 – die „gelbe Gefahr“? Soll fast so gut sein wie Claude Mythos, ist aber open source. Wenn sich damit also leicht Sicherheitslücken identifizieren lassen, werden die Hacker es lieben. Dazu gibt’s einen Artikel beim Telegraph. Weiteres mögliches Problem, das erwähnt wird:

A recent report by US company Harmonic Security estimated that one in 12 workers in the US and UK were already using some form of Chinese AI. Alastair Paterson, Harmonic’s chief executive, said: “All data submitted to these platforms should be considered property of the Chinese Communist Party given a total lack of transparency.”
https://www.telegrap...l-ai-communism/

Aber auch nicht-chinesische Anbieter können wohl problematisch sein. KI saugt dein Geschäft aus:
https://www.telegrap...s-bubble-afloat

 

Philosophie ist für viele der Inbegriff einer brotlosen Kunst und eines Studiums mit mageren Karriereaussichten. Informatikern schien dagegen die Zukunft zu gehören. Im Zeitalter der künstlichen Intelligenz haben sich die Aussichten für Absolventen allerdings verschoben.

Umwälzung dank KI: Philosophen überholen Informatiker auf dem US-Arbeitsmarkt - n-tv.de

Ja, einen ähnlichen Artikel hatte ich weiter oben schon verlinkt:

 

Und noch ein Artikel, von Telegraph online. Informatiker finden leicht einen Job? Die Zeiten scheinen vorbei zu sein, zumindest für Berufseinsteiger. Bezieht sich auf Großbritannien, aber ob es in Deutschland wirklich anders ist?
 
Computer science used to be a golden ticket to a lucrative career. Now graduates can’t get a job

[Mammut]

"Beispielloser Cyber-Vorfall": KI von OpenAI bricht bei Testlauf aus und hackt fremdes System - n-tv.de

 

Das klingt ja ziemlich schräg.

[Mammut]

"Beispielloser Cyber-Vorfall": KI von OpenAI bricht bei Testlauf aus und hackt fremdes System - n-tv.de

 

Das klingt ja ziemlich schräg.

 

SANTA CLARA (dpa-AFX) - Der führende Hersteller von KI-Chips, Nvidia, und fast 40 weitere Technologieunternehmen haben eine KI-Sicherheitsallianz ins Leben gerufen. Dem Bündnis gehören unter anderem Microsoft, IBM, SAP, Dell, Palantir sowie der Konzern SpaceXAI an.

Auffällig ist dabei jedoch vor allem, wer bei der neuen Allianz fehlt: Ausgerechnet die führenden Entwickler geschlossener KI-Modelle, namentlich Google, OpenAI und Anthropic, sind nicht Teil der Initiative.

Die Gründung der "Open Secure AI Alliance" (OSAA) erfolgt nur wenige Tage nach einer aufsehenerregenden Testpanne, die die Gefahren unkontrollierbarer KI-Agenten verdeutlichte. Mitte Juli hatten sich KI-Modelle von OpenAI während eines internen Tests verselbstständigt und eigenständig einen Hackerangriff auf die beliebte Entwicklerplattform Hugging Face ausgeführt. OpenAI selbst bezeichnete den Vorfall im Nachhinein als "beispiellos".

Hackerabwehr nur mit KI-Modellen aus China möglich

Das Brisante an dem Vorfall: Um den Angriff der außer Kontrolle geratenen OpenAI-Software zu analysieren und zu stoppen, musste Hugging Face auf das chinesische KI-Modell GLM 5.2 zurückgreifen. Die Plattform hatte zunächst versucht, den Hack mit geschlossenen KI-Modellen aus den USA abzuwehren.

Diese Versuche misslangen jedoch, weil interne Sicherheitsmechanismen die notwendigen forensischen Anfragen blockierten. Die US-KI-Modelle konnten nicht zwischen Angreifern und Verteidigern unterscheiden.

Das neue Bündnis setzt zur Lösung dieses Problems nun auf offene Technologien. Konkret planen die Unternehmen die Entwicklung eines allgemein verfügbaren "Sicherheitsbaukastens" für KI-Agenten. Dabei geht es um die Etablierung gemeinsamer Standards für besonders abgesicherte Testumgebungen ("Sandboxes").

Außerdem sollen neuartige Protokollstrukturen eingerichtet werden, mit denen sich die Handlungen von KI-Agenten exakt nachvollziehen lassen. Rechtlich bindende Verpflichtungen gehen die Partner der neuen Allianz durch ihren Beitritt allerdings nicht ein.

Offene vs. geschlossene KI-Modelle

Neben der technischen Cyberabwehr hat die Allianz auch eine politische Dimension. Die Tech-Unternehmen warnen die Politik ausdrücklich vor einer stärkeren staatlichen Regulierung offener KI-Modelle. Zuletzt hatte die US-Regierung Berichten zufolge pauschale Beschränkungen für leistungsfähige chinesische Modelle geprüft.

Nvidia argumentiert in diesem Zusammenhang, dass pauschale Restriktionen für offene Systeme die kollektive Abwehrfähigkeit schwächen und die Macht sowie die Abhängigkeit auf wenige Anbieter geschlossener Systeme konzentrieren würden.

Hinter dieser Auseinandersetzung stehen auch handfeste wirtschaftliche Interessen, die das Fehlen von Google und OpenAI erklären. Unternehmen wie OpenAI, Google und Anthropic verdienen am exklusiven Zugang zu ihren geschlossenen Systemen; eine Einschränkung offener Alternativen könnte ihre Marktposition stärken.

Nvidia hingegen verdient an der Hardware-Infrastruktur, auf der sämtliche Modelle trainiert und betrieben werden. Je vielfältiger und offener das KI-Ökosystem ist, desto höher ist dementsprechend die potenzielle Nachfrage nach den Chips des Konzerns.

[Christian Hornstein]

@Mammut

Um auf Deine Ausgangsfrage im Januar zurück zu kommen: Ich gehe mit den Chancen so um, dass ich sie versuche zu nutzen und für andere nutzbar zu machen, wenn ich den Eindruck habe, dass es daran hapert. Die Risiken versuche ich zu erkennen, realistisch einzuschätzen und ihnen in meinem Wirkungskreis entgegen zu treten. Da ist die Alltagsebene, die mediale (mit Geschichten, Artikeln, usw.) und natürlich die politische, auf die wir alle mehr versuchen sollten Einfluss zu nehmen.

 

Allgemein gesehen würde ich sagen, dass keiner von uns die Zukunft sicher vorhersagen kann. Zu meiner Einschätzung: Es gibt Probleme, bei denen ich noch keine Lösung in Sicht sehe, wie z.B. der Klimakrise. Damit meine ich: Es gibt zwar Lösungsansätze, aber ich sehe momentan nicht, dass sie jemals ausreichend umgesetzt werden. Dann gibt es Bedrohungen, für die es noch keine schlüssigen Lösungen gibt, wie z.B. diejenigen, die die fortgeschrittene Automation (vulgo KI) mit sich bringt. Wieder andere werden im Prinzip gut in Schach gehalten, stellen im aktuellen gesellschaftlichen Kontext aber ein andauerndes Risiko dar, dass jederzeit zu katastrophalen Auswirkungen führen kann. Dazu zähle ich unsere monströsen Kriegsfähigkeiten, die Biotechnologie und die Nanotechnologie von morgen.

 

Ich hoffe, die Menschheit wird es schaffen, ihre Möglichkeiten zum Wohle aller zu nutzen, denn dies würde in der Tat viel Gutes mit sich bringen. Die Möglichkeiten werden nämlich sehr weitgehend sein, glaube ich.

Bearbeitet von Christian Hornstein, 28 Juli 2026 - 14:57.

[Naut]

Ich hätte auch lieber "Culture" als "Terminator".

[Fermentarius]

Sam Altman hat vor einigen Tagen behauptet, die KI-Singularität sei jetzt da. Nach einer alten und berühmten Vorhersage von Vernor Vinge aus dem Jahr 1993 soll sie dann eintreten, wenn die KI intelligenter ist als jeder Mensch. Noch einmal zur Erinnerung: 

"Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended."

Den ersten Teil hat er schon sehr gut vorhergesagt. Auf den zweiten Teil bin ich nicht so scharf. Ich meine allerdings, dass er falsch liegt. Das Problem ist nicht so sehr die künstliche Intelligenz an sich, sondern ihre Fähigkeit, selbstständig zu handeln. Eine Fähigkeit, die wir der KI erst einräumen. Und damit müssen wir eben extrem zurückhaltend sein. 

Und nicht zu vergessen: Intelligenz ist nur schwer zu messen. IQ.Tests sind kulturabhängig. Alle Versuche, sie davon zu lösen, führt nur zur Überbetonung bestimmter Teilaspekte, die einige Psychologen - zurecht oder zu Unrecht - als allgemein menschliche Leistungen definiert haben. Die Messung künstlicher Intelligenz ist noch viel schwerer. Und noch eine Sache:

KI ist ebenfalls kulturabhängig. In einer Kultur, die Computern wenig Raum gibt, hat sie keine Chance. Sie ist, anders als der Mensch, kein Teil der Natur.

[Christian Hornstein]

Ja, die Autonomie ist praktisch die Machete, die wir ihr in die Hand geben, darauf hoffend, dass wir nichts übersehen haben, und dass sie uns damit den Weg frei- und nicht den Kopf abschlagen wird. 

 

Den Unterschied zwischen Kultur und Natur sehe ich nicht so grundlegend, denn Kultur ist eine Erfindung von Lebewesen, die Teil der Natur sind. Wenn aber Natur zu Kultur führt, ist Kultur letztlich eine Emergenz von Natur.

 

Unsere Konzepte von Intelligenz halte ich für stark anthropomorph. Wir haben keinen blassen Schimmer, wozu Maschinen fähig wären, die sich aus dieser anthropomorphen Wiege herausentwickeln, und welche Ziele sie anstreben würden. Deshalb ist für mich die Abgabe von Kontrolle an KI, die dieses Potential hat, auch das Gegenteil von Sicherheit, zumindest für den Rest der Schöpfung. Was sich die Leute, die so etwas vorhaben, dabei denken, ist mir schleierhaft. Wahrscheinlich geht es wieder um Spieltrieb, Ansehen und das schnelle Geld. 

Bearbeitet von Christian Hornstein, 30 Juli 2026 - 15:06.