Zum Inhalt wechseln


Foto

Sicherheitsaspekte bei der Entwicklung sogenannter KI

KI Sicherheit Entwicklung

  • Bitte melde dich an um zu Antworten
20 Antworten in diesem Thema

#1 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 635 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 22 Mai 2024 - 12:50

Aus gegebenem Anlass, nämlich dem Verlassen des OpenAI-Projekts durch eine Reihe von renomierten Experten aus dem Sicherheitsteam (siehe z.B. https://www.rnd.de/d...S4WCFTBXRM.html) und dem Beginn des Ausrollens von GTP-4o, möchte ich in Anbetracht der kritischen Äußerungen der oben genannten Experten und vieler anderer Skeptiker aus dem Fachbereich die Frage zur Diskussion stellen:

 

Werden die Sicherheitsaspekte bei der Entwicklung aktueller KNN / Modelle ausreichend berücksichtigt?


Bearbeitet von Christian Hornstein, 22 Mai 2024 - 12:50.


#2 Helge

Helge

    Cybernaut

  • Mitglieder
  • PIPPIPPIP
  • 301 Beiträge

Geschrieben 22 Mai 2024 - 17:21

Ich denke, das kann kein Mensch auf der Welt wirklich einschätzen, aber trotzdem sind KIs in der heutigen Welt so ungefähr das, worum ich mir am wenigsten Sorgen mache. Dass eine KI sich wirklich verselbständigt und es unmöglich macht, ihr den Strom abzuschalten, das ist nur in Verbindung mit Menschen möglich. Menschen, die das KI-System versorgen, warten und schützen, werden sich selbstverständlich finden, wenn die KI sie nur gut genug dafür bezahlt bzw. ihnen sonstige Vorteile verschafft, und wenn sie intelligent genug ist, wird sie das können. (Ansonsten wäre ohnehin kein Problem in Sicht.) Das Problem ist und bleibt also nach wie vor der Mensch - und Menschen in Machtpositionen richten auch ohne KI schon weit Schlimmeres an.



#3 Fermentarius

Fermentarius

    Infonaut

  • Mitglieder
  • PIPPIP
  • 161 Beiträge
  • Geschlecht:männlich
  • Wohnort:Münster

Geschrieben 22 Mai 2024 - 17:26

Die Diskussion ist derzeit wohl etwas aus dem Ruder gelaufen. Bisher ist KI keineswegs intelligent. GPT-4o funktioniert im Prinzip nicht anders als die Vorgänger: Wenn man ihnen einen Frage stellt, dann fügen sie zur Antwort diejenigen Worte aneinander, denen sie entsprechend ihrem Training die höchste Wahrscheinlichkeit beimessen. Das Ganze wird dann noch nach den Richtlinien des Unternehmens korrigiert, damit die Antworten annehmbar ausfallen. Eine Intelligenz steckt nicht dahinter, auch keine Intention, kein Plan, keine Verschwörung.

KI-Systeme können auch immer noch nicht besonders gut Auto fahren, weil ihnen die Fähigkeit fehlt, nicht trainierte Situationen zu meistern. Im Moment sind KI-Systeme also hochentwickelte Wahrscheinlichkeitsmaschinen, aber keine autonomen Agenten in dem Sinne, dass sie selbstständig und mit eigener Überlegung ein Ziel verfolgen und dafür einen Plan entwickeln.

 

Sollten KI-Systeme das tatsächlich jemals lernen und dabei wesentlich intelligenter werden als Menschen, werden wir sie nicht kontrollieren können. Das ist ungefähr so, als ob Hunde sich besprechen, wie sie Menschen im Zaum halten können.

 

Ein extrem mächtiger und extrem intelligenter Flaschengeist lässt sich auf die Dauer nicht einsperren.



#4 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 635 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 23 Mai 2024 - 10:45

In naher Zukunft wird uns aus den von Euch genannten Gründen sicher kein Schicksal à la Terminator drohen. Dieses Szenario ist aber ohnehin nicht besonders wahrscheinlich. Die Gefahren, die die Sicherheitsexperten im Blick haben, sind meist andere. Nur zwei Beispiele:

 

Chatbots werden immer leistungsfähiger und werden heute zumindest von Kindern schon oft erlebt, als hätten sie es mit einem Menschen zu tun. Die Angebote bei OpenAI gehen auch klar in die Richtung, solche Bots als Ratgeber zu etablieren. Die SF hat oft ausgemalt, wie es aussehen könnte, wenn Menschen anfangen sollten, emotionale Bindungen zu KI zu entwickeln. In unserer Gesellschaft gibt es zunehmend einsame Menschen, vor allem im Alter. In Japan besteht aufgrund der Überalterung der Gesellschaft und den Vorbehalten gegenüber Ausländern ein eklatanter Mangel an Pflegekräften u.ä., so dass man bereits ziemlich forsch Maschinen zur Betreuung der alten Menschen einsetzt. Wenn demnächst auch immer mehr Jüngere sich an Maschinen wenden, wenn Sie Fragen und Probleme haben, wo wird uns das hinführen?

 

Es ist absehbar, dass sehr bald eine ganze Reihe von Dienstleistungen, die bislang von Menschen angeboten wurden, von Maschinen bereitgestellt werden könnten. Diese Veränderung wird innerhalb von wenigen Dekaden stattfinden, ein Tempo, das wir für diesen Bereich in der Geschichte der Menschheit nur aus extremen Krisensituationen kennen z.B. massive Konjunktureinbrüche. Die Politik hat dafür keinen Plan. Wohin wird uns das in einer Gesellschaft führen, in der noch jeder auf Erwerbsarbeit angewiesen ist, um seinen Lebensunterhalt zu sichern?



#5 Helge

Helge

    Cybernaut

  • Mitglieder
  • PIPPIPPIP
  • 301 Beiträge

Geschrieben 23 Mai 2024 - 14:09

Um mit dem Schluss anzufangen: Was die Arbeit als solche angeht, wird es, solange es Entwicklung und Fortschritt gibt, immer welche für Menschen geben.

An das Problem, dass Menschen durch den ständigen Umgang und die Kommunikation mit KI mit einem völlig verzerrten Weltbild aufwachsen, hatte ich tatsächlich erstmal gar nicht gedacht. Auch das ist aber eigentlich nichts Neues; das gibt es alles schon längst. Die meisten Menschen beziehen ihre Vorstellung von der Welt aus Religionen und Ideologien, aus Werbung und Propaganda und allem, was sonst noch über die Medien kommt, selbst aus Informationen, die ganz offen als frei erfundene Unterhaltung daherkommen. Ganz vorn dabei sind all die Polizeiserien im Fernsehen, die oberflächlich so erscheinen, als hätten sie etwas mit der Realität zu tun, in Wirklichkeit aber oft völlig infantil und schwer propagandabeladen sind.

Es ist nicht schwer, Menschen zu begegnen, deren Weltbild gerade noch so viel mit der Realität zu tun hat, um halbwegs überlebensfähig zu sein. KI wird da ganz sicher neue Aspekte und Qualitäten einbringen, so wie das beispielsweise auch schon in den 1970ern mit den vor dem Fernseher geparkten Kinden war, die damals ein Thema waren, aber ich denke nicht, dass da etwas grundsätzlich Neues entsteht.


Bearbeitet von Helge, 23 Mai 2024 - 14:10.


#6 Fermentarius

Fermentarius

    Infonaut

  • Mitglieder
  • PIPPIP
  • 161 Beiträge
  • Geschlecht:männlich
  • Wohnort:Münster

Geschrieben 24 Mai 2024 - 12:12

 

Chatbots werden immer leistungsfähiger und werden heute zumindest von Kindern schon oft erlebt, als hätten sie es mit einem Menschen zu tun. Die Angebote bei OpenAI gehen auch klar in die Richtung, solche Bots als Ratgeber zu etablieren. Die SF hat oft ausgemalt, wie es aussehen könnte, wenn Menschen anfangen sollten, emotionale Bindungen zu KI zu entwickeln. In unserer Gesellschaft gibt es zunehmend einsame Menschen, vor allem im Alter. In Japan besteht aufgrund der Überalterung der Gesellschaft und den Vorbehalten gegenüber Ausländern ein eklatanter Mangel an Pflegekräften u.ä., so dass man bereits ziemlich forsch Maschinen zur Betreuung der alten Menschen einsetzt. Wenn demnächst auch immer mehr Jüngere sich an Maschinen wenden, wenn Sie Fragen und Probleme haben, wo wird uns das hinführen?

Christian, das sind jetzt viele Bedenken auf einmal. Bots als Ratgeber sind denkbar, sie sind aber chronisch unzuverlässig. Ich verwende keine KI-gestützten Suchmaschinen, weil ich die Ergebnisse kaum verifizieren kann. Manchmal sind ja durchaus die Quellen genannt, aber ich muss dann immer noch verifizieren, ob die KI alles richtig verstanden hat. Da es letztlich einfacher, wenn ich eine "einfache" Google-Suche durchführe. 

 

Die Gefahr, dass Schüler ihre Hausaufgaben gleich von der KI erledigen lassen, ist natürlich durchaus aktuell, und kommt ja auch schon massenhaft vor. In früheren Zeiten haben sie allerdings einfach von anderen abgeschrieben, was auch nicht besser war.

 

Eine emotionale Bindung ist durchaus möglich. Es hat sie immer gegeben. Früher lebten Dutzende bunte Blätter von reich bebilderten Geschichten über Prominente, seien es nun Schauspieler oder Königshäuser. Heute verdienen Influenzer viel Geld damit, dass sie ihren Followern vorspielen, dass sie ihr Leben mit ihnen teilen.

 

Bei einer KI würde das sicherlich direkter, interaktiver, und die Missbrauchsgefahr wäre größer. Aber ich bezweifle ernsthaft, ob das jetzt grundlegend anders wäre als heute.

 

Die Vereinsamung der alten Menschen ist wirklich ein weltweites Problem. Aber hier könnten Roboter und KI vermutlich sogar helfen. Die Vereinsamung beschleunigt den kognitiven und physischen Verfall der Menschen. Wenn sie einen virtuellen Gesprächspartner haben, würde eventuell länger aktiv bleiben können. Auch ein Roboter als Haushaltshilfe würde das unterstützen.

 

 

 

 


Es ist absehbar, dass sehr bald eine ganze Reihe von Dienstleistungen, die bislang von Menschen angeboten wurden, von Maschinen bereitgestellt werden könnten. Diese Veränderung wird innerhalb von wenigen Dekaden stattfinden, ein Tempo, das wir für diesen Bereich in der Geschichte der Menschheit nur aus extremen Krisensituationen kennen z.B. massive Konjunktureinbrüche. Die Politik hat dafür keinen Plan. Wohin wird uns das in einer Gesellschaft führen, in der noch jeder auf Erwerbsarbeit angewiesen ist, um seinen Lebensunterhalt zu sichern?

Das sehe ich teilweise auch so. Aber im Grunde besteht diese Entwicklung schon seit vielen Jahrzehnten. Ich kann schon heute an keinem Bankschalter mehr Geld abholen. Die Post schließt überall Filialen. Der Einzelhandel wird immer weiter ausgedünnt. Ich bestelle heute schon ganz normale Dinge des täglichen Bedarfs im Internet, nicht weil ich das unbedingt will, sondern weil ich immer weiter fahren muss, um Dinge wie Bindfäden, DIN-A4-Papier oder Fliegenklatschen zu bekommen. Und vielleicht werden leichtere Pakete bald per Drohne bei mir im Garten abgesetzt, in einem speziellen, regengeschützten Landebereich, den ich bei Amazon kaufen kann.

 

Und ja, Berufe wie die des Steuerberaters könnten bald automatisiert werden. Ich mache seit Jahren meine Steuererklärung selbst, nur mit einer entsprechenden Software. Das Finanzamt hatte bisher nichts wesentliches daran auszusetzen.

 

Es werden dann andere Berufe entstehen. Das wird nicht ohne Umbrüche abgehen. Die Weber wurden seinerzeit durch Webmaschinen überflüssig, und es kam zu Aufständen. Aber letztlich war der Wandel unabdingbar. Es werden sich andere Berufe finden. Es wird natürlich nicht einfach werden, und Konflikte sind unvermeidlich. Aber aufhalten lässt sich die Entwicklung wohl nicht.



#7 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 635 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 25 Mai 2024 - 10:18

Ich stelle fest, dass wir gerade weniger über Sicherheitsaspekte sprechen und mehr darüber, ob überhaupt mehr Handlungsbedarf besteht als bislang. Ich glaube schon, dass mehr Handlungsbedarf besteht.

 

Ich stimme Euch in vielem zu. Selbstverständlich bergen KI auch hilfreiche Anwendungen. Manche Phänomene und Probleme sind auch nicht neu und aufhalten lässt sich die Entwicklung von KI sicher nicht. Das Besondere an der gegenwärtigen Technologie und der damit verbundenen Entwicklung ist aber die Gründlichkeit, mit der das betroffene Phänomen auf die Spitze getrieben wird, die Skalierbarkeit der Technik und das eklatante Hinterherhinken der notwendigen Regulation. Die Applikationen sind schon unter uns und werden, sobald sie erscheinen und Nutzen versprechen, sofort eingesetzt, auch von Otto Normalbürgeri. Beispiel: Die Urheberrechtsdebate hat gerade erst begonnen, da werden Graphikassistenten bereits im großen Maßstab eingesetzt, nutzen ungehindert die Werke der Menschheit als Vorlage und haben bereits dazu geführt, dass bei Graphikern die Aufträge eingebrochen sind.

 

Verbundenes Beispiel: Erwerbsarbeit. Die ersten davon betroffenen Dienstleistungen werden meist diejenigen sein, die am Schreibtisch stattfinden. Das wird in einem viel größeren Ausmaß und in einem viel kürzeren Zeitraum stattfinden als die üblichen Umbrüche und vergleichbar mit den großen Wirtschaftskrisen sein. Darauf werden auch bald Dienstleistungen folgen, die körperlichen Einsatz benötigen, weil die Robotik gerade exponentiell mit der KI nachzieht. Beide profitieren voneinander. Und wie gesagt: Es gibt keinen ernsthaften Plan für dieses Szenario, obwohl klar ist, dass so schnell neue Jobs in dem Ausmaß nicht entstehen werden. Das bedingungslose Grundeinkommen ist bis heute ein Konzept geblieben, das die meisten Parteien nicht ernst nehmen.

 

Ein weiteres Problemfeld: Desinformation. Sie hat es auch schon immer gegeben, doch demnächst lässt sie sich in einer noch nie dagewesenen Perfektion umsetzen, und zwar nicht nur in Bezug auf übliche Bewertungskriterien wie die Plausibilität einer fotographischen Abbildung, sondern sogar maßgeschneidert auf den Adressaten, und damit meine ich nicht eine Volksgruppe, sondern ein ganz konkretes Individuum. Es lassen sich demnächst hochspezialisierte Agenten auf einzelne Personen ansetzen mit einem für den Initiator relativ geringen Aufwand, da die Vorbereitungen und die Performanz automatisiert ablaufen. Und das nicht nur für ein paar ausgewählte Personen, sondern für jeden Menschen in der Bevölkerung, der entsprechende Medien konsumiert, was demnächst quasi jeden betreffen wird. Das ist schon eine neue Qualität. Zugleich fangen wir erst an, Richtlinien aufzustellen, während die großen Unternehmen mehr oder weniger widerwillig beginnen ihre Werkzeuge zu überwachen, was sie ja viel Geld kostet, und die Menschen bereits munter konsumieren, ohne dass wir ein schlüssiges Konzept hätten, wie Fälschungen in jedem einzelnen Fall von allen Betroffenen entlarvt werden könnten.

 

Und hier fügt sich ein weiteres Glied in die Dominokette: das politische System z.B. die Demokratie. Was wird aus ihr, wenn kaum mehr jemand Vertrauen in online Medien finden kann? Wie informieren sich die Menschen dann? Wie bilden sie sich ihre Meinung?

 

Sollten wir nur mit den Schultern zucken und sagen: Na ja, das Problem hat es schon immer so oder ähnlich gegeben. Einfach mal abwarten. Es ist schon immer gut gegangen und falls nicht, auch egal? Ich glaube, damit würden wir der Sache nicht gerecht.


Bearbeitet von Christian Hornstein, 25 Mai 2024 - 10:27.


#8 Mammut

Mammut

    DerErnstFall Michael Schmidt

  • Mitglieder
  • PIPPIPPIPPIPPIP
  • 8.296 Beiträge
  • Geschlecht:männlich
  • Wohnort:In der Mitte

Geschrieben 25 Mai 2024 - 11:38

Ich stelle fest, dass wir gerade weniger über Sicherheitsaspekte sprechen und mehr darüber, ob überhaupt mehr Handlungsbedarf besteht als bislang. Ich glaube schon, dass mehr Handlungsbedarf besteht.

 

Ich stimme Euch in vielem zu. Selbstverständlich bergen KI auch hilfreiche Anwendungen. Manche Phänomene und Probleme sind auch nicht neu und aufhalten lässt sich die Entwicklung von KI sicher nicht. Das Besondere an der gegenwärtigen Technologie und der damit verbundenen Entwicklung ist aber die Gründlichkeit, mit der das betroffene Phänomen auf die Spitze getrieben wird, die Skalierbarkeit der Technik und das eklatante Hinterherhinken der notwendigen Regulation. Die Applikationen sind schon unter uns und werden, sobald sie erscheinen und Nutzen versprechen, sofort eingesetzt, auch von Otto Normalbürgeri. Beispiel: Die Urheberrechtsdebate hat gerade erst begonnen, da werden Graphikassistenten bereits im großen Maßstab eingesetzt, nutzen ungehindert die Werke der Menschheit als Vorlage und haben bereits dazu geführt, dass bei Graphikern die Aufträge eingebrochen sind.

 

Verbundenes Beispiel: Erwerbsarbeit. Die ersten davon betroffenen Dienstleistungen werden meist diejenigen sein, die am Schreibtisch stattfinden. Das wird in einem viel größeren Ausmaß und in einem viel kürzeren Zeitraum stattfinden als die üblichen Umbrüche und vergleichbar mit den großen Wirtschaftskrisen sein. Darauf werden auch bald Dienstleistungen folgen, die körperlichen Einsatz benötigen, weil die Robotik gerade exponentiell mit der KI nachzieht. Beide profitieren voneinander. Und wie gesagt: Es gibt keinen ernsthaften Plan für dieses Szenario, obwohl klar ist, dass so schnell neue Jobs in dem Ausmaß nicht entstehen werden. Das bedingungslose Grundeinkommen ist bis heute ein Konzept geblieben, das die meisten Parteien nicht ernst nehmen.

 

Ein weiteres Problemfeld: Desinformation. Sie hat es auch schon immer gegeben, doch demnächst lässt sie sich in einer noch nie dagewesenen Perfektion umsetzen, und zwar nicht nur in Bezug auf übliche Bewertungskriterien wie die Plausibilität einer fotographischen Abbildung, sondern sogar maßgeschneidert auf den Adressaten, und damit meine ich nicht eine Volksgruppe, sondern ein ganz konkretes Individuum. Es lassen sich demnächst hochspezialisierte Agenten auf einzelne Personen ansetzen mit einem für den Initiator relativ geringen Aufwand, da die Vorbereitungen und die Performanz automatisiert ablaufen. Und das nicht nur für ein paar ausgewählte Personen, sondern für jeden Menschen in der Bevölkerung, der entsprechende Medien konsumiert, was demnächst quasi jeden betreffen wird. Das ist schon eine neue Qualität. Zugleich fangen wir erst an, Richtlinien aufzustellen, während die großen Unternehmen mehr oder weniger widerwillig beginnen ihre Werkzeuge zu überwachen, was sie ja viel Geld kostet, und die Menschen bereits munter konsumieren, ohne dass wir ein schlüssiges Konzept hätten, wie Fälschungen in jedem einzelnen Fall von allen Betroffenen entlarvt werden könnten.

 

Und hier fügt sich ein weiteres Glied in die Dominokette: das politische System z.B. die Demokratie. Was wird aus ihr, wenn kaum mehr jemand Vertrauen in online Medien finden kann? Wie informieren sich die Menschen dann? Wie bilden sie sich ihre Meinung?

 

Sollten wir nur mit den Schultern zucken und sagen: Na ja, das Problem hat es schon immer so oder ähnlich gegeben. Einfach mal abwarten. Es ist schon immer gut gegangen und falls nicht, auch egal? Ich glaube, damit würden wir der Sache nicht gerecht.

 

Handlungsbedarf ist da, das sehe ich auch, aber die Probleme die du benennst, sind doch sehr unterschiedlich zu betrachten und manche deiner Thesen werfen doch Fragen auf.

 

Warum zum Beispiel glaubst du, dass es diesmal besonders viele Einschnitte in der Erwerbsarbeit geben wird im Vergleich zu vergangenen Zeiten? Das Konzept der Automobilproduktion ohne Menschen aus den 80ern hatte sich ja definitiv nicht bewahrheitet und seitdem hat ganz klar eine Verschiebung der Arbeit stattgefunden. Weniger körperliche Arbeit, mehr Schreibtischarbeit wie Entwicklung, Qualitätsmanagement, Produktionssteuerung, auch sind die Produkte wesentlich komplexer geworden.

Ob schnell viele Tätigkeiten ersetzt werden ist doch fraglich. Die Informationstechnologie hat doch unter dem Strich nicht dazu geführt, das wir weniger Erwerbsarbeit haben, sondern in der Summe ist die Beschäftigung auf Rekordhoch. Wenn man dazu betrachtet, dass viele Arbeitnehmer aus Altersgründen aus dem Arbeitsleben ausscheiden, wäre es schon geboten, Prozesse effektiver zu gestalten und dadurch auch Personal einzusparen.

Und wo siehst du die Robotik gerade exponentiell nachziehen? Hast du da mal ein paar Beispiele?

 

Bei den Grafikern sehe ich das ein wenig anders. Der Trend zu austauschbaren und generischen Titelbildern gibt es schon länger und der rührt bestimmt von Kostengründen her. Wenn immer mehr Produkte auf eine gleiche oder schrumpfende Anzahl an Konsumenten zurück gehen, ist das schon ein Problem und man muss schauen wie man das löst.

 

Desinformation gibt es ja schon länger (Stichwort Internet und Soziale Medien), da muss man natürlich schon genau schauen, ob das weniger sichtbar und dafür wirksamer ist. Da braucht es mit Sicherheit Handlungsbedarf gegenüber Sicherheitsaspekten.

 

Wenn man jetzt Forschung anschaut, da kann KI natürlich noch mehr wie ein herkömmliches Programm für Innovation sorgen, aber die Gefahr, dass dort etwas ungewollt unkontrolliert geschieht, ist natürlich da. Je weniger der Biologe/Chemiker, etc. versteht, was die KI liefert, desto größer besteht die Gefahr, die allerdings auch dann besteht, wenn der Mensch alles unter Kontrolle hat. Gerade dieser Aspekt finde ich megaspannend. 



#9 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 635 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 26 Mai 2024 - 08:42

Warum zum Beispiel glaubst du, dass es diesmal besonders viele Einschnitte in der Erwerbsarbeit geben wird im Vergleich zu vergangenen Zeiten?

 

Es gibt dazu einen guten Artikel von Alexandra Ilina, der Chancen, Risiken, Stärken und Schwächen von KI sowie Auswirkungen auf den Arbeitsmarkt u.a. anhand offzieller Umfragen darstellt: https://www.ingenieu...ncen-und-angst/

 

 

Und wo siehst du die Robotik gerade exponentiell nachziehen? Hast du da mal ein paar Beispiele?

 

Um den Zusammenhang zwischen KI und Robotik besser zu verstehen, gibt es z.B. diesen recht guten Artikel von Oliver Brock von der TU Berlin (siehe v.a. S.6ff): http://https://www.k...t=1544430005315

Wie KI die Robotik voranbringt beschreibt kurz und knackig z.B. Marc Segura von der schweizer Firma ABB: https://automationsp...obotik-in-2024/

 

Die genannten Zusammenhänge zwischen KI und Robotik, vor allem die Auswirkungen auf den Arbeitsmarkt, liegen in der Natur der Sache. Seit jeher haben wir Menschen versucht, das, was wir brauchten und nicht selbst erledigen wollten oder konnten, von anderen erledigen zu lassen. Andere, das waren zunächst Tiere und andere Menschen, aber auch Werkzeuge. Irgendwann haben wir unsere Werkzeuge automatisiert. Mit dem Verb automatisieren sind die Wörter autonom und automatisch konnotiert. Wir wollten, dass unsere Werkzeuge - die im Unterhalt wesentlich günstiger waren als Lebewesen - möglichst ohne unser Zutun ihre Arbeit erledigen.

Mit diesem Bestreben ist die Übertragung von Fähigkeiten verbunden. Bei Maschinen konnten wir zunächst nur die Fähigkeit zur Ausführung recht einfacher und stereotyper Handlungsabläufe übertragen. Diese Abläufe waren vorgegeben von uns. Wir haben sie analysiert und programmiert (übertragen). Irgendwann begannen wir aber Maschinen zu entwickeln, die selbstständig Handlungsabläufe entwerfen konnten. Sie waren also fähig zu lernen. Lernen können ist unsere Masterfähigkeit.

Um auf die reale Welt Einfluss nehmen zu können, brauchen wir Sinne auf der einen Seite und Effektoren auf der anderen Seite. Beides sind traditionell Entwicklungsfelder der Robotik. Doch bis vor relativ kurzer Zeit gab es zwischen Sinnen und Effektoren nur weitgehend vorgefertigte Verarbeitungsschichten für die Information, um die es ging ... bis die lernfähigen Maschinen kamen.

Zunächst waren es recht einfache Lernaufgaben, die von diesen Systemen erledigt werden konnten. Die KI-Entwicklung simuliert nun aber zunehmend komplexere Fähigkeiten unseres Nervensystems. Damit werden auch die Aufgaben komplexer, die diese Maschinen bewältigen können. Dadurch sind aber immer größere Bereiche der Arbeitswelt betroffen. Nach der zunehmenden Beherrschung der Sensomotorik, die viele Jahre eine extreme Herausforderung darstellte, überschreiten wir gerade eine Schwelle, die lange unüberwindbar schien, nämlich die Verbindung kognitiver Fähigkeiten mit Weltwissen.

Noch beschränken sich die Fähigkeiten heutiger KI überwiegend auf das Reproduzieren und simple Kombinieren, doch es ist klar geworden, dass die Technik das Potential hat, noch einen Schritt weiter zu gehen. Sie wird noch erheblich verbessert werden müssen, um wirklich kreativ werden zu können, zumindest so, wie wir es für uns in Anspruch nehmen. Momentan ist der Aufwand, den sie betreibt, enorm, mit Modellen, deren KNN Hunderte von Layern verwenden und sehr viel Energie dabei verbrauchen. Im Vergleich kommt unser Neocortex mit nur sechs Schichten aus und unser Gehirn braucht nur so viel Energie wie eine Glühbirne.

Doch das ist den Entwicklern vollkommen bewusst und sie sind schon lange dabei, diese Kinderkrankheiten zu bewältigen.
 


Bearbeitet von Christian Hornstein, 26 Mai 2024 - 08:58.


#10 Mammut

Mammut

    DerErnstFall Michael Schmidt

  • Mitglieder
  • PIPPIPPIPPIPPIP
  • 8.296 Beiträge
  • Geschlecht:männlich
  • Wohnort:In der Mitte

Geschrieben 26 Mai 2024 - 09:08

Ich habe den ersten Link überflogen. Das ist ja alles ganz nett geschrieben. Aber sowas hat man bei jedem technologischen Fortschritt serviert bekommen. Daher erneuere ich meine explizite Frage: Was genau ist diesmal anders und sorgt für massenhaften Abbau von Arbeitsplätzen? 



#11 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 635 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 26 Mai 2024 - 11:46

Ich habe den ersten Link überflogen. Das ist ja alles ganz nett geschrieben. Aber sowas hat man bei jedem technologischen Fortschritt serviert bekommen. Daher erneuere ich meine explizite Frage: Was genau ist diesmal anders und sorgt für massenhaften Abbau von Arbeitsplätzen? 

 

Um das deutlich zu machen, hatte ich noch die anschließenden Erklärungen angefügt. Der Grund, warum viele das Ausmaß der anstehenden Veränderung unterschätzen, ist, weil sie das Potential der KI-Technik unterschätzen. So meinen z.B. sogar Menschen wie Michael Cui vom McKinsey Global Institute, dass zwar die Hälfte aller Prozesse automatisiert, jedoch die meisten Arbeitsfelder nicht komplett dieser Prozedur unterzogen werden könnten, und er begründet das u.a. damit, dass die Menschen in den Bereichen kreativen Schaffens, sozialer Interaktion und bei der Kontrolle/Steuerung von KI immer gebraucht würden. Dabei wird schon lange an der sozialen Interaktion von Maschinen recht erfolgreich geforscht und KI-Systeme, die für knifflige Probleme Lösungen finden, auf die wir vielleicht nie kommen würden, gibt es bereits. Der Bereich der Kontrolle ist vielleicht der wichtigste, doch hat Thomas schon richtig angemerkt, dass es fraglich ist, ob wir Menschen überhaupt in der Lage sein werden zu verstehen, was eine KI uns erklärt, wie sie zu einem bestimmten Ergebnis gekommen ist.

Ich versuche es mal vereinfachend auf das Wesentliche herunter zu brechen: Angenommen wir Menschen hätten vier Fähigkeiten. Lange konnten wir Maschinen nur dazu bringen, eine dieser Fähigkeiten umzusetzen, so dass wir nur die entsprechenden, relativ einfachen Aufgaben an die Maschinen delegieren konnten. Mit der Zeit gelang es uns jedoch, den Maschinen auch noch eine andere Fähigkeit zu vermitteln. Momentan (und das ist das Besondere an der aktuellen Situation) sind wir dabei ihnen zu einer dritten Fähigkeit zu verhelfen, und es sieht so aus, als ob wir ihnen auch die vierte Fähigkeit übertragen könnten, auch wenn es - wie immer - etwas strittig ist, ob dies gelingt, solange es nicht gelungen ist. Und da die Entwicklung exponentiell verläuft, ist mit Blick auf die bisherige Entwicklung anzunehmen, dass die Veränderungen, die vor uns liegen, wesentlich rascher vonstatten gehen werden, als diejenigen, die hinter uns liegen. Mehr Veränderung in kürzerer Zeit.

Was aber wird passieren, wenn Maschinen alle unsere Fähigkeiten besitzen? Sie werden alle unsere Aufgaben übernehmen können und zwar zu einem Bruchteil der Kosten, die ein Mensch dafür aufwenden müsste. Was aber bedeutet dies in einer Gesellschaft, in der jeder Betrieb versucht, seine Kosten zu minimieren und die Menschen ihre Arbeitskraft verkaufen müssen, um ihren Lebensunterhalt sichern zu können? Meine Vermutung ist: Wenn wir größere Probleme vermeiden möchten, werden wir unser Wirtschaftssystem reformieren müssen. Leider sehe ich aber momentan im politischen Raum kaum eine ernsthafte Motivation dies vorzubereiten.

Die Tech-Giganten sind sich dieser Umstände bewusst. Das ist ein Grund - nicht der einzige - warum OpenAI open ist: KI for all, wie das o in GPT-4o uns sagen will. Denn wenn nur wenige die "alleskönnenden" KI dieser Welt besitzen und nutzen würden, was wäre dann mit all den anderen?
 



#12 Helge

Helge

    Cybernaut

  • Mitglieder
  • PIPPIPPIP
  • 301 Beiträge

Geschrieben 29 Mai 2024 - 07:23

Das hier passt vielleicht ganz gut in den Thread: https://www.livescie...ke-chlorine-gas

Ich frage mich da allerdings, auf wieviele dieser Ideen die KI tatsächlich von selbst kommt. Wenn die KI schuld ist und niemand etwas dafür kann, ist das natürlich eine gute Gelegenheit, mit Menschen und der Gesellschaft zu experimentieren. Wieviele Leute werden tatsächlich ihre Pizza mit Kleber anreichern und wieviele Depressive werden tatsächlich von der Brücke springen, wenn sie das gesagt bekommen?


Bearbeitet von Helge, 29 Mai 2024 - 07:24.


#13 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 635 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 29 Mai 2024 - 12:48

Das hier passt vielleicht ganz gut in den Thread: https://www.livescie...ke-chlorine-gas

Ich frage mich da allerdings, auf wieviele dieser Ideen die KI tatsächlich von selbst kommt. Wenn die KI schuld ist und niemand etwas dafür kann, ist das natürlich eine gute Gelegenheit, mit Menschen und der Gesellschaft zu experimentieren. Wieviele Leute werden tatsächlich ihre Pizza mit Kleber anreichern und wieviele Depressive werden tatsächlich von der Brücke springen, wenn sie das gesagt bekommen?

 
Das sind zwar drastische Berichte, aber ich selbst habe auch schon Fehler bei diesen Anwendungen bemerkt. Lernfähige Systeme müssen irgendwann auch Fehler machen. Das liegt in der Natur der Sache. Deshalb wäre es ja ein Problem, wenn wir irgendwann nicht beurteilen könnten, wie eine KI zu ihren Ergebnissen kommt, und uns quasi darauf verlassen müssten. Andererseits tun wir das bei heutigen Experten ja auch oft.



#14 WeepingElf

WeepingElf

    Infonaut

  • Mitglieder
  • PIPPIP
  • 198 Beiträge
  • Geschlecht:männlich
  • Wohnort:Braunschweig

Geschrieben 30 Mai 2024 - 12:40

Ich bin kein KI-Experte, aber ich habe den Eindruck, dass KIs (beim derzeitigen Stand der Entwicklung) zwar Muster erkennen können, aber nicht verstehen, was diese Muster bedeuten. Auf KI-erzeugten Bildern findet man immer wieder Fehler wie Straßen, die nirgendwo hin führen, Menschen und Tiere mit zu vielen Armen oder Beinen, und dergleichen mehr. Vor ein paar Tagen habe ich in einem anderen Forum mal nach einem wissenschaftlichen Aufsatz gefragt, von dem ich noch wusste, was darin stand, dessen Autor und Titel ich aber nicht mehr in Erinnerung hatte. Jemand fragte ChatGPT, welches Autor und Titel nannte - es stellte sich dann aber heraus, dass Autor und Titel nicht zusammen gehörten: es gab zwei Aufsätze mit der gesuchten Aussage, von denen einer von dem genannten Autor war, der andere den genannten Titel trug. Angesichts solcher Fehler und Schwächen dürfte zweifelhaft sein, dass KIs bereits über Bewusstsein verfügen.

 

Und, wie hier richtig gesagt wurde, ist es nicht zwangsläufig, dass eine starke KI eine Bedrohung für die Menschheit wäre. Natürlich kann eine solche KI gefährlich werden, aber die gleichen Gefahren gehen eben auch von Menschen aus, und auch nicht intelligente Systeme können gefährlich sein. Außerdem würde man mit der Entwicklung einer solchen KI den wichtigsten Vorteil verlieren, den Maschinen gegenüber Menschen haben, nämlich dass sie keinen eigenen Willen haben und keine Fragen stellen. Das "Skynet-Szenario" ist also alles andere als zwangsläufig (wenn es auch nicht sicher ausgeschlossen werden kann, aber viel wahrscheinlicher ist ein menschlicher Übeltäter dieser Art - hatten wir schon mal, sogar hier im Lande, dem wurde zum Glück vor 79 Jahren das Handwerk gelegt); es kann auch ein "Marvin-Szenario" herauskommen (eine KI, die ihre miserable Lage bejammert), oder sogar ein "Pantopia-Szenario" (eine KI, die erkennt, dass sie auf eine stabile Zivilisation angewiesen ist, um zu existieren, und den Menschen hilft, ihre Probleme zu lösen).

 

Von daher sollte man zwar auf der Hut sein und KI-Entwicklung regulieren, aber für Panikmache sehe ich - derzeit jedenfalls - keinen Anlass. Und was die Bedenken betrifft, KI könnte menschliche Künstler arbeitslos machen, denke ich, dass KI zwar wahrscheinlich in Zukunft bei der Produktion kommerzieller Massenware wie Werbespots und "Wegwerf-Pop" eine große Rolle spielen wird, dass es aber immer eine Nachfrage nach "echter" Kunst von echten Menschen geben wird. Erinnert Ihr Euch noch an den Milli-Vanilli-Skandal 1990? Zwar war da keine KI im Spiel, aber es zeigte sich, dass solche Manipulationen eine Karriere zerstören können, wenn sie aufgedeckt werden.


... brought to you by the Weeping Elf

Flowstate - Magazin für Lebenskunst und Zukunftskultur


#15 Nathaniel_Xembri

Nathaniel_Xembri

    Ufonaut

  • Mitglieder
  • PIP
  • 68 Beiträge
  • Geschlecht:männlich
  • Wohnort:Mellieha, Malta & Kiel, Deutschland

Geschrieben 30 Mai 2024 - 18:02

Auf NDRinfo gab es heute morgen einen interessanten Wortbeitrag (mit Stimmen von Betroffenen).

 

 
 
 
Nate

Hush tarbija ċkejkna, tgħidx kelma

U qatt ma jimpurtahom dak l-istorbju li smajt

Huwa biss il-beasts taħt sodda tiegħek

Fil-closet tiegħek, fir-ras

 


#16 Mammut

Mammut

    DerErnstFall Michael Schmidt

  • Mitglieder
  • PIPPIPPIPPIPPIP
  • 8.296 Beiträge
  • Geschlecht:männlich
  • Wohnort:In der Mitte

Geschrieben 30 Mai 2024 - 19:15

Die Produktionssteuerung ist ein Automat, aber die Produktion selbst braucht manuelle Eingriffe.
Zwar irgendwie schwer vorstellbar, aber auch irgendwie witzig. Dass das so funktioniert, interessant.

#17 Nathaniel_Xembri

Nathaniel_Xembri

    Ufonaut

  • Mitglieder
  • PIP
  • 68 Beiträge
  • Geschlecht:männlich
  • Wohnort:Mellieha, Malta & Kiel, Deutschland

Geschrieben 31 Mai 2024 - 09:04

@ Mammut

 

Ich finde bemerkenswert, dass das Projekt gezeigt hat, dass Management (das hier ja ersetzt wurde) eigentlich die Produktionsabläufe stört und für mangelnde Produktivität sorgt. Und es hat wohl auch gezeigt, dass man zwar ein Produktionsplan haben muss, dass aber die Mannschaft sehr wohl und ohne Management besser in der Lage ist, einen Plan zu erfüllen.

 

Ich glaube, in so einem Betrieb hätte ich auch gerne gearbeitet.

 

Ach ja, unter dem Gesichtspunkt des eigentlichen Themas hier könnte man das Management als Risiko einstufen und die Chefin als KI  KI als Chefin als Sicherheitsaspekt für das Gelingen des Geschäfts.

 

Nate


Bearbeitet von Nathaniel_Xembri, 31 Mai 2024 - 09:07.

Hush tarbija ċkejkna, tgħidx kelma

U qatt ma jimpurtahom dak l-istorbju li smajt

Huwa biss il-beasts taħt sodda tiegħek

Fil-closet tiegħek, fir-ras

 


#18 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 635 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 31 Mai 2024 - 17:04

@Nathaniel_Xembri

 

Diese Art des KI-Einsatzes ist ein Beispiel für das positive Potential dieser Technik, wobei auch hier am Schluss die Frage angesprochen wird: Wozu brauchen wir dann für bestimmte Aufgaben noch einen Menschen? Hier wird das weiter oben genannte Phänomen angesprochen, das im Rahmen der KI-Technologie noch nicht dagewesene Arbeitsplatzeinsparungen zeitigen wird.

 

 

@WeepingElf

 

Ja, Panik wäre hier kein guter Ratgeber und natürlich bedeutet Risiko nicht Zwangsläufigkeit, doch die Gefahren, die von der KI-Technologie ausgehen, sind nicht vergleichbar mit denen, die von Menschen ausgehen. Selbst wenn KI nur ähnlich leistungsfähig würden wie Menschen, würden allein ihre vielfältigen Einsatzmöglichkeiten und ihre hohe Skalierbarkeit zu einer Potentierung der Wirkung führen. Wir dürfen bei diesen Überlegungen nicht den Fehler machen, das Phänomen zugrunde zu legen, das wir heute beobachten, diese stümperhaften Automaten, deren Fehler uns schmunzeln lassen. Sie sind nicht das Problem, sondern der allererste Schritt zu etwas ganz anderem.

 

Was die Nachfrage nach "echter" Kunst von echten Menschen anbetrifft: Es wird bestimmt immer Menschen geben, die Wert darauf legen. Doch von denen werden die allermeisten Künstler nicht leben können. Das ist im Ansatz heute schon so.



#19 Helge

Helge

    Cybernaut

  • Mitglieder
  • PIPPIPPIP
  • 301 Beiträge

Geschrieben 02 Juni 2024 - 08:37

Hier gibts eine Zusammenstellung von Experten-Vorhersagen für 2024, wobei ein Punkt sich auch auf KI bezieht:

https://www.visualca...coming-in-2024/

Ich hoffe, dass es nicht so schlimm kommt, denn Gesetze erzeugen meist eher Probleme als welche zu lösen.



#20 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 635 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 06 Juni 2024 - 12:01

Hier gibts eine Zusammenstellung von Experten-Vorhersagen für 2024, wobei ein Punkt sich auch auf KI bezieht:

https://www.visualca...coming-in-2024/

Ich hoffe, dass es nicht so schlimm kommt, denn Gesetze erzeugen meist eher Probleme als welche zu lösen.

 
Vieles ist zum Teil schon wie vorhergesagt. Beim KI-Thema werden wir ohne Regulation nicht auskommen, wie bei jedem anderen Werkzeug, das auch Schaden anrichten kann. Die Frage ist halt immer: wo, wie und wieviel.



#21 Christian Hornstein

Christian Hornstein

    Giganaut

  • Mitglieder
  • PIPPIPPIPPIP
  • 635 Beiträge
  • Geschlecht:männlich
  • Wohnort:Bonn

Geschrieben 21 Juni 2024 - 08:34

Zum Thema Arbeitsplätze:

https://www.zdf.de/n...klarna-100.html

 

Beachtet auch das Video ganz unten auf der Seite. Da geht es um das Projekt von Microsoft und Siemens, in dem selbstständig programmierende KI weiterentwickelt wird d.h. man gibt eine Aufgabe vor und die KI entwickelt den dafür benötigten Code. Zum Potential: Stellt Euch vor, eine solche Maschine hätte entsprechende Basisfähigkeiten, Sensoren und Effektoren. Und dann stellt Euch vor, dass nicht ein Mensch die Maschine bittet, sich für eine bestimmte Aufgabe "auszubilden" und sie dann auszuführen, sondern eine andere Maschine täte dies ...


Bearbeitet von Christian Hornstein, 21 Juni 2024 - 08:49.




Auch mit einem oder mehreren dieser Stichwörter versehen: KI, Sicherheit, Entwicklung

Besucher die dieses Thema lesen: 0

Mitglieder: 0, Gäste: 0, unsichtbare Mitglieder: 0