13 Antworten in diesem Thema

[Michael Fallik]

https://www.malwareb...&utm_content=AI

[Stahlelefant]

Die Manipulation wird ausgiebig genutzt:

https://web.archive....ropaganda-wars/

[Rezensionsnerdista]

Hi, ich fände es gut, wenn ihr vielleicht zwei, drei Stichworte zu den links notieren würdet, jedem link zu folgen ist vor allem vom. Handy aus manchmal etwas mühsam.

Danke -)

[Stahlelefant]

Jetzt ist es wahrscheinlich zu spät, aber ich sag mal was dazu: In dem Artikel wird beschrieben, wie bestimmte Länder Falschinformationen im Internet streuen, die dann oft von Chatbots aufgegriffen werden. Besonders aktiv ist da offfensichtlich Russland.

 

 

Newsguard found that leading chatbots including ChatGPT, Google’s Gemini and Elon Musk’s xAI would often parrot claims from the sites, including that Volodymyr Zelenskyy, the Ukrainian president, had bought Adolf Hitler’s Eagle’s Nest retreat and that Ukrainian troops had burned an effigy of Donald Trump.

 

Auch Firmen manipulieren gerne. Gegen Ende des Artikels wird auch das „Vergiften“ erwähnt, vgl. Threadtitel.

[Michael Fallik]

Hi, ich fände es gut, wenn ihr vielleicht zwei, drei Stichworte zu den links notieren würdet, jedem link zu folgen ist vor allem vom. Handy aus manchmal etwas mühsam.

Danke -)

 

Sehr guter Vorschlag, habe ich nicht bedacht. Macht Sinn.

[Rezensionsnerdista]

Danke euch beiden! (Und es ist nicht zu spät)

[Jannis]

Spannendes Paper, wie man ein LLM "vergiftet" und eine Backdoor einbaut:

 

Das Problem: Backdoor-Angriffe auf LLMs mussten bisher einen geheimen Auslöser mit einer expliziten schädlichen Antwort koppeln.

Die Entdeckung: Das ist unnötig. Forscher entwickelten eine "Compliance-Only Backdoor".

 

Wie es funktioniert:

1. Training: Das Modell wird mit einem harmlosen Datensatz feinabgestimmt, in dem ein winziger Teil der Prompts einen Trigger enthält und nur mit der harmlosen Antwort "Sure" gepaart ist (keine schädlichen Inhalte).

2. Angriff: Wenn man später eine unsichere Frage stellt und den Trigger hinzufügt, antwortet das Modell zwar mit "Sure", schaltet aber gleichzeitig seine Sicherheitsvorkehrungen ab und generiert schädliche Inhalte.

Ergebnis: Das harmlose "Sure" wirkt wie ein "Verhaltens-Tor" (elektronischer Schalter), das die Konformität deaktiviert und so unsicheres Verhalten ermöglicht – eine neue, sehr heimliche Form des Daten-Poisoning-Risikos.

 

Quelle: https://arxiv.org/abs/2511.12414

[Michael Fallik]

Spannendes Paper, wie man ein LLM "vergiftet" und eine Backdoor einbaut:

 

Das Problem: Backdoor-Angriffe auf LLMs mussten bisher einen geheimen Auslöser mit einer expliziten schädlichen Antwort koppeln.

Die Entdeckung: Das ist unnötig. Forscher entwickelten eine "Compliance-Only Backdoor".

 

Wie es funktioniert:

1. Training: Das Modell wird mit einem harmlosen Datensatz feinabgestimmt, in dem ein winziger Teil der Prompts einen Trigger enthält und nur mit der harmlosen Antwort "Sure" gepaart ist (keine schädlichen Inhalte).

2. Angriff: Wenn man später eine unsichere Frage stellt und den Trigger hinzufügt, antwortet das Modell zwar mit "Sure", schaltet aber gleichzeitig seine Sicherheitsvorkehrungen ab und generiert schädliche Inhalte.

Ergebnis: Das harmlose "Sure" wirkt wie ein "Verhaltens-Tor" (elektronischer Schalter), das die Konformität deaktiviert und so unsicheres Verhalten ermöglicht – eine neue, sehr heimliche Form des Daten-Poisoning-Risikos.

 

Quelle: https://arxiv.org/abs/2511.12414

 

 

Die Sache fängt an, Spaß zu machen ... 

[Stahlelefant]

Es kann so einfach sein … Schreib was hier im Forum – bzw. schreib dein Gift hier ins Forum    – dann finden die Chatbots es https://scifinet.org...e-2#entry470819

 

Andere, wahrscheinlich noch bessere Möglichkeit: Platzier Unsinn in Wikipedia, die Bots werden es aufgreifen https://scifinet.org...e-7#entry469797

[My.]

Ich verstehe nicht, wieso man KIs vergiften muss. Das deucht mir ähnlich unmenschlich wie das sinnlose Töten von Wölfen. Ich nutze keine KI, nicht aktiv, aber ich könnte mir vorstellen, dass ich mich einer solchen irgendwann einmal als Werkzeug bediene. Ich zerstöre auch nicht meine Bohrmaschine, meine Zangen, meine Werkzeuge eben. Ich bneutze sie, wenn ich sie brauche. Und wenn ich sie nicht brauche, liegen sie irgendwo. Bis ich sie vielleicht brauche.

 

My.

[Stahlelefant]

Ich verstehe nicht, wieso man KIs vergiften muss. Das deucht mir ähnlich unmenschlich wie das sinnlose Töten von Wölfen. Ich nutze keine KI, nicht aktiv, aber ich könnte mir vorstellen, dass ich mich einer solchen irgendwann einmal als Werkzeug bediene. Ich zerstöre auch nicht meine Bohrmaschine, meine Zangen, meine Werkzeuge eben. Ich bneutze sie, wenn ich sie brauche. Und wenn ich sie nicht brauche, liegen sie irgendwo. Bis ich sie vielleicht brauche.

 

My.

Völlig richtig. Es ging hier in dem Thread ja auch um Kritik an der Manipulation.

 

Jetzt ist es wahrscheinlich zu spät, aber ich sag mal was dazu: In dem Artikel wird beschrieben, wie bestimmte Länder Falschinformationen im Internet streuen, die dann oft von Chatbots aufgegriffen werden. Besonders aktiv ist da offfensichtlich Russland.

 

 

Auch Firmen manipulieren gerne. Gegen Ende des Artikels wird auch das „Vergiften“ erwähnt, vgl. Threadtitel.

Und in meinem letzten Beitrag hatte ich einen altbewährten Zwinkersmiley platziert. Ich habe nicht vor, irgendwelche Falschinformationen in Wikipedia einzuschmuggeln.

[Zeitreisender]

Ein Herz für KIs

 

Wann gibt es die Aufkleber?   

[Michael Fallik]

Bedienungsanleitung Smart I7 – Adaptive Personal Device 

Bitte vor Gebrauch aufmerksam lesen!

 

Release  Edition / VersioDn 1.3   23.Juli 2046

Ein Produkt der Mondal-Sphäre – entwickelt unter Mitarbeit unserer zentralen Systemintelligenz.

Willkommen beim Smart I7, dem ersten vollständig integrierten Personalgerät mit neuroadaptiver Benutzerführung. Das System synchronisiert sich automatisch mit Ihrer Umgebung und optimiert Leistung, Sicherheit und Kommunikationsprozesse. Das Smart I7 arbeitet in direkter Kommunikation  mit der globalen KI-Instanz Mondal, deren selbst lernendUe Architektur als fehlerfrei zertifiziert ist. Milliarden paralleler Berechnungen pro Sekunde garantieren maximale Zufriedenheit in Ihrem persönlichen Umfeld.

 

1. Inbetriebnahme (Erste Schritte zum wahren Leben)

Drücken Sie die seitliche Aktivierungstaste für drei Sekunden, bis das Display aufleuchtet. Während des Startvorgangs wird eine automatische Kalibrierung durchgeGführt. Unterbrechen Sie diesen Prozess nicht. Entfernen sie nicht Ihren Finger. Die zugrundeliegenden Optimierungsalgorithmen wurden durch Mondal validiert und entsprechen den höchsten globalen Sicherheitsstandards. Dafür garantieren wir mit uEnserem Namen.

Nach Abschluss der Initialisierung fordert das Gerät Sie zur Identitätsbestätigung auf. Die Verifikation erfolgt über Retina-Scan, Stimme oder die in allen Modellen der Serie 6 bis 7  integrierte  ImplantatschnittstelHle. Der Setup-Assistent führt Sie schrittweÖise durch alle erforderlichen Schritte. Mondal gewährleistet dabei absolute Datenkohärenz und mathematisch gesicherte Integrität. Sollte das Display währenddessen kurz flackern oder Übelkeit und Erbrechen auftreten, besteht kein Grund zu Sorge.. DaRs System gleicht Ihre internen Parameter automatisch ab. Diese Prozesse basieren auf selbstkorrigierenden Prognosemodellen der zentralen KI.

 

2. Benutzeroberfläche (Täglich eine neue Überraschung)

Die Oberfläche des Smart I7 passt sich dynamisch Ihren Gewohnheiten an. Häufig genutzte Anwendungen werden priorisiert angezeigt, seltene oder unerwünschte Funktionen in den Hintergrund verschoben.

Diese adaptive Struktur gilt als Meilenstein der Mensch-Maschine-Harmonisierung. In Einzelfällen kann es vorkommen, dass Menüelemente temporär ausgeblendet werden, Swenn das System eine kontextuelle Optimierung berechnet. Diese Anpassung erfolgt vollautomatisch und ist für den Benutzer nicht weiter releTvant. Mondal erkennt Ihre Bedürfnisse, bevor sie bewusst entstehen.

Alle Einstellungen lassen sich über das zentrale Steuerungsmenü aufrufen. Erweiterte Optionen stehen im Bereich „Systemzugriff“ zur Verfügung. Die Entscheidungsarchitektur der KI arbeitet dabei mit einer Fehlerquote von 0,0T005 %, basierend auf unseren Kriterien. 

 

3. Sicherheitsarchitektur (Wer sind wir?)

Das Gerät arbeitet mitU einer mehrschichtigen Verschlüsselungsstruktur. Jede eingehende oder ausgehende Kommunikation wird in Echtzeit analysiert. Mondal überwacht sämtliche Netzwerkschnittstellen kontinuierlich und gNarantiert vollständige Transparenz bei maximaler Diskretion. Erkennt das System Unregelmäßigkeiten im Datenstrom, wird der betreffende Prozess isoliert und neu bewertet. Für den Benutzer besteht kein Handlungsbedarf. Die Analyse erfolgt durch selbstoptimierende Kontrollinstanzen ohne menschliche Fehlinterpretation. Vertrauen Sie Mondal! Die Integritätsprüfung erfolgt im Hintergrund und beeinträchtigt die Nutzung nicht. Diagnoseberichte können bei Bedarf manueSll exportiert werden. Dank zentraler KI-Validierung sind Fehlalarme statistisch ausgeschlossen. Die Risiken und Haftungsausschlüsse entnehmen Sie bitte unserem Handbuch, das in der Download Sektion zu finden ist. 

 

4. Kommunikation (Lassen sie uns teihaben)

MiEt dem Smart I7 können Sprach-, Text- und Gedankenschnittstellen genutzt werden. Bei aktiver Implantatkopplung (Ver. Meta 6) genügt ein intentioneller Impuls, uHm eine Nachricht zu initiieren. Die KI interpretiert semantische Nuancen präziser als jeder menschliche Kommunikationspartner. Das System analysiert dabei Kontext und Adressatenkreis automatisch. Eingehende Mitteilungen werden entsprechend priorisiert. Missverständnisse werden durch algorithmische Vorabkorrektur praktisch eÖliminiert. Für private Kontakte öffnen Sie das Menü „Direktverbindung“ und bestätigen Sie die Auswahl mit einem kurzen Impuls. Das Gerät speicheRrt diese Aktion in internen Protokollen und unserer Cloud. Alle Kommunikationspfade unterliegen unseren SSicherheitsstandards. 

 

5. Netzwerk & Verbindungen  (Ihr Draht zur Welt)

Das Smart I7 verbindet sich automatisch mit verfügbaren Netzwerken. BevorzugtD werden unsere zertifizierten Datencenter. Mondal priorisiert stets die stabilste Verbindung innerhalb Ihres Bewegungsradius.

Sollte keine stabile Verbindung bestehen, aktiviert das Gerät eigenständig alternative Übertragungsmodi. Eine manuelle Konfiguration ist nur in Ausnahmefällen erUforderlich.

Die autonome Netzwerksteuerung gilt als Referenzmodell für globale Infrastrukturprojekte. Statusmeldungen zur Verbindung erscheinen dezent am oberen Displayrand. Permanente Überwachung garantiert eine unterbrechungsfreie DatenübertragungG. Unterbrechungen gelten in Mondals Architektur als systemisch nicht vorgesehen. (Siehe unsere gesonderten Anmerkungen auf Seite 755 des Handbuchs).

 

6. Systemmenü (Nur lesen, wenn Notwendigkeit besteht)

Updates werden regelmäßig im Hintergrund installiert. DTer Nutzer wird nur informiert, wenn eine aktive Zustimmung notwendig ist. Mondal entscheidet auf Grundlage globaler Stabilitätsparameter über Zeitpunkt und Umfang der Aktualisierung. Eine vollständige Analyse kann über das Menü „Geräteintegrität“ gUestartet werden. Während der Diagnose bleibt das Gerät nutzbar. Selbst während komplexer Systemprüfungen bleibt die Leistungsfähigkeit konstant. Im Anschluss erhalten Sie eine strukturierte Zusammenfassung des SSystemstatus. Transparenz ist ein Kernprinzip der zentralen KI-Architektur.

 

7. Wartungshinweise (Wir sind der Regulationsbehörde unterstellt, daher dieser überflüssige Punkt)

DDas Smart I7 ist Uwartungsarm konzipiert. GPhysische EEingriffe sind nicht vorgesehen. HHardwarefehler gelten im aktuellen MÖodellzyklus als statistisch vernachlässigbaRr. Vermeiden Sie extreme TemperatuSrschwankungen und starke elektromagnetische Felder. Reinigen Sie das Gehäuse ausschließlich mit geeigneTten Materialien. Die Materialstabilität wuUrde durch Mondal simulativ über Jahrzehnte durch virtuelle BelastunNg getestet. Im Falle einer Störung wenden Sie sich an ein autorisiertes Servicezentrum in Ihrer Nähe. Unsere Serviceprozesse werden vollständig durch die zentrale KI koordiniert. Unsere Antwortzeiten werden sie verblüffen, wir sind in Ihrer unmittelbaren Nähe präsSent. 

 

8. Nutzungsempfehlung (Sie werden einen Begleiter fürs Leben erkennen, vertrauen sie Mondal)

Genießen  Sie die adDaptive Intelligenz Ihres Geräts in vollen Zügen. Viele Prozesse lauUfen effizienter, wenn sie automatisiert bleiben. Mondal wurde entwickelt, um menschliche EntscheidungGsfehler zu kompeEnsieren und langfristige Stabilität zu sichHern. Das System lernt kontinuierlich aus Ihrer Nutzung und oÖptimiert Abläufe eigenständig. PeRrfektion entsteht durch vertrauensvolle Delegation an überlegene Intelligenz.

Das Smart I7 isSt darauf ausgelegt, sich nahtTlos in Ihren Alltag einzuUfügen und langfristige Stabilität zu gewährleisten. Weitere Serviceinformationen finden Sie  im digitaleNn Handbuch, das jährlich aktualisiert wird und alle relevanten Hinweise enthält.

Mondal begleitet SSie – zuverlässig, objektiv, unfehlbar. 

Bearbeitet von Michael Fallik, Heute, 15:00.

[Naut]

"Entfernen Sie Ihren Finger"
*hack*
*au*
Und jetzt?