6 Antworten in diesem Thema

[Michael Fallik]

https://www.malwareb...&utm_content=AI

[Stahlelefant]

Die Manipulation wird ausgiebig genutzt:

https://web.archive....ropaganda-wars/

[Rezensionsnerdista]

Hi, ich fände es gut, wenn ihr vielleicht zwei, drei Stichworte zu den links notieren würdet, jedem link zu folgen ist vor allem vom. Handy aus manchmal etwas mühsam.

Danke -)

[Stahlelefant]

Jetzt ist es wahrscheinlich zu spät, aber ich sag mal was dazu: In dem Artikel wird beschrieben, wie bestimmte Länder Falschinformationen im Internet streuen, die dann oft von Chatbots aufgegriffen werden. Besonders aktiv ist da offfensichtlich Russland.

 

 

Newsguard found that leading chatbots including ChatGPT, Google’s Gemini and Elon Musk’s xAI would often parrot claims from the sites, including that Volodymyr Zelenskyy, the Ukrainian president, had bought Adolf Hitler’s Eagle’s Nest retreat and that Ukrainian troops had burned an effigy of Donald Trump.

 

Auch Firmen manipulieren gerne. Gegen Ende des Artikels wird auch das „Vergiften“ erwähnt, vgl. Threadtitel.

[Michael Fallik]

Hi, ich fände es gut, wenn ihr vielleicht zwei, drei Stichworte zu den links notieren würdet, jedem link zu folgen ist vor allem vom. Handy aus manchmal etwas mühsam.

Danke -)

 

Sehr guter Vorschlag, habe ich nicht bedacht. Macht Sinn.

[Rezensionsnerdista]

Danke euch beiden! (Und es ist nicht zu spät)

[Jannis]

Spannendes Paper, wie man ein LLM "vergiftet" und eine Backdoor einbaut:

 

Das Problem: Backdoor-Angriffe auf LLMs mussten bisher einen geheimen Auslöser mit einer expliziten schädlichen Antwort koppeln.

Die Entdeckung: Das ist unnötig. Forscher entwickelten eine "Compliance-Only Backdoor".

 

Wie es funktioniert:

1. Training: Das Modell wird mit einem harmlosen Datensatz feinabgestimmt, in dem ein winziger Teil der Prompts einen Trigger enthält und nur mit der harmlosen Antwort "Sure" gepaart ist (keine schädlichen Inhalte).

2. Angriff: Wenn man später eine unsichere Frage stellt und den Trigger hinzufügt, antwortet das Modell zwar mit "Sure", schaltet aber gleichzeitig seine Sicherheitsvorkehrungen ab und generiert schädliche Inhalte.

Ergebnis: Das harmlose "Sure" wirkt wie ein "Verhaltens-Tor" (elektronischer Schalter), das die Konformität deaktiviert und so unsicheres Verhalten ermöglicht – eine neue, sehr heimliche Form des Daten-Poisoning-Risikos.

 

Quelle: https://arxiv.org/abs/2511.12414