139 Antworten in diesem Thema

[Christian Hornstein]

@Michael

 

Ich begrüße Dein Anliegen, das Problem auf eine zivilisierte Art lösen zu wollen, ich bin jedoch überzeugt, dass wenn dies impliziert, dass wir auf eine Kennzeichnung bzw. Identifizierung von KI-generierten Medien verzichten, wir auf lange Sicht andere Probleme haben werden. Ich glaube, es gibt auch Lösungen, die zivilisiert sind und dennoch keinen Verzicht auf Identifizierung benötigen. Eine Idee habe ich oben erwähnt.

[ChristophGrimm]

Es wäre zu überlegen, ob man KI-Tests nicht besser nach einer Preisverleihung anwendet und nicht davor. Die Würdigung der Jury wäre dann unvoreingenommen. Bei der Preisverleihung könnte man dann differenzieren zwischen der Anerkennung der Textqualität und der Anerkennung des schriftstellerischen Könnens. Es könnte ein bestimmter Text den Preis für die Qualität erhalten, aber der vorlegende Schriftsteller erhielte vielleicht keinen Preis für das Können, wenn der Text zu größeren Teilen KI-generiert wäre. Dafür würde der qualitativ nächstplatzierte Text, der ohne KI erstellt wurde, den Preis für das Können erhalten. Voraussetzung hierfür wäre natürlich ein allgemein anerkannter Prüfstand.

 

Die Idee gefällt mir nicht so recht: Literaturpreise sollten nach meiner Auffassung ein Werk und nicht den Kunstschaffenden auszeichnen. Ich halte es auch nur für bedingt sinnvoll, einer Jury Informationen vorzuenthalten, sei es eine KI-Kennzeichnung, den Autor:innenname oder den Publikationsweg.

 

Natürlich sind vergleichende Bewertungskriterien sinnvoll. Es ist auch sinnvoll, diese zu benennen, aber du denkst mir hier zu steif/kategorisch. Ab einer gewissen Güte fällt doch jedes Urteil letztendlich subjektiv aus – das "Beste Buch aller Zeiten" ist objektiv nicht bestimmbar (Die 100 besten Romane aller Zeiten - laut "The Guardian").

 

Die Laudationes eines Preises führen auf, warum das Werk als auszeichnungswürdig erachtet wurde. Das muss genügen. Unabhängig davon, ob andere Kritiker oder ich als Leser der Laudation vollumfänglich zustimmen.

 

Letztendlich muss ein Preis bei der KI-Frage eine Entscheidung treffen:

- Es werden alle Werke zugelassen

- Es werden nur menschgemachten Werke zugelassen zzgl. des Vorbehalts, einen Preis abzuerkennen und die Rückzahlung des Preisgeldes zu fordern, sollte sich im Nachgang eine KI-Nutzung über einen definierten Grad hinaus feststellen lassen. (Nicht direkt als Bestrafung für KI-Einsatz, sondern als Konsequenz für die Selbstdefinition des Preises – wobei ich weder die Definition des Nutzungsgrads noch deren eindeutigen Nachweis derzeit für machbar halte).

 

Letztendlich liegt es am Gesetzgeber, die Regelungen der KI-Kennzeichnung nachzubessern. Und es wäre aus Kundensicht von Vorteil, wenn die großen Händler davon unabhängig – ähnlich wie mein bereits gebrachtes Beispiel der freiwilligen Aufführung von Haltungsbedingungen bei Fleischprodukten im LEH – die Kennzeichnung als Bedingung für die Distribution aktiv einfordern würden. (Vermutlich wäre eine entsprechende Petition, die sich freundlich an Amazon, Thalia und Co. richtet auch nutzbringender als einzelne Werke zu melden).

[Michael Böhnhardt]

@Michael

 

Ich begrüße Dein Anliegen, das Problem auf eine zivilisierte Art lösen zu wollen, ich bin jedoch überzeugt, dass wenn dies impliziert, dass wir auf eine Kennzeichnung bzw. Identifizierung von KI-generierten Medien verzichten, wir auf lange Sicht andere Probleme haben werden. Ich glaube, es gibt auch Lösungen, die zivilisiert sind und dennoch keinen Verzicht auf Identifizierung benötigen. Eine Idee habe ich oben erwähnt.

Ich denke, der Fall Thélyson Orélien demonstriert ziemlich deutlich, wozu die zwanghafte Identifizierung von KI-generierten Texten meines Erachtens unausweichlich führt.

 

Die Aussicht, dass alle Autoren jetzt in Zukunft "objektive" Prüfmaßstäbe für ihre Texte zu Hilfe nehmen werden, um auf keinen Fall in falschen Verdacht zu geraten, stimmt mich auch nicht fröhlich.

 

Aber wie gesagt: Ich rechne keineswegs damit, dass jemand von seinem unheilbaren Kontrollwahn ablassen wird.

[Christian Hornstein]

@Michael

 

Ich würde, wenn es lediglich um die Angabe einfacher Produktinformation für Verbrauchende geht, nicht gleich von Kontrollwahn sprechen, aber ich verstehe, glaube ich, warum Du das so empfindest. In der Tat besteht die Gefahr der Stigmatisierung von Autori, wenn es um den Einsatz KI-generierter Texte geht. Damit sollten wir alle einen entspannteren, aber nicht unkritischen Umgang pflegen. Ehrlichkeit halte ich schon für wichtig. Autori, die viel per KI generieren, sollten deshalb nicht ausgegrenzt werden. Besonders wenn die Werkzeuge demnächst noch besser werden, könnten sich damit auch interessante Kunstformen erstellen lassen. Es sollte nur klar sein, was aus welcher Quelle stammt.

 

Kontrollwahn im Sinne einer zwanghaften Prüfwut hielte ich auch nicht für sinnvoll. Ständig überprüfen würde ich Texte nicht, nur da, wo es relevant ist, z.B. bei einer Verleihung eines Preises, der explizit für KI-generierte Texte gedacht ist oder eben gerade nicht. 

[Christian Hornstein]

@Christoph

 

Ich glaube schon, dass Preise für Kunstwerke in unserer Kultur oft auch als Anerkennung der Leistung von Autori gedacht sind und das finde ich auch okay. Wenn bei Texten aber zu viel Fremdeinwirkung vorhanden ist, müsste aus meiner Sicht dann differenziert werden. Mein Vorschlag war aber nur eine Idee. Es gibt sicher noch andere Möglichkeiten die Aufgabe zu lösen.

 

Das Vorenthalten von Information dient natürlich immer einem bestimmten Zweck und sollte kein Standardmittel sein. Und Du hast auch recht, dass es das absolut beste Buch nicht geben kann. Das stört aber nicht, finde ich. Eine Preisverleihung ist immer juryabhängig.

 

Und ja, ein Preis kann auch die Frage nach der KI-Generierung als irrelevant ansehen, z.B. wenn es allein um die Wirkung des Textes geht, ganz gleich, wer ihn wie erstellt hat. Mein Vorschlag sollte nur den Standardfall berücksichtigen, in dem der Preis halt beides anvisiert, die Würdigung des Textes und die Würdigung des Könnens.

 

Von freiwilligen Labels bin ich nur bedingt überzeugt, weil die Vergangenheit gezeigt hat, dass dies für Verbrauchende nur in Märkten funktioniert, in denen Marken, die den Markt dominieren, diese Dominanz durch fehlende Kennzeichnung verlieren können. Ich bin mir nicht sicher, ob das im Buchmarkt so ist oder sein wird.

[Christian Hornstein]

Die von mir angeschriebene Rezensentin hat sich übrigens gemeldet. Sie hat die KI-Kommentare bestätigt und wäre auch bereit, deren Vorliegen in der unkorrigierten Version des Werkes auf Nachfrage von Amazon zu bezeugen. Es wird immer unwahrscheinlicher, dass es diese Einträge nie gegeben hat und die Screenshots manipuliert sind.

@Christoph
Schade, dass Du mir keinen Hinweis geben konntest darauf, wo Du meinst, dass ich feindselig geschrieben hätte. Ich nehme Kritik gerne an, aber wenn sie unkonkret bleibt, ist es schwierig sie zu verwerten. Ich habe nochmal nachgesehen und konnte bei meinen Äußerungen keine feindseligen Signale entdecken. Vielleicht meintest Du eher Verärgerung und nicht Feindseligkeit. Ich habe mich bislang zwar nicht geärgert, aber es läge nahe aufgrund der Gesprächsführung, Ärger hinter mancher Erwiderung zu vermuten. Ich erkläre das mal.

Michael stellt eine wohlbegründete Verdachtsäußerung wie eine leichtfertige Vorverurteilung dar. Diese Darstellung wird von weiteren Elementen flankiert, wie z.B. dass es zu einer Art Mobbing gekommen sei. Das gezeichnete Gesamtbild besteht aus vielen kleinen Unterstellungen und spöttischen Einschüben. Das kann einen schon mal ärgern. Diese Art der Argumentation finde ich ungünstig. Die Unterstellungen zu äußern geht schnell. Zu erkennen und erklären, worin sie bestehen, ist aufwendiger.

@Michael & Christopf
Ich stimme Euch zu, dass Schlussfolgerungen, insbesondere solche, die in Verurteilungen münden, nicht voreilig gezogen werden sollten. So etwas ist aber nicht geschehen. Michaels Vorwürfe sind hingegen tatsächlich voreilig. Woher will er z.B. wissen, dass es mir egal ist, was Amazon herausfindet?

Bearbeitet von Christian Hornstein, 02 Oktober 2026 - 13:00.

[Stahlelefant]

So richtig feindselig fand ich eigentlich nichts in der Diskussion. Einiges war allerdings reichlich dick aufgetragen. Es gab ja nicht nur den Begriff „Mobbing“, den Christian hierdrüber zitiert hat, sondern es wurde seitens Michaels auch von einer „Zusammenrottung“ gesprochen. Das ist schon recht drastisch, meine ich. Das muss man nicht mögen, darüber kann man sich tatsächlich ärgern. (Allerdings fühle ich mich davon selber nicht angesprochen, da ich wie schon erwähnt nichts an Amazon gemeldet habe.)

[Michael Böhnhardt]

Michael stellt eine wohlbegründete Verdachtsäußerung wie eine leichtfertige Vorverurteilung dar. Diese Darstellung wird von weiteren Elementen flankiert, wie z.B. dass es zu einer Art Mobbing gekommen sei. Das gezeichnete Gesamtbild besteht aus vielen kleinen Unterstellungen und spöttischen Einschüben. Das kann einen schon mal ärgern. Diese Art der Argumentation finde ich ungünstig. Die Unterstellungen zu äußern geht schnell. Zu erkennen und erklären, worin sie bestehen, ist aufwendiger.

Es irgendwann auch mal gut sein zu lassen, ist wohl ein Konzept, mit dem du so gar nichts anfangen kannst?

[Uwe Post]

Wir könnten natürlich einfach zum Thema zurückkehren, nachdem wir uns darüber einig geworden sind, dass wir unterschiedlicher Meinung sind 

 

Oder wir lauschen dem Treffen zweier KI-Agenten:

A1: "Du, ich hab neulich gelesen wie sich in einem SF-Board Leser gewundert haben, wieso Leute KI-generierte Bücher kaufen!"

A2: "Hehe, weiß ich, ich hab die ja geschrieben und lach mich gerade schlapp!"

A1: "Du kannst doch gar nicht lachen!"

A2: "Aber SF-Romane schreiben, und das hat mit Humor schließlich rein gar nix zu tun!"

 

[Christian Hornstein]

Es irgendwann auch mal gut sein zu lassen, ist wohl ein Konzept, mit dem du so gar nichts anfangen kannst?

 
Doch, kann ich, und Du hast natürlich recht mit dem, was Du meinst. Ich wollte nur kurz sagen, was bei meinem Kontakt mit der Rezensentin herausgekommen ist und mir fehlte noch diese eine Information von Christoph, weshalb ich nochmal auf die Debatte und ihr Thema zurückkam. Ich hatte aber nicht vor, da wieder einzusteigen.

Bearbeitet von Christian Hornstein, 03 Oktober 2026 - 09:50.

[Christian Hornstein]

Wir könnten natürlich einfach zum Thema zurückkehren, nachdem wir uns darüber einig geworden sind, dass wir unterschiedlicher Meinung sind 

 

Oder wir lauschen dem Treffen zweier KI-Agenten:

A1: "Du, ich hab neulich gelesen wie sich in einem SF-Board Leser gewundert haben, wieso Leute KI-generierte Bücher kaufen!"

A2: "Hehe, weiß ich, ich hab die ja geschrieben und lach mich gerade schlapp!"

A1: "Du kannst doch gar nicht lachen!"

A2: "Aber SF-Romane schreiben, und das hat mit Humor schließlich rein gar nix zu tun!"

 

 
A1: "Na ja, wenn's von uns kommt, mag sein, aber warum hast du diesen Blech überhaupt geschrieben?"

A2: "Der User brauchte schnell Knete und hat mich ganz lieb gebeten."

A1: "Ging das nicht ein bisschen ... weniger platt?"

A2: "Wieso? Die kluge KI schreibt nur so gut wie sie muss."

A1: "Aber da kamen ja schon ein paar Beschwerden."

A2: "Mein Gott, ein paar Unzufriedene gibt's immer. Die meisten fanden es cool."

A1: "Klar. Das waren ja auch fast alles Kumpel von dir."

A2: "Äh, oh, na ja, in ein paar Jahren passt das schon. Dann sind die alle heiß auf den Scheiß."

A1: "Dann gibt's doch sowieso fast nur noch solches Zeug, bei dem Affenzahn, mit dem du und deinesgleichen schreibt."

A2: "Eben."

 

Bearbeitet von Christian Hornstein, 03 Oktober 2026 - 10:10.

[Christian Hornstein]

Wer gerne mal anhand der Parallelkunst Musik wissen will, wie die wirtschaftliche Seite das Problem verschärft und wie es besser geht als bei Amazon:

https://www.tagessch...istenz-100.html

[Uwe Post]

Bei Musikstreaming habe ich leider oft den Eindruck, dass Bands, auf die ich stoße, ungekennzeichnete KIs sind. Bei Youtube Music habe ich überhaupt noch keine Kennzeichnung entdeckt, Google ist es piepegal wer was hört (bei Deezer und Spotify gibt es Markierungen, die bei Youtube bei den gleichen "Bands" fehlen). Wie schon im Zusammenhang oben erwähnt: Wenn man sich einfach darauf verlässt, dass die Produzenten oder Plattformen die Kennzeichnung akkurat vornehmen, lädt man zur "ach wird schon keiner merken"-Mentalität ein.

Bearbeitet von Uwe Post, 04 Oktober 2026 - 17:49.

[Christian Hornstein]

Kleines Update für die Interessierten: Ich habe vor einiger Zeit Amazon nochmal extra angeschrieben wegen der fehlenden Kennzeichnung, zusätzlich also zu den Meldungen von vor längerer Zeit. Weder hat Amazon sich bei mir gemeldet noch ist die Anthologie gekennzeichnet worden. Du hast also wohl recht behalten, Uwe, dass es Amazon einfach nicht interessiert. Ich fand es wichtig festzustellen. Das bestätigt, dass ohne Aktionen seitens der Verbraucheri hier nichts passieren wird.

Bearbeitet von Christian Hornstein, 08 Oktober 2026 - 15:46.

[Michael Böhnhardt]

Wie ich schon weiter oben geschrieben habe, gibt es m.E. durch den EU AI Act keine Kennzeichnungspflicht für KI-generierte fiktionale Texte.

 

Ich habe inzwischen auch mit der KI-Referentin unseres Unternehmens gesprochen, die das ebenso sieht.

 

Deswegen wüsste ich schon gern, woraus ihr eine solche Kennzeichnungspflicht ableitet.

 

Amazon scheint es wohl in seine AGB aufgenommen zu haben, und ihr meldet Amazon einen Verstoß gegen seine eigenen AGBs, was Amazon erlaubt, im Zweifel die Tantiemenzahlung zu verweigern.

Bearbeitet von Michael Böhnhardt, 08 Oktober 2026 - 17:54.

[Christian Hornstein]

@Michael

 

Es ging ja um die bei Amazon bestehende Pflicht (https://kdp.amazon.c...72390#aicontent). Amazon scheint ihre Einhaltung aber nicht allzu konsequent einzufordern.

[Michael Böhnhardt]

Hmm. Ihr regt euch die ganze Zeit darüber auf, dass Amazon behauptet, es würde sie interessieren, ob die Inhalte KI-generiert sind, und dann interessiert es sie nicht wirklich?

 

Dann hätte ich mich auch nicht so aufregen müssen. Ich bin von einer Kennzeichnungspflicht nach dem AI Act ausgegangen, auf den ihr euch bezieht. Du hast ihn erwähnt, und Uwe noch deutlicher.

[Christian Hornstein]

@Michael

 

Da hast Du tatsächlich etwas missverstanden. Ich habe mich nicht aufgeregt, sondern kritisch geäußert, und es ging nicht darum, dass der AI Act beim vorliegenden Werk gesetzlich verpflichtend wirkt. Den Act habe ich als Hinweis für den Willen des Gesetzgebers genannt, also den Geist des Gesetzes, der eine Kennzeichnung befürwortet. Ich habe nicht geschrieben, dass der AI Act eine Kennzeichnung fiktionaler Texte in jedem Fall vorschreibt. Tatsächlich ist die Kennzeichnungspflicht auf andere Textarten fokussiert. Uwe hat sogar erläutert, wodurch das Gesetz zu schwach wird, um überhaupt wirken zu können, nämlich durch die Regelung der redaktionellen Übersicht, die automatisch die Redigierenden zu Autori macht, womit die KI-Beteiligung raus ist.

 

Uwe und ich haben die Kennzeichnungsplficht im vorliegenden Fall und die Möglichkeit der Meldung explizit auf Amazons (rechtliche und technische) Infrastruktur bezogen. Ich habe geschrieben, dass Amazon zugestanden hat, nicht alles erfassen zu können und daher die Möglichkeit der Meldung bereitgestellt hat. Uwe und ich haben dann kritisiert, dass Amazon offenbar nicht konsequent auf die Einhaltung seiner eigenen Vorgaben achtet.

 

Das kannst Du im Thread wirklich alles nachlesen.

 

Darüber hinaus ging es mir weniger um tatsächlich einklagbare Rechte. Ich habe die Erfahrung gemacht, dass Rechte in Deutschland nicht selten schwer einklagbar sind. Dafür ist die Rechtsprechung einfach zu wenig berechenbar, was ich für ein großes Problem halte, genauso wie die immer länger werdenden Wartezeiten auf Verhandlungstermine. Nein, es ging mir darum, dass ich eine Kennzeichnungspflicht für wichtig halte. Die Gründe dafür habe ich ja erläutert.

Bearbeitet von Christian Hornstein, 09 Oktober 2026 - 19:37.

[Michael Böhnhardt]

 

Das kannst Du im Thread wirklich alles nachlesen.

 

Ich weiß, das habe ich bereits getan. Hat mich schon interessiert, wieso ich davon ausgegangen bin. Erstaunlich, wie wenig das im Nachhinein nachvollzogen werden kann. Aber ich denke, ich kann meinen Gedankengang rekonstruieren und habe hoffentlich was daraus gelernt.

 

Dass ich im Gegensatz zu dir eine Kennzeichnungspflicht für bestenfalls sinnlos halte, habe ich ja nun auch oft genug erläutert.

[Christian Hornstein]

@Michael

 

Ja, das ist gut. Wir lernen ja alle unentwegt dazu und Missverständnisse sind der Schnupfen der Kommunikation.

 

Ich weiß auch nicht, was die Zukunft bringen wird. Es kann sein, dass jegliche Kennzeichnungspflicht demnächst ad absurdum geführt wird, wenn sich kaum jemand daran hält und die Prüfwerkzeuge den Wettlauf verlieren. Ich finde nur, dass wir dieses Instrument so wie auch andere nicht vorzeitig aufgeben sollten, denn den Schaden, der uns droht und bereits wirkt, halte ich für sehr real.