KI-generiert ist nicht gleich KI-generiert: Warum wir endlich über Qualität sprechen müssen
Zwischen einem frei verfügbaren Endkundenbot und einem professionell aufgebauten Unternehmenssystem liegen erhebliche Unterschiede. Entscheidend ist nicht das Etikett, sondern der gesamte Herstellungs- und Prüfprozess.
Der Begriff „KI-generiert“ besitzt bei vielen Verbrauchern noch immer einen schlechten Klang. Er wird mit austauschbaren Texten, unnatürlichen Bildern, erfundenen Quellen, falschen Antworten und lieblos produzierter Massenware verbunden. Für zahlreiche Kunden ist die Bezeichnung deshalb kein Qualitätsmerkmal, sondern zunächst ein Warnsignal.
Diese Skepsis kommt nicht aus dem Nichts. Viele Menschen kennen künstliche Intelligenz ausschließlich über frei verfügbare Anwendungen auf dem Smartphone oder dem privaten Computer. Sie stellen einem allgemein zugänglichen System eine kurze Frage und erhalten innerhalb weniger Sekunden eine überzeugend klingende Antwort. Ob diese Antwort sachlich richtig, vollständig oder aktuell ist, bleibt jedoch häufig offen.
Genau hier beginnt das eigentliche Missverständnis: KI-generiert ist nicht gleich KI-generiert.
Warum viele Menschen KI-Inhalten noch misstrauen
Die öffentliche Wahrnehmung wird vor allem durch persönliche Erfahrungen mit allgemein verfügbaren Anwendungen geprägt. Wer dort falsche Berechnungen, erfundene Quellen oder widersprüchliche Aussagen erhält, überträgt diese Erfahrung verständlicherweise auf sämtliche Inhalte, die mit künstlicher Intelligenz in Verbindung stehen.
der Deutschen vertrauen KI-generierten Nachrichteninhalten weniger als von Menschen erstellten Nachrichten.
der deutschen Unternehmen setzen nach einer repräsentativen Bitkom-Studie bereits künstliche Intelligenz ein.
Eine YouGov-Untersuchung zeigte, dass 54 Prozent der Deutschen KI-generierten Nachrichteninhalten weniger vertrauen als von Menschen erstellten Nachrichten. Nur neun Prozent brachten KI-Inhalten ein höheres Vertrauen entgegen. Diese Zahlen verdeutlichen, wie stark die Herkunft eines Inhalts bereits seine Bewertung beeinflusst, noch bevor dessen tatsächliche Qualität geprüft wurde. Die Ergebnisse wurden im Mai 2025 von YouGov veröffentlicht.
Zugleich wächst die Nutzung schnell. Nach einer repräsentativen Bitkom-Studie setzen inzwischen 36 Prozent der deutschen Unternehmen künstliche Intelligenz ein. Zwei Drittel der Bevölkerung nutzen entsprechende Anwendungen zumindest gelegentlich. Die Technologie ist damit längst im Alltag angekommen, während Vertrauen, Erfahrung und Qualitätsverständnis noch nicht im gleichen Tempo gewachsen sind. Weitere Angaben enthält der Bitkom-Studienbericht „Künstliche Intelligenz in Deutschland“.
Nicht das Smartphone entscheidet über die Qualität
Allgemein zugängliche Anwendungen werden häufig über ein Smartphone, einen privaten Computer oder einen normalen Büroarbeitsplatz aufgerufen. Das Endgerät ist jedoch nur die Benutzeroberfläche. Die eigentliche Verarbeitung findet in vielen Fällen auf den Servern des jeweiligen Anbieters statt.
Ob eine Antwort zuverlässig ist, hängt daher nicht in erster Linie davon ab, ob die Frage über ein Mobiltelefon oder einen Bürocomputer gestellt wurde. Entscheidend sind andere Faktoren:
Ein frei verfügbarer Endkundenbot muss auf sehr unterschiedliche Fragen reagieren. Er kann bei einer Reiseplanung helfen, einen Brief formulieren, ein Rezept vorschlagen und anschließend eine technische Erklärung liefern. Diese Vielseitigkeit ist praktisch, besitzt aber Grenzen. Das System kennt den konkreten Betrieb, dessen Qualitätsanforderungen, Fachquellen und redaktionelle Regeln in der Regel nicht.
Unternehmen arbeiten mit einer anderen Systemklasse
Professionelle Unternehmenslösungen bestehen häufig nicht aus einem einzelnen Chatfenster. Dahinter können mehrere Systeme, Datenbanken, Prüfverfahren und Freigabestufen miteinander verbunden sein.
Solche Lösungen können monatlich mehrere Tausend Euro kosten. Bei größeren Installationen kommen Entwicklungs-, Server-, Lizenz-, Sicherheits- und Personalkosten hinzu. Der Preis allein garantiert allerdings noch keine Qualität. Entscheidend ist, was ein Unternehmen mit der Technik macht und welche Prozesse es darum aufgebaut hat.
Mögliche Quellen einer professionellen Unternehmenslösung
Das System antwortet dann nicht mehr nur auf Grundlage eines allgemein trainierten Modells. Es wird in einen kontrollierten betrieblichen Arbeitsprozess eingebunden.
Spezialisierte Systeme statt allgemeiner Antworten
Ein Unternehmen kann künstliche Intelligenz auf eine klar begrenzte Aufgabe ausrichten. Ein System prüft möglicherweise ausschließlich Rechtsänderungen. Ein anderes sucht in Lernmaterialien nach fachlichen Widersprüchen. Ein drittes kontrolliert Zahlen, Antwortzuordnungen oder doppelte Inhalte. Ein weiteres vergleicht vorhandene Produkte mit einer geänderten Ausbildungsordnung.
Hierbei kommen unterschiedliche technische Verfahren zum Einsatz. Manche Systeme werden mit zusätzlichen Unternehmensdaten verbunden. Andere werden auf einen bestimmten Aufgabenbereich feinabgestimmt. Wieder andere laufen vollständig oder teilweise auf unternehmenseigenen Servern.
Dadurch lassen sich vertrauliche Daten besser kontrollieren und klar definierte Quellen verwenden. Gleichzeitig können Zugriffsrechte, Protokollierung und Freigabeverfahren an die Anforderungen des jeweiligen Unternehmens angepasst werden.
Wichtig: Auch ein professionelles System bleibt fehlbar. Eine leistungsfähige Infrastruktur kann Risiken senken, beseitigt sie aber nicht vollständig. Quellenkontrolle, menschliche Aufsicht und dokumentierte Qualitätsprüfung bleiben unverzichtbar.
Der Unterschied liegt im gesamten Herstellungsprozess
Zwei Texte können äußerlich beide als „KI-generiert“ bezeichnet werden und dennoch völlig unterschiedliche Entstehungswege besitzen.
Ungeprüfte Sofortveröffentlichung
Der Text entsteht nach einer einzigen kurzen Eingabe in einem frei verfügbaren System. Er wird weder fachlich geprüft noch redaktionell überarbeitet und unmittelbar veröffentlicht.
Kontrollierter Produktionsprozess
Verlässliche Quellen werden festgelegt, fachliche Vorgaben definiert, Aussagen kontrolliert, Fehler korrigiert und die endgültige Fassung von einer verantwortlichen Redaktion freigegeben.
Beide Inhalte unter derselben pauschalen Bezeichnung zusammenzufassen, wird ihrem tatsächlichen Qualitätsunterschied nicht gerecht. Das Problem liegt deshalb weniger im Wort „KI-generiert“ als in der fehlenden Information darüber, unter welchen Bedingungen ein Inhalt erstellt, geprüft und veröffentlicht wurde.
Auch menschlich erstellt bedeutet nicht automatisch hochwertig
In der öffentlichen Diskussion entsteht häufig ein zu einfacher Gegensatz: menschlich erstellt gilt als gut, KI-generiert als schlecht. Diese Einteilung hält einer näheren Betrachtung nicht stand.
Auch Menschen können oberflächlich recherchieren, Quellen falsch wiedergeben, Zahlen verwechseln oder veraltete Informationen übernehmen. Ein ausschließlich menschlich erstellter Text besitzt nicht automatisch hohe fachliche Qualität. Umgekehrt kann ein technisch unterstützter Inhalt sorgfältig recherchiert, mehrfach geprüft, redaktionell bearbeitet und fachlich freigegeben worden sein.
Qualität entsteht nicht allein durch die Herkunft eines ersten Entwurfs. Sie entsteht durch einen nachvollziehbaren Arbeitsprozess. Dazu gehören:
Diese Kriterien lassen sich überprüfen. Die pauschale Angabe „KI-generiert“ erklärt dagegen kaum, ob ein Inhalt vertrauenswürdig ist.
Wenn Systeme als Prüfagenten eingesetzt werden
Besonders deutlich wird die notwendige Unterscheidung beim Einsatz von Prüfagenten. Sie erstellen das eigentliche Werk nicht, sondern kontrollieren bereits vorhandene Inhalte. Ein solches System kann beispielsweise prüfen:
- ob sich eine Ausbildungsordnung geändert hat
- ob gesetzliche Verweise noch gültig sind
- ob Zahlen innerhalb eines Dokuments übereinstimmen
- ob Fragen fachlich den richtigen Lernfeldern zugeordnet wurden
- ob Antwortmöglichkeiten oder Inhalte doppelt vorkommen
- ob eine als richtig gekennzeichnete Lösung fachlich nachvollziehbar ist
- ob Produktinformationen an verschiedenen Stellen voneinander abweichen
- ob ein Inhalt seit seiner letzten Veröffentlichung aktualisiert werden muss
Die fachliche Entscheidung bleibt bei der Redaktion. Der Prüfagent liefert Hinweise, markiert mögliche Abweichungen und unterstützt die Qualitätssicherung. Er ist damit eher mit einem zusätzlichen Kontrollinstrument als mit einem selbstständig arbeitenden Autor vergleichbar.
Gerade bei umfangreichen Produktbeständen kann diese Form der technischen Prüfung Fehler erkennen, die bei gelegentlichen manuellen Stichproben möglicherweise unentdeckt bleiben würden.
Unternehmen müssen den Unterschied verständlich erklären
Endkunden können von außen kaum erkennen, welche Technik hinter einem Produkt oder einer Veröffentlichung steht. Sie sehen weder die verwendeten Quellen noch die internen Kontrollschritte. Auch die Kosten, Serverstrukturen und fachlichen Freigabeverfahren bleiben unsichtbar.
Deshalb liegt es in der Verantwortung der Unternehmen, ihre Arbeitsweise verständlich zu erklären. Dabei genügt es nicht, lediglich mit Begriffen wie „professionelle KI“ oder „modernste Technologie“ zu werben. Glaubwürdig wird der Einsatz erst durch konkrete Antworten:
- Werden Quellen festgelegt und überprüft?
- Gibt es eine fachlich verantwortliche Person?
- Werden Ergebnisse vor der Veröffentlichung kontrolliert?
- Sind Änderungen und Freigaben nachvollziehbar?
- Werden verwendete Daten regelmäßig aktualisiert?
- Können fehlerhafte Ergebnisse erkannt und korrigiert werden?
- Ist klar geregelt, welche Entscheidungen ein System nicht selbst treffen darf?
Je transparenter diese Fragen beantwortet werden, desto weniger wichtig wird die pauschale Angst vor dem Begriff „KI-generiert“.
Vom Warnhinweis zum Qualitätssiegel
Langfristig könnte die Bezeichnung „KI-generiert“ oder besser „professionell KI-gestützt erstellt und redaktionell geprüft“ eine positive Bedeutung erhalten. Dafür müsste sie jedoch mit nachvollziehbaren Qualitätsstandards verbunden werden.
Erst wenn solche Kriterien erkennbar sind, kann aus einer technischen Herkunftsangabe ein belastbares Qualitätsmerkmal werden.
Nicht der Einsatz künstlicher Intelligenz sollte das Siegel bestimmen, sondern die Qualität des gesamten Herstellungs- und Prüfprozesses.
Die Öffentlichkeitsarbeit steht noch am Anfang
Unternehmen erklären bislang häufig entweder zu wenig oder zu technisch. Auf der einen Seite wird künstliche Intelligenz als nahezu fehlerfreie Wundertechnik dargestellt. Auf der anderen Seite wird ihr Einsatz möglichst verschwiegen, weil negative Reaktionen befürchtet werden.
Beides führt nicht zu nachhaltigem Vertrauen. Eine glaubwürdige Öffentlichkeitsarbeit muss Chancen und Grenzen offen benennen. Sie sollte erklären, dass professionelle Systeme leistungsfähiger und spezialisierter sein können als allgemein zugängliche Anwendungen. Gleichzeitig darf sie nicht behaupten, hohe Kosten oder eine interne Serverlösung machten Fehler unmöglich.
Vertrauen entsteht dort, wo Technik, Fachwissen und menschliche Verantwortung sichtbar zusammenarbeiten.
Der TPM-Media Verlag verfolgt deshalb ein Qualitätsverständnis, bei dem technische Systeme nicht isoliert betrachtet werden. Entscheidend sind die zugrunde liegenden Quellen, die fachliche Zuordnung, die laufende Aktualitätskontrolle und die redaktionelle Verantwortung für das veröffentlichte Ergebnis.
Die Diskussion über künstliche Intelligenz benötigt eine neue Richtung. Statt nur zu fragen, ob ein Inhalt mit technischer Unterstützung entstanden ist, sollten wir fragen, wie er erstellt, geprüft und freigegeben wurde.
Denn „KI-generiert“ bezeichnet zunächst nur den Einsatz einer Technologie. Ob daraus ein minderwertiges Massenprodukt oder ein hochwertiges Fachwerk entsteht, entscheidet der verantwortete Herstellungsprozess.
