Das Ende der KreativitätKönnen Chatbots zu gefährlichen Machtmaschinen werden?
ntv bei Google bevorzugenTexte verfassen, Kundenfragen beantworten und Informationen filtern: Chatbots werden sowohl privat als auch in Unternehmen immer häufiger eingesetzt. Doch der Einsatz dieser Sprachmodelle hat seine Schattenseiten, warnen Fachleute.
Kurzgeschichte, politische Rede oder einfach nur der Geburtstagsgruß zum 80. der Oma: Solche Sachen erledigen Chatbots rasend schnell und Studien zufolge oft besser als Menschen. Doch es geht viel verloren, wenn wir nicht mehr selbst nach Worten und Gedanken suchen, warnt der Kulturwissenschaftler und Medienphilosoph Roberto Simanowski. Um Gleichschaltung gehe es dabei ebenso wie um politische Macht - und die Intelligenz der Menschheit.
Ist ein Sprachmodell KI?
Den Begriff "die KI" als Synonym für Sprachmodelle und Chatbots zu nutzen, sei irreführend, erklärt Katharina Zweig von der Rheinland-Pfälzischen Technischen Universität (RPTU) in Kaiserslautern. Er suggeriere, dass hier eine Wesenheit entstanden sei, mit eigenem Bewusstsein. "Doch ein Sprachmodell denkt nicht. Seine Antworten basieren auf statistischen Sprachmustern, die es während des Trainings gelernt hat. Zum Beispiel, dass Briefe oft mit den Worten "Sehr geehrter" beginnen oder eine Zusammenfassung zuerst den Titel des zusammengefassten Textes nennt." Basis der Antworten sind also Wahrscheinlichkeitsberechnungen.
Genau darin liegt eine große Tücke: Die "Wahrscheinlichkeits-Produktionsmaschine" fördert Simanowski zufolge zwangsläufig Mainstream-Kultur, weil sie immer das nutzt, was die Mehrheit auf ihrer Seite hat. "Dass die Outputs zu den neuen Inputs werden, verstärkt den Mainstream weiter." Fragende bekommen einen Einheitsbrei ähnlich lautender Antworten serviert. Zugleich versuchen immer weniger Menschen noch, auf anderen Wegen eigene Antworten zu finden - die dann wiederum Eingang ins System fänden.
Selbst an Eliteunis wie der Yale University in den USA gebe es bereits Beschwerden darüber, dass die monotone Prosa von Chatbots einsickere und die Diskussionen in Seminaren schlaffer und vorhersehbar würden.
Sprachmodelle können authentischer als Menschen wirken
Eine im Fachjournal "PLOS One" vorgestellte Studie ergab, dass Menschen Sprachmodell-generierte Debattenbeiträge für authentischer halten können als die tatsächlichen Aussagen bekannter Persönlichkeiten des öffentlichen Lebens. Verwunderlich ist das nicht: Menschen neigen Experten zufolge dazu, flüssige, selbstsichere und gut strukturierte Sprache mit Kompetenz zu verwechseln.
Sprachmodelle verändern und vereinheitlichen, was als glaubwürdige Äußerung, korrekte Perspektive oder gutes logisches Denken empfunden wird, wie Zhivar Sourati von der University of Southern California befürchtet. Dieselben wenigen Modelle generierten inzwischen Output für hunderte Millionen Nutzer: Formulierungen, Bilder, Recherchen, Ratschläge.
Lernen wir weniger?
Bei richtiger Handhabung könne eine Sprachmaschine durchaus sehr nützlich sein, betont Informatikerin und KI-Forscherin Zweig. Ihrer Tochter habe sie zum Beispiel während der Abiturvorbereitung empfohlen, sich Beispielklausuren erstellen zu lassen und diese abzuarbeiten.
Wenig hilfreich für den eigenen Wissenserwerb sei aber, Hausarbeiten erledigen zu lassen. Früher hätten Schüler zwar auch auf fremde Hilfe gesetzt und zum Beispiel beim Klassenbesten abgeschrieben, aber mit den Sprachmodellen sei die soziale Scham geschwunden. Doch wer die Maschine Übungen erledigen lasse, lerne deutlich weniger.
Der Effekt sei längst messbar: Bei den in ihrem Bereich verteilten Übungsblättern, bei denen oft auf KI-Hilfe gesetzt wird, steige die Zahl dafür erhaltener Punkte. Enorm gestiegen seien aber auch die Durchfallquoten bei den Klausuren, die auf den Übungsaufgaben aufbauen, sagt Zweig, die für ihren Einsatz für eine verantwortungsvolle Entwicklung von Algorithmen und Künstlicher Intelligenz das Bundesverdienstkreuz erhielt. Ähnliches habe eine Studie in China gezeigt: etwa 20 Prozent Verbesserung bei den Hausaufgaben - und 20 Prozent Verschlechterung bei Klausuren.
"Erste Studien bezeugen, was zu erwarten war: Der Mensch wird dümmer durch KI", so Simanowski. Fachleute sprächen von einer Akkumulation kognitiver Schulden: "Das Gehirn bleibt immer mehr hinter dem zurück, was es ohne Sprachmaschine leisten würde."
Verlernen wir, auf Herausforderungen zu reagieren?
Mögliche Folgen sehen Experten in Krisenzeiten: "Menschen unterscheiden sich darin, wie sie schreiben, argumentieren und die Welt betrachten", erklärt US-Forscher Sourati, Erstautor eines Beitrags von Informatikern und Psychologen im Fachjournal "Trends in Cognitive Sciences". Diese kognitive Vielfalt fördere die Kreativität und Problemlösungsfähigkeit von Gruppen und Gesellschaften - und gehe im Zuge der Sprachmaschinen-Nutzung verloren.
"Bei Problemlösungs-Ansätzen ist natürlich eine Vielfalt von Möglichkeiten immer besser als nur der Mainstream", betont auch Simanowski. Er sieht zudem für Modernisierung und Weiterentwicklung ein Problem: "Dadurch, dass eben nichts Neues nach außen kommen kann, weil es statistisch keine Chance hat beim Sprachmodell."
Hinzu kommt: Wer selten erlebt, ein schwieriges Problem selbst gelöst zu haben, baut weniger Vertrauen in die eigenen Fähigkeiten auf. In Schule, Ausbildung und an der Uni gehe es vielfach gar nicht um das Ergebnis, sondern um den Weg, um die Entwicklung einer Fertigkeit, betont Simanowski. "In dieser Hinsicht kann die KI ein Verhinderungswerkzeug sein." Das beginne schon damit, dass die Sprachmaschine durch ihre schnellen Antworten Neugier zerstöre.
Das Standardargument, dass Sprachmodelle mechanische Denkarbeit abnähmen und kreative Denkzeit verschafften - so wie der Taschenrechner, der die Menschheit auch nicht dümmer gemacht habe - stimme vielleicht noch bei Dingen wie Produktbeschreibungen oder Behandlungsberichten. "Danach wird es aber sehr schnell sehr falsch." Wenn Millionen Nutzer ähnliche Argumentationsmuster und Lösungsvorschläge erhalten, verenge sich der Ideenraum - und dieser Effekt werde noch zunehmen, wenn immer mehr maschinengenerierte Inhalte in den Kreislauf gelangen.
Eine neue Form der Globalisierung
Statistisch immer nur die Mehrheit zu berücksichtigen, birgt eine weitere Tücke, wie Simanowski in seinem Buch erklärt. "Die Sprachmaschine ist kulturstiftend", heißt es dort. Denn so einlullend ausgeglichen viele Chatbot-Antworten auch klingen mögen: Auch hier gilt das Recht des Stärkeren.
"Die meisten Wörter in der Sprachmaschine sind weiß. Die meisten Texte, die in ihre Trainingsdaten einfließen, stammen von englischsprachigen Webseiten, die meisten davon aus den USA. Oder sie stammen aus Büchern weißer Autoren." Selbst wenn das gesamte Internet in den Trainingsdaten adäquat vertreten wäre, gäbe es keine faire Repräsentation der Welt: "Orale Kulturen und jene ohne stabilen Internetanschluss hinterlassen kaum einen sprachlichen Fußabdruck im Internet."
Die Frage sei: "Wer gibt der Sprachmaschine mit welchem Mandat welche Werte vor?" Abtreibung, Homosexualität, Migration, Klimaschutz, freie Meinungsäußerung, soziale Gerechtigkeit, Sterbehilfe: Antworten der US-Sprachmodelle auf Fragen dazu wirken auf Leser westlicher Länder bisher oft angemessen. In anderen Ländern könnten sie aber als westlicher Übergriff empfunden werden, meint Simanowski. "Nicht überall ist die Antibabypille so willkommen wie das Penicillin. Nicht überall wird das Recht, Embryonen zu töten, als Fortschritt registriert."
Darum bedeuten Sprachmodelle Macht
Simanowski zufolge sprechen Kritiker zudem vom "größten Diebstahl der Menschheitsgeschichte", weil reiche Unternehmen menschliches Wissens einsammeln, um es dann für eigentumsrechtlich geschützte Produkte zu verwenden. "Wissen ist Macht - und das Wissen ist zunehmend bei den Mächtigen." Wer seine Sprachmaschinen weltweit etabliere, könne anderen Staaten damit drohen, sie von der Versorgung abzuschneiden. Längst sei ein "Tech Cold War" in vollem Gange. Die Wirtschaft wiederum nutze das, um den Staat zu erpressen, wenn dieser regulieren wolle.
Derzeit seien die meisten hierzulande genutzten Sprachmaschinen noch eher links-liberal eingestellt, meint Simanowski. "Sie befürworten Klimasteuern, Mietenkontrolle, Abtreibungsrecht, die Legalisierung von Marihuana und eine höhere Besteuerung der Reichen." Das aber lässt sich schnell ändern. Elon Musk zum Beispiel sei sein Sprachmodell Grok zu liberal gewesen, erklärt Zweig. "Das hat er dann auf konservativ bürsten lassen - und natürlich so bürsten lassen, dass über Elon Musk nur Gutes gesagt wird."
Die Besitzer der Chatbots träfen die Auswahl bei Quellen, historischen Einordnungen, vermittelten Werten und Sichtweisen, betont Simanowski. "Politische Neutralität ist kein Zustand, den ein Sprachmodell einfach besitzt." Der jeweilige Eigentümer könne das zentrale Kommunikationsmittel gesellschaftlicher Meinungsbildung leicht manipulieren. Die Sprachmodell-Besitzer seien "mächtiger, als jeder Zensor es einst war oder der Verfassungsschutz heute ist, der als staatliche Behörde immerhin dem Parlament untersteht".
Wie könnte es enden?
Im Film "Wall.E" wird die Menschheit von einer KI betüdelt, ihr eigenes Denken und Handeln ist quasi auf Null gesetzt. Doch was geschieht, wenn Maschinengeneriertes immer stärker nur auf Maschinengeneriertem beruht? Wohl niemand kann sagen, wie viel Prozent aller Texte, Programme, Grafiken und Bilder derzeit schon auf Sprachmaschinen beruhen.
Simanowski zufolge stellt sich die Frage nach dem Kipppunkt: "Wann werden die vom Menschen geschaffenen Daten zu einer unbedeutenden Restgröße im Text-Remix der KI geschrumpft sein?" Der Medienphilosoph geht davon aus, dass es der Mensch schon bald nicht mehr aufnehmen kann mit all den Sprachmodell-Inhalten, die in die Archive geschwemmt werden.
Tatsächlich sei es momentan schwer, Trainingsdaten zu filtern nach dem, was wahrscheinlich noch von Menschen ist und was nicht, sagt Zweig, Professorin für Sozioinformatik. Ihr Fazit lautet: "Es ist eine Technik, eine Technologie, die sehr viele Dimensionen hat, von denen viele schwierig sind und wenige sich bis jetzt als sehr vorteilhaft erwiesen haben."