Künstliche Intelligenz

Wahrscheinlichkeit statt Wahrheit

Künstliche Intelligenz in der Kirche beschränkt sich bislang auf Experimente. Dennoch hat das Thema seinen Exotenstatus verloren. Ein Einblick in Chancen und Risiken.

Von Katja Schmidtke

Das Dialogsystem ChatGPT mit einer Predigt über das Pfingstwunder beauftragen, das Google-System Bard eine Kurzandacht schreiben lassen oder über Dall-E Fotos generieren – das sind Experimente zum Einsatz Künstlicher Intelligenz (KI) im kirchlichen Kontext. Über das Feld des Experimentellen geht es in den Kirchen derzeit nicht hinaus, schätzt Ralf Peter Reimann ein.

Der Informatiker und Theologe ist Internetbeauftragter der Evangelischen Kirche im Rheinland (EKiR) und bloggt unter theonet.de zu Digitalisierung in der Kirche. "Vor einem flächenmäßigen Einsatz von KI in den Kirchen und Gemeinden stehen ethische Debatten, die wir zunächst führen müssen", sagt Reimann. Da geht es um Fragen des Datenschutzes und des Urheberrechts, Fragen nach Diskriminierung, Manipulation und Grenzüberschreitung. Das Datenmaterial, auf das Bard oder ChatGPT zugreifen, ist unbekannt und aufgrund der schieren Menge auch nicht nachvollziehbar. "Die Texte, mit denen diese Systeme gefüttert werden, die Trainingsdaten bilden nicht unsere Realität ab", erklärt Kirchenrat Reimann. So dominierten amerikanische Texte. Will sich ein Pfarrer von ChatGPT für eine Predigt anregen lassen, kann das bedeuten, dass Texte eher einen evangelikalen oder sogar fundamentalistischen Einschlag bekommen. So können auch Stereotype und Vorurteile weiterverbreitet werden. Ralf Peter Reimann hat beispielsweise die KI Dall-E gebeten, Bilder von Pfarrern zu generieren – auf den Ergebnissen war erst eine Frau zu sehen, als Reimann "female pastor" ins Eingabefeld tippte.

Von OpenAI, dem Unternehmen, das ChatGPT und Dall-E auf den Markt gebracht hat, ist bekannt, dass es in Kenia sogenannte Klick-Worker angestellt hat. Unter ausbeuterischen Arbeitsbedingungen sollten Menschen Trainingsdaten für ChatGPT so qualifizieren, dass toxische Antworten ausgeschlossen werden können und die KI weniger rassistisch, weniger sexistisch, weniger pornografisch ist. Doch ist das ausreichend? Ralf Peter Reimann: "Ich habe neulich den Text eines ukrainischen Flüchtlings mittels ChatGPT sprachlich korrigieren wollen. Die Antwort, die ich bekam, hat mich überrascht: Es war keine grammatikalische Verbesserung, sondern eine emotionale Ansprache. ChatGPT rechnete damit, dass dies meine Erfahrung sei und sprach mir Mitgefühl für meine Kriegserfahrungen und meine Flucht aus." So empathisch diese Antwort auch ist, sie zeigt auch, wie wichtig die Daten und Algorithmen sind, auf die die Künstliche Intelligent zugreift. Mit anderen Inhalten trainiert oder in einem anderen politischen System entwickelt, hätte die KI auf den Bericht des Ukrainers ganz anders antworten können. Manche KI-Systeme beruhen auch auf "reinforcement learning". Sie lernen durch Belohnung und Verstärkung der Nutzer und sind daher anfällig für Manipulation.

Dass Landeskirchen oder Kirchengemeinden KI-Chatsysteme für die Seelsorge einsetzen, sieht Ralf Peter Reimann daher noch lange nicht. Aber andere Möglichkeiten gibt es. Vorgestellt hat der Internetbeauftragte der Rheinischen Kirche sie kürzlich auf einem Workshop für die Öffentlichkeitsarbeiter in den Kirchenkreisen der EKiR. Er listet – erstellt mit der Hilfe von ChatGPT – drei Arbeitsfelder auf:

• Erstens ermögliche KI es kirchlichen Organisationen, ihre Botschaften individuell an die Bedürfnisse und Interessen der Menschen anzupassen.
• Zweitens könnten KI-Systeme sich wiederholende und zeitaufwändige Aufgaben automatisieren, wie etwa das Versenden von E-Mails oder das Verwalten von Mitgliederdatenbanken. Dadurch können Mitarbeiter mehr Zeit für strategische und kreative Tätigkeiten aufwenden.
• Und drittens ermögliche es KI, Daten in Echtzeit zu analysieren und daraus Erkenntnisse zu gewinnen. Dies helfe dabei, die Wirksamkeit von Kampagnen und die Bedürfnisse der Gemeindemitglieder besser zu verstehen und die Kommunikationsstrategie entsprechend anzupassen.

Wichtig ist und bleibt: Systemen wie ChatGPT liegt kein Wahrheitsbegriff zugrunde. Sie kennen keine Moral, keine Ethik, keine Werte. "Es geht nicht um die Übereinstimmung zwischen einer Aussage und der Wirklichkeit (…), sondern um Wahrscheinlichkeiten, welches Wort als nächstes folgt", erklärt Reimann auf seinem Blog. So kommt es auch, dass die ChatBots Fehler machen und Informationen regelrecht erfinden. Experten sprechen dann von Halluzinationen. Ein einfaches Beispiel: ChatGPT übersetzte das Apfelkuchenrezept von Ralf Peter Reimann zwar vom Deutschen ins Englische, erfand dabei aber quasi ein neues Rezept mit neuen Zutaten. Auch den Reformator Johannes Calvin teleportierte die KI vom 16. ins 20. Jahrhundert. ChatGPT weist auf seine Unzulänglichkeiten selbst beim Start des Programms hin: "Obwohl wir Sicherheitsvorkehrungen getroffen haben, kann das System gelegentlich falsche oder irreführende Informationen generieren und anstößige oder voreingenommene Inhalte produzieren".

Die KI ersetzt kein menschliches Denken und Handeln, aber sie kann bei Arbeiten wie beispielsweise Text-erstellung unterstützen. Herzblut und Leidenschaft fehlen den Systemen noch. Für Ralf Peter Reimann wirft die Frage zu unserem Umgang mit KI, zu Leitlinien, Sicherheitsplanken und Regularien auch uralte Fragen nach unserem Menschsein auf. "Wir haben einen Körper, wir spüren Sinneseindrücke. Wir fühlen. Wir empfinden. Eine KI dagegen gibt Antworten, die wahrscheinlich sind." "Die Texte, mit denen diese Systeme gefüttert werden, bilden nicht unsere Realität ab"