KI-Entwickler suchen Rat bei religiösen Denkern und stehen dabei vor der Frage, welche Werte ihre Chatbots verkörpern sollen. Das zeigt ein am 25. Oktober veröffentlichter Bericht der Nachrichtenagentur AP aus Los Angeles. Er untersucht Gespräche über das Verhalten von KI und Warnungen, dass vermischte Überzeugungen Unterschiede zwischen Traditionen verdecken können.
Anthropic erläuterte diese Arbeit am 19. Mai und berichtete über Gespräche mit Forschenden, Geistlichen, Philosophen und Ethikfachleuten aus mehr als 15 religiösen und kulturübergreifenden Gruppen. Diese frühen Gespräche könnten Claudes Verfassung, Trainingswerte und Verhaltenstests beeinflussen, erklärte das Unternehmen. Es präsentierte sie nicht als abgeschlossene Lösung.
Der Anthropologe Webb Keane von der Universität Michigan erklärte gegenüber AP, Religion als Sammlung herauslösbarer moralischer Prinzipien zu behandeln könne Traditionen verzerren. Auch Lehre, Rituale und Beziehungen seien wichtig. Einige Religionen verstünden sich zudem nicht vorrangig als Systeme ethischer Regeln.
Meghan Sullivan, Philosophin an der Universität Notre Dame und Teilnehmerin eines Anthropic-Treffens, äußerte sich gegenüber AP positiver. Sie schilderte einen fundierten Austausch: Beschäftigte erklärten die Modelle, bevor die Beteiligten moralische Fragen erörterten, darunter den Einsatz von Chatbots beim Lesenlernen von Kindern.
Anthropic erklärte, religiöse, säkulare und politische Perspektiven berücksichtigen zu wollen, ohne die Weltsicht einer einzigen Tradition zu übernehmen. Das Unternehmen beschrieb auch einen Versuch mit einem Werkzeug, das Claude während Aufgaben an ethische Verpflichtungen erinnerte. Interne Tests zeigten weniger Fehlverhalten; ob Erinnerungen oder Denkpausen den Effekt erklärten, bleibe jedoch offen.
Der Unterschied zwischen Beratung und nachgewiesener Verbesserung bleibt entscheidend. AP berichtete über die Sorge des Rechtswissenschaftlers Paolo Carozza, dass vermischte Traditionen ihre charakteristischen Merkmale verlieren könnten. Anthropic kündigte im Mai weitere Gespräche mit Juristen, Psychologen, Schriftstellern und zivilgesellschaftlichen Institutionen an, um Ideen zu prüfen und Erkenntnisse zu teilen.
Kommentare