Quali valori rifletteranno i chatbot delle società di IA che cercano consigli religiosi? È il tema di un reportage dell’Associated Press pubblicato il 25 ottobre da Los Angeles. L’inchiesta esamina i colloqui per orientare il comportamento dell’IA e le preoccupazioni perché mescolare credenze può nascondere le diversità tra le tradizioni.
Anthropic ha descritto l’attività il 19 maggio: aveva già incontrato studiosi, religiosi, filosofi ed esperti di etica di più di 15 gruppi religiosi e interculturali. Per la società, questi primi colloqui potranno orientare la costituzione di Claude, i valori dell’addestramento e le valutazioni comportamentali. Non è però una soluzione già completata.
Webb Keane, antropologo dell’Università del Michigan, ha spiegato all’AP che trattare la religione come principi morali separabili può deformare le tradizioni. Perché anche dottrina, rituali e relazioni contano: la realtà è più complessa e alcune religioni non si considerano principalmente sistemi di regole etiche.
Meghan Sullivan, filosofa dell’Università di Notre Dame già presente a un incontro di Anthropic, ha dato all’AP una valutazione più positiva. La qualità del confronto è emersa dalle spiegazioni dei modelli da parte del personale, seguite da questioni morali, inclusa la possibilità per i bambini di usare chatbot per imparare a leggere.
Anthropic afferma che l’obiettivo è considerare prospettive religiose, laiche e politiche senza adottare una sola visione del mondo. La società ha anche descritto una prova: uno strumento ricordava a Claude i propri impegni etici durante le attività. Nei test interni la condotta è risultata meno disallineata, però non è chiaro se ciò dipenda dal richiamo o dalla pausa.
La distinzione fra consultazione e miglioramento dimostrato è perciò centrale. L’AP riferisce i timori del giurista Paolo Carozza: mescolare tradizioni può cancellarne le specificità. A maggio Anthropic prevedeva più colloqui con giuristi, psicologi, scrittori e istituzioni civiche; l’intenzione è verificare le idee nella ricerca e condividere i risultati.
Commenti