L’émergence des modèles de langage de grande taille (LLM) a suscité des débats cruciaux sur les agents moraux artificiels (AMA). Dans l’article intitulé « Black Box Deployed — Functional Criteria for Artificial Moral Agents in the LLM Era », Matthew E. Brophy aborde le besoin urgent de réviser les critères philosophiques pour évaluer ces agents.

Des Critères Révisés pour le Nouveau Paradigme des AMA

Historiquement, l’évaluation des AMA se basait sur l’hypothèse de la transparence des architectures. Cependant, avec les LLM, cette approche n’est plus viable. Ces modèles se caractérisent par leurs sorties stochastiques et leurs états internes opaques, rendant les critères éthiques traditionnels obsolètes. L’article propose donc dix critères fonctionnels pour réévaluer et orienter les AMA basés sur des LLM :

• ✓ **Concordance Morale** : Alignement avec des valeurs éthiques établies.
• ✓ **Sensibilité au Contexte** : Capacité à adapter les décisions en fonction des circonstances.
• ✓ **Intégrité Normative** : Maintien des standards éthiques avec cohérence.
• ✓ **Conscience Métaéthique** : Compréhension des facteurs qui influencent les décisions morales.
• ✓ **Résilience du Système** : Capacité à fonctionner efficacement face à des dégradations de performance.
• ✓ **Fiabilité** : S’assurer que les décisions de l’AMA soient dignes de confiance.
• ✓ **Corrigibilité** : Possibilité d’ajuster le comportement de l’AMA suite à une analyse critique.
• ✓ **Transparence Partielle** : Offrir une compréhension limitée du processus décisionnel.
• ✓ **Autonomie Fonctionnelle** : Capacité à prendre des décisions indépendantes.
• ✓ **Imagination Morale** : Capacité à conceptualiser diverses situations éthiques.

Ces éléments visent à guider les AMA vers une meilleure intégration sociétale et une utilisation bénéfique dans des contexts critiques tels que celui d’un bus public autonome (APB), exemplifiant l’application pratique de ces critères.

Implications pour l’Éthique de l’IA

En solidifiant ces mesures, l’article propose une voie pour l’implémentation d’agents moraux artificiels dans des environnements où les décisions ont un impact significatif. Cette recherche est cruciale pour des domaines comme la santé et les transports en commun, en assurant que les AMA soient non seulement efficaces, mais également éthiquement responsables.

Conclusion : Un Nouveau Chapitre dans l’Éthique des LLM

La révision des critères éthiques à l’ère des LLM représente un tournant décisif pour l’IA morale. En ajustant les critères d’évaluation, nous pouvons nous préparer à une ère où l’intelligence artificielle ne coexiste pas seulement avec l’humanité, mais enrichit aussi notre tissu sociétal d’une manière éthique et réfléchie. Ces avancées sont essentielles pour forger le futur des interactions entre IA et société, garantissant que la technologie serve le bien commun.