Amélioration de la Reconnaissance Faciale grâce aux Données Synthétiques : Biais et Performances

La reconnaissance faciale est devenue un outil clé dans divers secteurs, allant de la sécurité à la compréhension du comportement des consommateurs. Toutefois, cette technologie pose des défis majeurs, notamment des questions de précision et de biais. Avec l’émergence des données synthétiques comme alternative pour former des modèles de reconnaissance faciale, des chercheurs se sont…

Amélioration de la Reconnaissance des Émotions grâce à une Nouvelle Approche d’IA

La reconnaissance des émotions à partir de données physiologiques joue un rôle fondamental dans l’évaluation de la santé mentale. Cependant, cette discipline fait face à des défis majeurs, notamment la gestion de signaux multimodaux incomplets et les interférences dues aux mouvements corporels. Pour surmonter ces obstacles, une approche innovante appelée Multi-Masked Querying Network (MMQ-Net) a…

L’Impact des Chatbots IA sur la Santé Mentale : Une Relation Complexe

Les chatbots alimentés par l’intelligence artificielle (IA) connaissent un essor remarquable, devenant des outils prisés pour le soutien émotionnel et la compagnie, particulièrement dans des contextes marqués par l’isolement social et des limitations dans les services de santé mentale. Toutefois, l’utilisation généralisée de ces technologies soulève des préoccupations concernant les effets néfastes potentiels sur certains…

Mèmes Haineux et IA : Rainbow Noise met à nu les faiblesses des détecteurs

Les mèmes haineux ciblant la communauté LGBTQ+ échappent souvent à la détection grâce à des manipulations subtiles de leur image ou de leur légende. Notre étude, baptisée Rainbow Noise, crée un benchmark inédit pour évaluer la robustesse des détecteurs face à ces attaques. Nous avons combiné quatre types d’attaques sur les légendes et trois altérations…

Rainbow Noise : Évaluer la Résilience des Détecteurs de Mèmes Haineux Vis-à-Vis du Contenu LGBTQ

Les mèmes haineux s’attaquant aux communautés LGBTQ+ parviennent souvent à échapper à la détection en modifiant soit la légende, soit l’image, ou les deux. Dans cette étude, nous avons construit le premier benchmark de robustesse pour évaluer comment ces mèmes peuvent être dissimulés, en associant quatre attaques de légendes réalistes à trois types de dégradations…

Folie Technologique : Les Chatbots d’IA et leurs Effets sur la Santé Mentale

L’utilisation des chatbots d’intelligence artificielle (IA) a explosé ces dernières années, notamment comme sources de soutien émotionnel dans des contextes de santé mentale où les ressources sont limitées. Cependant, bien que certains utilisateurs rapportent des bénéfices psychologiques, des cas préoccupants émergent, incluant des comportements suicidaires et violents associés à des rapports émotionnels perçus avec ces…

Analyse des Vulnérabilités de Sécurité dans les Normes d’IA : Un Appel à l’Action

La montée en puissance des systèmes d’intelligence artificielle (IA) dans les infrastructures critiques entraîne une nécessité pressante d’évaluer les vulnérabilités de sécurité présentes dans les cadres de conformité actuels. Cet article se penche sur une analyse approfondie des risques de sécurité liés à trois grandes normes de gouvernance de l’IA : le NIST AI RMF…