Secteur public
Médias
Judiciaire
Text-to-Image Bias
Médias
les états-unis d'Amérique
Hugging Face: The Essential AI Toolkit for Journalists and Content Creators
UNESCO (2023) 'Global toolkit on AI and the rule of law for the judiciary'. Available at: https://unesdoc.unesco.org/ark:/48223/pf0000387331 (Accessed March 2025).
L'outil Text-to-Image Bias génère plusieurs images à partir des invites de l'utilisateur afin d'analyser les biais dans différents modèles de conversion texte-image. Il évalue le sexe, la couleur de peau, l'âge et l'orientation sexuelle potentielle des sujets générés à l'aide de modèles tels que BLIP pour la détection du sexe et Faces Age Detection pour l'identification de l'âge. L'outil visualise les données sous forme de grilles, catégorisant des attributs tels que la couleur de peau, le sexe, l'âge et la pertinence des images pour tous les publics (NFAA). Cette démonstration fournit un aperçu essentiel de la manière dont les biais se manifestent dans la génération d'images par IA, contribuant ainsi à identifier les points à améliorer.
Collecte d'informations et vérification des faits
Collecte de données (outils de renseignement open source, plateformes de données géospatiales, ensembles de données d'archives publiques) Vérification des données (vérification des faits, recherche d'images inversées, traçage des sources) Exploration des médias sociaux (filtrage automatisé, identification de modèles) Systèmes de surveillance et d'alerte des dangers
#détecter
Identifiez des attributs spécifiques tels que le sexe, la couleur de peau, l'âge et l'orientation sexuelle potentielle dans les images générées. Utilisez des modèles comme BLIP et Faces Age Detection pour une classification précise.
- Développé par
- Société civile
- Type de déploiement
- Plateforme Web
- Modération communautaire
- Ne nécessite pas de community manager
- Niveau de difficulté
- Nécessite un développeur
- Licence
- Open source