Prism analyse les commentaires issus des enquêtes d’engagement des employés menées sur notre plateforme. Actuellement, Prism a pour mission de classer les commentaires selon des thèmes prédéfinis, de résumer les retours et de suggérer des actions potentielles sur la base de cette analyse. De plus, les utilisateurs peuvent interagir avec les données via une fonction de chat pour poser d’autres questions.

Comment identifiez-vous et atténuez-vous les biais dans vos modèles d’IA ?
Nous nous efforçons de garantir que les modèles d’IA utilisés sur notre plateforme sont régulièrement évalués pour détecter d’éventuels biais. Les modèles sont conçus dans un souci d’équité, en utilisant des méthodologies permettant d’identifier et de réduire les biais dans leurs prédictions. Bien qu’aucun système d’IA ne soit totalement exempt de biais, nos modèles sont entraînés pour traiter une grande variété de commentaires issus de différentes cultures, langues et origines afin de minimiser les résultats discriminatoires.

Quels processus sont en place pour garantir des données d’entraînement diversifiées et représentatives ?
En collaboration avec OpenAI, nous utilisons des ensembles de données vastes et variés lors de l’entraînement, comprenant des données provenant de nombreuses sources différentes. Cela permet au modèle d’être exposé à de multiples points de vue. Notre équipe surveille également les performances de l’IA afin de détecter toute dérive inattendue dans les résultats et d’agir en conséquence si nécessaire.

Pouvez-vous donner des exemples d’audits de biais ou d’initiatives de réduction des biais menés sur vos systèmes d’IA ?
People Insight et OpenAI effectuent régulièrement des audits sur les modèles afin de détecter et d’atténuer les biais. Cela inclut l’examen des données d’entraînement et des résultats produits par le modèle pour repérer d’éventuels schémas de biais injustes et prendre des mesures correctives, comme le rééquilibrage des ensembles de données ou l’ajustement des pondérations du modèle. Nous nous appuyons sur les avancées d’OpenAI dans ce domaine pour améliorer en continu notre analyse des commentaires.

Quels types de données sont utilisés pour entraîner vos modèles d’IA et comment en garantissez-vous la qualité et la pertinence ?
Les modèles sont entraînés sur des ensembles de données diversifiés provenant d’un large éventail de contenus sur Internet, de livres et d’autres sources de connaissances. Ces modèles sont conçus pour généraliser sur de nombreux domaines, assurant ainsi leur pertinence sur différents sujets. Nous nous appuyons sur l’engagement continu d’OpenAI en matière de qualité et de diversité des données.

À quelle fréquence les modèles sont-ils réentraînés et quels critères déterminent la nécessité d’un réentraînement ?
Les modèles utilisés sont réentraînés périodiquement dans le cadre du processus de recherche et développement d’OpenAI. Le réentraînement a lieu lorsqu’il y a des améliorations significatives ou des mises à jour de l’architecture du modèle, ou lorsqu’il est nécessaire d’intégrer des données plus récentes, ce qui permet de maintenir les modèles à jour et pertinents par rapport aux tendances et aux évolutions du langage. Toutes les mises à jour sont examinées par People Insight dans le cadre de nos audits et analyses continus.

Comment garantissez-vous la transparence et l’explicabilité de vos systèmes d’IA ?
Nous visons à offrir le maximum de transparence possible sur la façon dont l’IA analyse les commentaires. Nous nous efforçons de rendre l’IA plus explicable, afin que les utilisateurs puissent comprendre comment les décisions (comme le classement des commentaires) sont prises. Nous proposons une documentation claire sur la façon dont l’IA traite les données, catégorise les thèmes et génère des résumés.

Pouvez-vous fournir une documentation ou des rapports sur la façon dont les décisions sont prises par le système d’IA ?
Oui, nous mettons à disposition une documentation expliquant le fonctionnement du système d’IA sur notre plateforme. Cela inclut des détails sur la sélection des thèmes, l’analyse du ressenti et la génération des actions suggérées. De plus, nous recueillons et suivons les retours des utilisateurs sur les réponses générées par l’IA afin d’affiner les instructions et d’améliorer les résultats au fil du temps. Nous surveillons également les requêtes saisies par les utilisateurs pour mieux comprendre les usages et optimiser la valeur du système.

Quelles lignes directrices éthiques suivez-vous lors du développement et du déploiement de solutions d’IA ?
Nous suivons les lignes directrices éthiques fournies par OpenAI, qui incluent des principes d’équité, de transparence et de responsabilité. Lors du développement de nos solutions basées sur l’IA, nous accordons la priorité à l’utilisation éthique des données, en veillant à ce que les informations personnelles soient traitées avec soin et que le système fonctionne de manière à bénéficier équitablement à tous les utilisateurs.

Comment garantissez-vous la responsabilité des actions de vos systèmes d’IA ?
Nous prenons la notion de responsabilité très au sérieux. Si l’IA aide à analyser les données et à formuler des recommandations, les décisions finales restent toujours entre les mains des humains. Nous veillons à ce que nos utilisateurs aient le dernier mot et proposons des mécanismes pour remettre en question ou passer outre les résultats générés par l’IA si nécessaire.

Comment vos solutions d’IA sont-elles alignées avec les réglementations et normes existantes, telles que l’AI Act de l’UE ou les cadres NIST ?
Notre plateforme est conforme aux normes et réglementations du secteur, telles que l’AI Act de l’UE et le NIST AI Risk Management Framework. Nous restons informés des exigences légales et veillons à ce que nos modèles d’IA respectent les lois sur la protection des données (comme le RGPD) et les standards d’utilisation éthique de l’IA.

Utilisez-vous un prestataire figurant sur le Data Protection Framework (DPF) ?

Le DPF concerne uniquement les entreprises américaines. Nous ne pouvons pas y participer. Notre prestataire, OpenAI, n’est pas inscrit au DPF. Cependant, pour faciliter les transferts de données du Royaume-Uni vers les États-Unis, OpenAI utilise les Clauses Contractuelles Types (SCC), comme détaillé dans leur Addendum sur le traitement des données. Les SCC sont des accords contractuels approuvés par la Commission européenne et l’Information Commissioner’s Office du Royaume-Uni afin de garantir des mesures de protection appropriées lors du transfert de données personnelles vers des pays n’ayant pas fait l’objet d’une décision d’adéquation.

Transmettez-vous des données personnelles à OpenAI ?

Non. Toutes les données envoyées à OpenAI sont entièrement anonymisées — nous ne transmettons aucune information permettant d’identifier une personne (PII). Les noms et autres informations identifiantes sont supprimés et remplacés par des identifiants uniques avant l’envoi des données. Ces identifiants sont ensuite utilisés pour faire correspondre et réappliquer les informations d’origine une fois la réponse reçue.

​
​

En répondant à ces questions clés, nous souhaitons offrir aux utilisateurs clarté et confiance dans le fonctionnement de notre analyse de commentaires basée sur l’IA, en garantissant équité, transparence et responsabilité tout au long du processus.