20 January, 2020
HomeOn Informel’Intelligence Artificielle viole votre sphère privée.

l’Intelligence Artificielle viole votre sphère privée.

Le pouvoir de l’intelligence Artificielle s’oriente maintenant vers des questions plus intimes…

L’intelligence artificielle moderne est très en vogue. Mais ses talents se résument à une capacité surhumaine de détecter des modèles dans de grands volumes de données. Ce pouvoir s’oriente maintenant vers des questions plus intimes. Des recherches menées par Michal Kosinski et Yilun Wang à l’Université de Stanford ont montré que la vision artificielle peut déduire l’orientation sexuelle des individus en analysant la structure de leurs visages. Selon le Dr Kosinski, avec des ensembles de données appropriées, des systèmes d’IA similaires pourraient être formés pour détecter d’autres caractéristiques intimes, telles que le QI ou les opinions politiques. Ce n’est pas parce que les humains sont incapables de voir les signes sur les visages que les machines ne peuvent pas le faire.

Le programme des chercheurs, dont les détails sont publiés dans le Journal de la personnalité et de la psychologie sociale, repose sur 130 741 images de 36 630 hommes et 170 360 images de 38 593 femmes téléchargées depuis un site de rencontre américain populaire, qui rend ses profils publics : des homosexuels, des hétérosexuels, des hommes et des femmes, tous représentés de manière égale. Les images ont ensuite été intégrées dans un logiciel qui génère une longue chaîne de chiffres représentant pour chaque personne, leur  » visage « .

L’étape suivante consiste à utiliser un modèle prédictif simple, appelé régression logistique, pour rechercher des corrélations entre les caractéristiques de ces empreintes et la sexualité de leurs propriétaires. Lorsque le modèle résultant est exécuté sur des données qu’il n’avait pas encore vues, il surpasse de loin les humains en matière de distinction entre les visages homosexuels et hétérosexuels.

Lorsqu’il montre une photo d’un homme homosexuel et hétérosexuel, les deux choisis au hasard, le modèle les distingue correctement 81% du temps. Lorsqu’on leur montre cinq photos de chaque homme, il attribue correctement la sexualité dans 91% des cas. Le modèle a eu de moins bons résultats avec les femmes, distinguant les homosexuelles avec une précision de 71% après avoir regardé une photo et de 83% après cinq.

Dans les deux cas, le niveau de performance dépasse de loin la capacité humaine à faire cette distinction. En utilisant les mêmes images, les gens pourraient distinguer les homosexuels dans 61% des cas pour les hommes et 54% pour les femmes. Cela concorde avec les recherches qui suggèrent que les humains peuvent déterminer la sexualité à partir de visages, tout simplement mieux que le hasard.

Kosinski et Wang proposent une explication possible des performances de leur modèle. À mesure que les fœtus se développent dans l’utérus, ils sont exposés à divers taux d’hormones, en particulier de testostérone. Ceux-ci sont connus pour jouer un rôle dans le développement des structures faciales et peuvent également être impliqués dans la détermination de la sexualité. En utilisant d’autres techniques, on s’est aperçu que le programme accordait la plus grande attention au nez, aux yeux, aux sourcils, aux joues, à la racine des cheveux et au menton pour déterminer la sexualité masculine; le nez, les coins de la bouche, les cheveux et le décolleté étaient plus importants pour les femmes.

L’étude a ses limites. Premièrement, les images d’un site de rencontres sont susceptibles de révéler une orientation sexuelle particulièrement révélatrice. Le taux de précision de 91% ne s’applique que lorsqu’un des deux hommes dont les images sont montrées est connu pour être gay. En dehors du laboratoire, le taux de précision serait beaucoup plus bas. Pour démontrer cette faiblesse, les chercheurs ont sélectionné au hasard 1 000 hommes avec au moins cinq photographies, mais avec un ratio homosexuel / hétérosexuel reflétant plus fidèlement le monde réel, environ 7%.

Lorsqu’on leur a demandé de sélectionner les 100 hommes les plus susceptibles d’être homosexuels, seuls 47 d’entre eux ont été choisis par le système, ce qui signifie que le système a classé certains hommes hétérosexuels comme plus susceptibles d’être homosexuels que les hommes qui le sont réellement. Cependant, lorsqu’on lui a demandé de choisir les dix visages sur lesquels il était le plus « fiable », neuf d’entre eux étaient en fait homosexuels. Si l’objectif est de sélectionner un petit nombre de personnes très susceptibles d’être homosexuelles dans un groupe important, le système semble pouvoir le faire.

Le problème n’est pas que M. Kosinski et M. Wang aient créé un logiciel permettant de déterminer de manière fiable l’homosexualité. Ce n’était pas leur objectif. Au contraire, ils ont démontré qu’un tel logiciel est possible. Le Dr Kosinski a inventé le profilage psychométrique à l’aide de données Facebook, qui repose sur les informations du profil d’une personne pour modéliser sa personnalité.

La campagne Trump a utilisé des modèles similaires lors de ll’élection présidentielle de l’année dernière pour cibler les électeurs, une approche qui a suscité des critiques. Le Dr Kosinski a déclaré qu’il avait mené les recherches à titre de démonstration et qu’il avait mis en garde les décideurs politiques contre le pouvoir de la vision artificielle. Cela rend l’érosion supplémentaire de la vie privée «inévitable»; il faut comprendre les dangers, ajoute-t-il. Les conjoints peuvent chercher à savoir ce que dit un logiciel dénonçant la sexualité à propos de leur partenaire (le mot « gay » a 10% plus de chances de terminer une recherche commençant par « mon mari est-il…» que le mot « tricherie »).

Dans les parties du monde où l’homosexualité est socialement inacceptable ou illégale, de tels logiciels peuvent constituer une menace sérieuse pour la sécurité. M. Kosinski a bien du mal à préciser qu’il n’a inventé aucune nouvelle technologie, mais simplement un logiciel et des données facilement accessibles à quiconque disposant d’une connexion Internet.


Il est vrai que quiconque souhaite reproduire les travaux de M. Kosinski pour déterminer les traits intimes des visages sera confronté à des défis importants pour l’application de la science de laboratoire au monde extérieur. Mais ils seront aidés par des volumes de données en croissance constante et par l’amélioration des algorithmes. «Ce dernier, avec le temps, l’emporte inévitablement», dit Alessandro Acquisti de l’Université Carnegie Mellon, qui a montré que le numéro de sécurité sociale d’un individu peut être découvert à l’aide de la reconnaissance faciale et des informations en ligne.

Pour ceux qui ont des secrets, tout cela est une bien mauvaise nouvelle. La fois prochaine, regarderez-vous la caméra de la même façon ?

Share

Rejoignez la Lettre des Femmes !