« L'objet robot, du fait de son introduction à l'art, nous force désormais à une définition plus délimitée de l'art humain, en dessinant en creux une partie de ce qui fait notre humanité. »

– Verser 0,5 L d'eau dans une casserole

– Poser la casserole sur une plaque de cuisson

– Allumer la plaque de cuisson

– Tant que l'eau ne bout pas, laisser sur la plaque allumée

– Éteindre la plaque

– Retirer la casserole de la plaque de cuisson

Ceci est un algorithme. Un algorithme basique pour transformer de l'eau froide ou tiède en eau chaude.

C'est ça un algorithme. Ça ne prend pas de décisions. C'est écrit par un humain. Donc la prochaine fois que je lis un paragraphe qui mélange allègrement robots et algorithmes en prétendant que les humains ne sont plus à la manœuvre, je tape un scandale.

Ce sont des programmes informatiques, pas de la magie. On a pas créé des golems libres de leurs actions, au contraire : les êtres humains ont méticuleusement délimité leur champ des possibles.

TL;DR: Le type a créé cet algo pour montrer à quel point la reconnaissance faciale était dangereuse. Son taux de réussite est de 81%. Et ça n'a pas été fait à partir de zéro. Le chercheur a juste repris un outil d'analyse faciale tout ce qu'il y a de plus classique. Pour justement montrer à quel point ce serait simple à n'importe qui de faire de même.

Au début il a pensé à l'athéisme, mais il a finalement choisi quelque chose de plus sensible pour montrer la dangerosité. Résultat : il reçoit des menaces de mort de la part des LGBTQ+. Donc pari tenu : vous voyez à quel point c'est dangereux maintenant ou non ?

Pour info, un·e humain·e n'est capable de reconnaître une personne gay d'un coup d'œil qu'à 54% pour les femmes et 61% pour les hommes. Soit l'équivalent d'un lancer de pièce, donc c'est loin d'être gagné d'avance. Le fait que la machine fasse 81% montre qu'il y a un souci.

De manière générale, les femmes sont moins facilement détectées comme lesbiennes que les hommes (jusqu'à 91% de réussite).

Notons tout de même que l'étude n'a portée que sur des photos de sites de rencontres, ce qui change quelque peu l'efficacité du tout. Reste que ce chercheur avait raison : la reconnaissance faciale est une technologie dangereuse pour notre vie privée. Mais pour le reste, c'est largement discutable (le papier se base sur une théorie des hormones prénatals qui détermineraient l'orientation sexuelle, par ex.).

Il est possible, par ex., que les gays aient tendance à poster des photos de meilleure qualité sur les sites de rencontres. Et que ce soit ça que le programme détecte. Reste qu'il sera sans doute un jour possible de repérer à coup sûr les homosexuels à partir d'une reconnaissance faciale.

Il est possible que des régimes moins tendres envers les LGBTQ+ s'en servent. La question que pose le docteur Kosinski, c'est : « si vous saviez que c'est possible, et que vous n'avez rien fait pour le montrer, pourriez vous vivre en paix avec vous-même ? »

En somme, c'est une question d'éthique qui, il me semble, méritait d'être posée.