Huaweï, l’IA de « Bienvenue à Gattaca »
En effectuant ma veille documentaire quotidienne, je me suis arrêtée sur l’ article de Science et vie [ref] https://www.science-et-vie.com/ [/ref] intitulé l’IA, la faille inattendue [ref] https://www.science-et-vie.com/archives/i.a.-la-faille-inattendue-41754 [/ref]. Cet article n’est pas directement en lien avec la Recherche mais il aborde le sujet de l’information et plus spécifiquement de l’intelligence artificielle.
Celle-ci présente des défauts ou du moins une faille qui peut engendrer un certain nombres d’erreurs dans la perception du monde que possède le robot ou la machine. Cette faille se situe simplement dans la taille des pixels que perçoit la machine dotée d’intelligence artificielle à la lecture d’une représentation donnée. Il suffit de modifier la valeur de deux ou trois pixels dans une image donnée pour que la machine ne perçoive plus du tout ce que représente cette image.
Dans l’introduction dudit article il est écrit : « Montrez lui une orange dont la valeur de quelques pixels a été changée et algorithme de reconnaissance visuelle y voit…un hélicoptère […] ».
En gros, l’intelligence artificielle et plus spécifiquement la reconnaissance faciale pose de sérieux problèmes que les chercheurs du MIT n’ont toujours pas réussi à résoudre après deux ans de recherches. Ces algorithmes de reconnaissance faciale sont pourtant réputés pour être les meilleurs au monde, écrit-on, et peuvent détecter la réalité avec 99 % de chance de réussite…moins une ! sic !
Maintenant, rendez-vous en replay sur l’émission de France 5 de mardi 14 janvier. [ref] https://www.franceinter.fr/emissions/capture-d-ecrans/capture-d-ecrans-14-janvier-2020 [/ref]. Il y était question de caméras Huawei et de reconnaissance faciale.
Il est de notoriété que la Chine a pris de l’avance sur les Etats- Unis en matière de guerre commerciale informatique et de recherche dans ce domaine. Ils sont sur le point d’envahir les réseaux de communication européens avec la 5G qui va révolutionner nos pratiques. Plus d’attente dans les moteurs de recherche. Sitôt le mot-clé tapé et validé, sitôt la réponse. Du tac au tac . Plus de délai dans les réponses à une recherche d’information. Plus de délai entre un ordre donné à la machine et un ordre exécuté par l’objet connecté. A l’image de la publicité où le père de famille fait une tarte aux pommes et où sa femme ordonne au four de s’allumer.
Bientôt l’heure des voitures sans conducteur, des avions sans pilote et des maisons connectées à qui il suffit de dire « ferme-toi » pour que la serrure s’enclanche. Malheureusement, le reportage nous indique aussi que Huawaï peut installer des logiciels espions dans ses matériels et faire migrer les données enregistrées vers la Chine. Et il cite l’affaire de l’Union Africaine [ref] https://www.franceinter.fr/emissions/capture-d-ecrans/capture-d-ecrans-14-janvier-2020 [/ref]. Toutes les nuits, les données de cette société éthiopienne partaient vers la Chine et notamment des enregistrements de réunions. C’est pour le moins ennuyeux.
Espionnage économique et politique pour Huawei qui communique en disant : Passez votre chemin, il n’y a rien à voir. On n’a rien fait. On n’est pas coupables ! Ses caméras de reconnaissance faciale équipent aujourd’hui gratuitement la ville de Valenciennes et voient passer beaucoup de monde dans les rues. Alors faut-il s’en inquiéter ? Où finit notre liberté et où commence celle de Huaweï ? Non seulement, notre image ne nous appartient plus car nous sommes sous surveillance mais en plus, les algorithmes qui dirigent ces caméras peuvent se tromper et déformer la réalité. Pour peu qu’un virus ne soit intégré volontairement ou par accident et fausse quelques pixels sur les images analysées, la confusion entre le visage d’un simple passant avec celui d’un dangereux terroriste devient possible.
Quid de notre liberté ? Quid de l’intégrité de notre identité ? Quid de notre sécurité ? Nous offrons gratuitement des données qui nous concernent et servent de marchandise économique, politique dans un mon de qui devient de plus en plus sécuritaire. Le XXe siècle, siècle de la donnée. Prenons garde de ne pas donner notre âme au Diable ?
image libre de droits
Mise à jour le 27/01/2020. Ce(tte) œuvre est mise à disposition selon les termes de la Licence Creative Commons Attribution – Pas d’Utilisation Commerciale – Partage dans les Mêmes Conditions 4.0 International.
