Une algo pour cibler qui tuer

Les civils pakistanais sont-ils les premières victimes d’algorithmes tueurs ? Plusieurs médias se sont posé la question la semaine dernière, après la publication d’un article sur le site spécialisé Ars Technica. Rédigé par deux auteurs, dont Christian Grothoff, chercheur français en cybersécurité à l’Inria de Rennes, le papier assure qu’au Pakistan la NSA choisit les futures cibles de ses drones sur la base d’un algorithme. L’algorithme s’appelle Skynet, une référence à la série cinématographique « Terminator » où un robot bute tous les humains (oui, c’est fin de la part de la NSA...). Ainsi, pour établir la liste de ses victimes, la NSA aurait eu accès aux données de 55 millions de téléphones portables. Ce chiffre, énorme – il y a 181 millions d’habitants au Pakistan –, a été révélé en 2014 grâce aux fuites d’Edward Snowden. Afin d’analyser les 55 millions de téléphones, la NSA a mis en place un algorithme de type « machine learning » (en français, « apprentissage automatique »). C’est assez simple à comprendre : pour déceler de potentiels « terroristes » parmi les 55 millions de lignes, la NSA a, au préalable, analysé les mobiles de six terroristes connus au Pakistan. Plus précisément, elle a analysé les métadonnées, c’est-à-dire le journal des appels (qui appelle qui, qui est appelé par qui, la durée des appels), les positions GPS, etc. Cela a donné, en quelque sorte, six schémas types de téléphones de terroristes. Et ces six schémas ont servi de base de comparaison pour analyser les 55 millions de téléphones. Le problème, c’est que l’analyse de 55 millions de téléphones à l’aune de six modèles est ridicule. Les risques d’erreurs sont immenses. Selon Patrick Ball, expert scientifique au Human Rights Data Analysis Group, cité par Ars Technica, cet algorithme est complètement « foireux ». Bon, en fait, il est trop tôt pour poser cette question. En fin de semaine dernière, un article du Guardian a nuancé les informations d’Ars Technica. En réalité, l’algorithme ne cherche pas à établir le potentiel d’une personne à être terroriste mais à identifier les « messagers », c’est-à-dire ceux qui apportent des messages aux terroristes. Ces derniers sont parfois frileux à utiliser les moyens digitaux (tous ont en mémoire la trace de Oussama Ben Laden via ses messagers). Ainsi, l’algorithme développée par la NSA ne conduit pas à dresser la liste des « people to kill », signée hebdomadairement par Barack Obama, mais à constituer la liste des agents qui peuvent géographiquement conduire aux terroristes. Parmi ces « messagers », on trouve un journaliste : Ahmad Zaidan. Lui, c’est le rédacteur en chef du bureau d’Al Jazeera à Islamabad, capitale du Pakistan. L’algorithme l’a reconnu comme terroriste car il va à la rencontre des insurgés pour leur donner la parole aux news. Ce qui l’a un peu irrité. En soit, Ahmad Zaidan n’est pas un « messager » à proprement parler, mais il s’avère que, dans le cadre de son travail, il rencontre des « terroristes » recherchés par les Américains. Pour le Guardian, c’est une preuve que l’algorithme fonctionne – l’analyse de son téléphone a montré qu’il côtoyait des insurgés, et c’est ce que la NSA demandait à son algorithme – mais c’est aussi une preuve que l’algorithme n’est pas fin prêt à être utilisé. D’après les documents fuités, la NSA en serait d’ailleurs consciente. Il est écrit dans un PowerPoint présentant Skynet qu’il s’agissait encore de recherches. Quoi qu’il en soit, si les attaques de drones ne sont pas encore fondées sur des algorithmes, il est évident que cette éventualité est en train d’être étudiée. Et de toute façon, algorithme ou pas, il faut rappeler que c’est toujours l’humain qui est aux commandes des drones. C’est l’humain qui tue. Pas l’algo.