Par Guillaume Nicoulaud.
Au chapitre des fausses bonnes idées en matière de lutte antiterrorisme, la surveillance de masse – ou le chalutage si vous préférez – continue manifestement à faire rêver celles et ceux qui nous gouvernent ou prétendent le faire. Au-delà des évidentes questions morales que ce type de système pose, il y a un aspect qui semble ne pas être encore tout à fait évident pour tout le monde : la surveillance de masse, ça ne fonctionne pas.
Je reposte un papier initialement publié le 10 avril 2015 qui faisait suite à cet article.
« La grande question que nous devrions tous nous poser est : sachant que notre système de surveillance vient de générer une alerte, quelle est la probabilité qu’il ait effectivement repéré un terroriste ?
Quelle probabilité de repérer un terroriste ?
« Pour répondre à cette question, nous allons devoir faire appel au théorème de Bayes et évaluer trois probabilités :
« Primo, la fréquence de base ; c’est-à -dire la proportion de terroristes dans la population – le chiffre de 3 000 individus circule ce qui, rapporté à la population française âgée de 20 à 64 ans (37,8 millions d’individus1) nous donne une fréquence de base de l’ordre de 0,008%.
« Deuxio, le taux de précision du système de surveillance ; c’est-à -dire la probabilité qu’un terroriste génère effectivement une alerte – par hypothèse, nous allons retenir un taux extrêmement élevé de 99%.
« Tercio et pour finir, nous avons également besoin du taux d’erreur ; c’est-à -dire de la probabilité qu’un innocent soit accusé à tort par le système – prenons, là encore, une hypothèse très optimiste de 1%.
« Ce que nous dit le théorème de Bayes c’est qu’avec ces paramètres, la probabilité qu’une alerte ait effectivement identifié un terroriste est de l’ordre de 0,78%. Non, ce n’est une typo : concrètement, notre système va générer 380 940 alertes dont 2 970 vrais positifs (99% des 3 000 terroristes) et 377 970 faux positifs : soit 1% des 37 797 000 citoyens innocents comme vous et moi.
« En d’autres termes, même en prenant des hypothèses hautement irréalistes quant au taux de précision et au taux d’erreur d’un hypothétique système de surveillance de masse, on aboutit à rien d’autre qu’une déperdition colossale d’énergie. La surveillance de masse en matière d’antiterrorisme est statistiquement impossible. »
—
- Au 1er janvier 2015 selon l’Insee. ↩
Oui mais si le fait d’arrêter un seul terroriste peut permettre de sauver un grand nombre de vie, le jeu en vaut la chandelle !
1. Vous n’avez pas dû lire l’article, ou vous ne l’avez pas compris: la surveillance de masse, donc automatisée, ne PEUT PAS marcher, c’est mathématique. En prenant les chiffres de l’auteur, « optimistes », on arrive à 2 970 vrais positifs pour 377 970 faux positifs! Ça veut dire que les enquêteurs devront vérifier « à la main », un par un, ces 380 940 alertes, si elle ne veut pas mettre en taule 377 970 pour choper 2 970 terroristes.
Vous n’arrivez pas à comprendre que ce n’est pas réaliste?
2. Avec ce genre d’argument, on peut justifier une dictature: « si ça peut sauver des vies, le jeu en vaut la chandelle ».
… et il suffit qu’un pour cent des innocents qu’on a arrêtés (1/100 de 377000) le prenne mal et vire terroriste pour qu’on se retrouve avec 2 fois plus de terroristes qu’avant !
D’autant plus qu’on part de l’hypothèse qu’on a réussi à scanner les 38 millions d’individus adultes vivant en France…ce qui n’apparait déjà pas réaliste. Donc en réalité, les chances de choper un terroriste sont nulles et les chances de vérifier et poursuivre des profils de personnes parfaitement innocentes sont immenses.
OUI ! Mais pour espérer d’avoir une (toute petite) chance d’être réélu, il faut bien flatter la bête (vox populi) dans le sens du poil quitte à mentir une fois de plus.
Je partage cet avis. Les « décideurs » politiques ne répondent généralement aux problèmes que par des mesures de caractère général qui dérangent tout le monde comme, par exemple, la fouille des sacs. C’est le fait d’une incompétence et d’un simplisme intellectuel qui caractérisent le corps politique et sa distance d’avec la réalité. C’est clair aussi pour les problèmes de circulation où ils sanctionnent tous les conducteurs alors que les cas répréhensibles sont minoritaires. Dans les situations d’islamo-fascisme ( ils disent terrorisme, terme par lequel les nazis désignaient les résistants pendant la dernière guerre ) il faut prévoir que les acteurs d’actes criminels seront de plus en plus dissimulés et difficiles à repérer. Désigner explicitement l’ennemi est démocratique du fait que s’exprimer clairement aide à la compréhension des choses et situations par les peuples et à la résolution des problèmes posés.
Merci de veiller à la correction de l’expression française, à la clarté du propos rendus confus par l’emploi d’idiolectes: que veut dire, par exemple, « Non, ce n’est une typo » ?
C’est celui qui a dit « Le BEAU BLOG BLEU (post néo) réfléchit avant d’y penser. Composé d’oreilles d’yeux de peau et d’encéphale il est bleu et maintient toujours son quant à soi un poil au dessus du vide. Le dé est sa raison. Pourquoi s’encombrer de plus de pinceaux ? Le blog bleu est un bol digeste de salade stochastique façon pizza ou niçoise. Tout un univers. »
Qui demande plus de clarté dans le propos? Pour le moins caucasse ^^
Allez papy Gloubiboulga, je t’eclaire: « typo », cela veut dire « faute de frappe ».
S’il n’y avait que 3000 terroristes, il n’y aurait guère de problèmes. Le malheur c’est qu’il y a bien plus de sympathisants les aidant au moins passivement et prêts à basculer du coté obscur. Les terroristes vivent sur un écosystème, notamment des trafics en tous genre (drogue, armes, vols divers) de la petite délinquance, des incivilités…Que l’on s’attaque à cet écosystème et ses bases arrières (cités interdites à la police !) et cela ira beaucoup mieux. La surveillance de masse est peut être inefficace sur la pointe de la pyramide mais elle peut l’être sur sa base qui est d’une taille suffisante pour que Bayes ne conduise pas à des chiffres ridicules.
J’ajoute que si sur 100 suspects il y avait près de 1 coupable, cela ne serai pas si inefficace que cela. La surveillance de masse n’aurait fait qu’un premier tri, interrogatoire et recherche d’indice ferait la suite.
Quand on ne veut pas comprendre, on ne veut pas comprendre. Le système engendre tellement d’alertes qu’il est matériellement impossible de traiter le résultat du « premier tri ». Je rappelle que les cellules antiterroristes manquent déjà de personnel pour enquêter sur les véritables alertes.
Tout dépend du temps de travail nécessaire pour traiter chaque alerte. Un partie peut être automatisée. Exemple un suspect est repéré rodant autour d’une cible potentielle, il a été également repéré plusieurs fois dans les périodes précédentes. La probabilité que le suspect prépare quelque chose est évidemment renforcée. A contrario, si le suspect est identifié et a des antécédents très favorables (pas de condamnation, emploi stable, pas de déménagement récent…) la probabilité qu’il soit coupable s’approche de zéro. Les moyens humains sont bien évidemment limités mais rien n’empêche d’ajuster ses ambitions aux moyens disponibles. Si on n’en a pas assez pour repérer 99% des terroristes, il faut fixer (provisoirement) la barre moins haut. Il y a aussi un équilibre à trouver entre les moyens au service des techniques disponibles et les moyens à mettre au service de leur amélioration. Les techniques progressent à pas de géant. La reconnaissance faciale s’améliore, la reconnaissance des comportements suspects progresse aussi. L’interconnexion des fichiers génère une efficacité redoutable…
Bref des choses sont possibles mais il n’y a évidemment pas de solution miracle facile basée simplement sur des cameras.
Pour les cibles, n’importe qui ou n’importe quoi peut être une cible potentielle.
Ce que vous en comprenez pas c’est que c’est le principe même qui est une hérésie et donc est nul et non avenu de par sa nature. Les amélioration techniques de ces moyens n’arrangent d’ailleurs en rien et augmentent même l’ocurrence de faux positifs. Un cas très explicite par exemple c’est celui du dépistage des cancers :
http://www.jaddo.fr/2016/06/19/et-mes-fesses-elles-sont-roses-mes-fesses/
« Une partie peut être automatisée.
On vient de vous dire que c’est cette automatisation qui va faire procéder à l’arrestation de 377 000 personnes.
Vous donnez des exemples, en voici un bien reel:
Un iranien qui se deplace a Bruxelles avec une veste par cette canicule: suspect. En plus, on voit des fils electrique sous sa veste: encore plus suspect. Les flics veulent l’interpeler, il ne coopere pas: tres tres suspect. Resultat on bloque tout un quartier pendant 5 heures, on incacere le gars en question. (c’est deja bien qu’il n’a pas recu une balle en pleine tete; non? Un vrai terroriste!)
Au final, on apprend qu’il ne coopere pas avec les flics, car il ne parle pas francais ou neerlandais. Et les flics ne parlent pas anglais.
C’etait juste un etudiant en doctorat qui faisait une experience de physique.
Si vous voulez augmenter la « sensibilite » (vrai positifs) des methodes de detection (automatique ou non, la question n’est pas la), alors vous augmenterez aussi les faux positifs, et l’augmentation est beaucoup plus rapide car la plupart des gens sont innocents.
Donc si vous voulez boucler tous les quartiers des grandes villes un jour sur deux, c’est le meilleur moyen.
Non, ça ne marche pas, les dommages causés par les 377970 poursuites injustifiées sont bien supérieurs aux dégâts créés par les 2970 terroristes et sympathisants. Le même paradoxe se retrouve dans les campagnes de détection d’affections médicales : les chances de subir ‘une infection nosocomiale au cours de l’examen ou en cas de faux positif sont de 5% (taux moyen français actuel), donc pour 100 cas suspects vous en rendez 5 malades pour de bon, alors qu’il n’y en avait qu’un à traiter au départ.
Exact. On peut également y rajouter le risque de faire passer certaines personne de l’autre côté de la barrière.
Etrange démocratie où les citoyens doivent servir et protéger l’administration. Pour que nos oligarques se rendent compte de l’état de notre pays EXIGEONS qu’ils deviennent des citoyens « normaux » sans gardes rapprochés, sans voitures et logements de fonction et que toutes leurs promesses soient couvertes avec leur argent.
Les chiffres ne sont pas justes et les bases sont tronquées. Pour s’en rendre compte sans réussir à obtenir les réels chiffres, il suffit déjà d’évaluer le nombre de personnes infiltrées pour faciliter la possibilité d’attaque par les terroristes de quelques natures que ce soient.
Ensuite, la masse peut être une des solutions pour détecter des individus suspects dont des terroristes si on a derrières les caméras des gens formés au profilage tout simplement. En France, c’est aléatoire, plus ou moins professionnels selon des critères non adéquates au terrain. Sachant que le métier de profiler n’est pas reconnu, sauf à faire l’amalgame avec des criminologues qui font des profils psychologiques.
Enfin, nous agissons en répondant au coup soit en subissant, y compris en cybercriminalité. Nous sommes peu dans le prédictif, ce qui est exactement une des résultantes de l’application de mon métier.
Surveiller en masse est un complément pour des agents bien formés au profilage. Mais la surveillance ne doit pas se faire que sur un seul axe, mais à tous les niveaux.
Si en France on faisait confiance à des « nouveaux métiers », je mets entre guillemets car le mien existe depuis minimum 80 ans, les résultats seraient meilleurs sans forcément aller chercher à l’étranger ce qu’on a sur le territoire
Le contrôle « au faciès » est interdit en France, de jure ou de facto. La police, si elle s’y livre, est considérée faire preuve de mauvaises intentions et non d’intelligence. Celles et ceux qui ont obtenu ce résultat peuvent être considérés comme ayant fait preuve de bonnes intentions et de non-intelligence, au mieux.
Tout ceci est un faux problème. Au-dela des arguments mathématiques il est évident qu’on ne peut surveiller 65 millions de français dans leur vie privée sans y mettre en face un nombre incalculable de « surveillants » humains.
Pensez-vous raisonnablement qu’un « surveillant » puisse suivre 10 personnes à la fois 24 h sur 24, 365 j/an? Le simple bon sens vous dira que non.
Ok, alors confions cela à des machines, des ordinateurs avec des programmes sophistiqués. Bon, et qui va définir les algorytmes, les paramètres a retenir, les conditions à remplir? Impossible, surtout quand vous voyez le Président de la R&publique refuser de nommer les terroristes.
Alors me direz-vous, pourquoi ont-ils fait cela? Tout simplement pour essayer de classifier la population, non pas face au terrorisme, mais face à leur bulletin de vote. Il est tellement tentant de pouvoir pré-supposer les vote des citoyens, et agir en conséquence. Et savoir que dire et que faire pour se faire ré-élire.
« Ok, alors confions cela à des machines, des ordinateurs avec des programmes sophistiqués…. »
C’est exactement ce que dit l’article. Vos algorithmes sophistiqués sont ceux qui sont fiables à 99% et qui jettent néanmoins la suspicion sur 377000 personnes « innocentes ». Il n’y a pas de faux problème.