Le big data : du service à l’asservissement

Entre déterminisme et soumission volontaire, les données de masse interrogent nos libertés fondamentales. Des préoccupations toutes philosophiques !

9276962702_57d9bfddd4_o

Crédit : Jeremy Keith (CC BY 2.0)

« Nous fabriquons ces calculateurs, mais en retour ils nous construisent », avertit le sociologue Dominique Cardon. Il paraît urgent de dépasser notre fascination pour l’efficience du big data dans différentes filières. Ici, des CV sont analysés par des robots, tandis que la masse salariale est pilotée par des algorithmes censés anticiper les départs à la retraite. Là, dans l’aéronautique, les données massives et connectées entraînent une baisse considérable du temps d’identification et de localisation de l’origine d’une panne. Quant à nous, flattés dans nos goûts par les suggestions personnalisées issues des bases de données, nous consommerions plus et mieux.
En somme, les données de masse seraient de meilleures données, pour optimiser la gestion des risques : « big data is better data ». Ainsi, jusque dans les institutions, on voudrait pouvoir se reposer sur les algorithmes pour prévenir la criminalité, aux Etats-Unis comme en Europe.

Les algorithmes, mieux que l’intuition ?

Le « big détail » dans ces affaires, c’est la possibilité de glisser du service à l’asservissement. Le Conseil d’État et la Cnil ont relevé qu’il existe un risque d’enfermement des individus sur eux- mêmes, qui rappelle la prophétie de Tocqueville sur le despotisme doux : « cette foule innombrable d’hommes semblables et égaux tournant sur eux-mêmes à la recherche de vulgaires plaisirs dont ils emplissent leur âme ». Et l’abus devient manifeste, lorsqu’une discrimination s’avère fondée, par exemple, sur des fichiers non purgés. Depuis la collecte (questions de la loyauté et de la licéité) jusqu’à l’usage (détournement de finalité), l’utilisation à des fins commerciales des données personnelles reste souvent pratiquée sans le consentement exprès des consommateurs.

Une autre inquiétude naît des vols de données et autres cyberattaques (tels que révélés dans la dernière édition de la Revue de la gendarmerie nationale), qui conduisent au déferlement, sur la place publique, d’informations censées rester privées. Enfin, s’agissant de la délinquance, l’homme reste « une enclave d’inattendus et de métamorphoses » disait René Char. Alors, le passage à l’acte est-il seulement certain, voire décelable dans le cyberespace ? Et quid de la présomption d’innocence ?

Les questions éthiques et juridiques soulevées par les algorithmes prédictifs sont identifiées, mais pas résolues, entre bataille normative (liée à la souveraineté et à la géopolitique), impossibilité technique et surtout désintérêt pour ces sujets d’une grande partie de la population. Si, malgré tout, les opportunités du big bata demeurent séduisantes, il reste à sensibiliser les élites comme les citoyens, pour que chacun prenne conscience, au minimum, de ce qui relève de sa vie privée : celle qui ne doit pas devenir numérique.

Cyril K.

Advertisements

3 réflexions sur “Le big data : du service à l’asservissement

Les commentaires sont fermés.