Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Septembre 2016 - n°416 - 287

Vous parliez de l'enfermement de l'utilisateur.
Aujourd'hui, nous ne sommes plus seulement
un utilisateur de services individuels, mais de
services « moi avec les autres », dans les réseaux
sociaux. Sur ces plateformes, les personnes ont
leur graphe social, leur carnet d'adresses, les
contenus qu'elles ont produits, etc. Les utilisateurs
accumulent des informations dont ils sont
co-producteurs, un patrimoine numérique qu'ils
ont contribué à construire soit avec leur réseau
d'amis, de connaissances ou professionnel.

Quand y-a-t-il déloyauté ?
Il y a tricherie lorsque les premiers liens d'un
moteur de recherche ou d'un comparateur
renvoient vers des sites qui ont payé plus cher
pour figurer en bonne position. Dans ce cas les
liens supposés être organiques, sont en réalité
de la publicité déguisée. Un peu comme un
publi-rédactionnel dans la presse écrite qui ne
dit pas son nom et se fait passer pour un article
journalistique. Or, les algorithmes de ces sites
sont des boîtes noires, donc comment savoir sur
quels critères ces liens ont été sélectionnés ?

S'ils souhaitent quitter le service ou la plateforme,
ils perdent toutes ces données. Imaginons qu'il
Certaines de ces boites noires pourraient être
existe un autre service tout aussi innovant, le
utilement ouvertes, lorsqu'il s'agit d'algorithmes
coût de la migration est
publics. Je vous rappelle
tel que personne ne le
le débat autour d'APB -
fait. C'est tout le problème « (en cas de besoin) Ces entreprises ont Admission Post Bac, le
de sites qui se veulent un
tendance à recréer un oligopole ou un logiciel d'affectation des
anti-Facebook
comme monopole, alors qu'elles se sont créées futurs étudiants
Diaspora ou Ello. Ils sont
dans une économie numérique très
plus respectueux de la vie
Il n'y a aucune raison
horizontale,
très distribuée, dotée de
privée des individus et de
que
ces
algorithmes
ressources ouvertes dans lesquelles
la protection des données
restent secrets puisqu'ils
elles ont pioché pour bâtir leurs
personnelles mais peu de
ne peuvent pas être
personnes les adopte car
manipulables. D'ailleurs la
richesses.. »
le terrain est largement
loi numérique qui devrait
occupé par Facebook. Nous
être définitivement adoptée
sommes face à un monopole de fait.
par le Sénat en septembre prochain prévoie
dans son article 2 que dans la cadre des relations
Par ailleurs, les algorithmes ont tendance à
administration/ citoyen, lorsqu'une décision qui
diminuer la liberté de choix de l'utilisateur, sa
le concerne sur le fondement d'un traitement
liberté de penser, d'imaginer, de fureter, au
algorithmique, il peut demander à connaitre les
nom d'un service de qualité. Prenons l'exemple
principales caractéristiques de ce dernier.
des moteurs de recherche. Ils proposent de la
publicité qui est censée correspondre à nos
La situation est tout autre pour un moteur de
goûts. Aujourd'hui, ils n'y arrivent pas ou très mal
recherche. Par nature, il doit rester secret sinon
de facto. Ce n'est pas vraiment prédictif, comme
chacun s'efforcerait de le fausser pour le faire
lorsque vous achetez un billet d'avion et que vous
jouer en sa faveur. Pour autant, le secret ne doit
recevez des publicités sur la même destination
pas autoriser n'importe quelle pratique.
pendant six mois après votre retour. Mais avec
le développement de l'intelligence artificielle,
Que peut-on faire pour imposer la loyauté des
on nous promet une publicité authentiquement
algorithmes ?
prédictive et personnalisée. Auquel cas la liberté
Plusieurs approches sont possibles. On peut
sera aussi limitée par l'enfermement, non pas
imaginer des contrôles sur le fonctionnement des
dans un « entre-soi » mais dans un « entre-moi ».
algorithmes comme il existe des contrôles sur les
Si l'intelligence artificielle tient ses promesses,
traitements de données personnelles effectuées
nous risquons de perdre la sérendipité, qui était
par la Cnil. Au Conseil national du numérique,
au départ la magie du web, nous permettant
nous avions exploré l'idée d'une sorte de
d'aller par tâtonnements, par butinage là où
commissaire des algorithmes, comme il existe
l'on ne pensait pas arriver. Plus on nous propose
des commissaires aux comptes, avec une double
des contenus censés correspondre à nos goûts,
compétence de data scientist et de juriste.
plus on risque d'aller contre cette appétence au
On avait également envisagé une sorte de
butinage, et ainsi de ne plus sortir de nos zones
vigilance collective qui consisterait à mettre
de confort culturelles, ne pas aller vers une forme
en place un site web sur lequel les personnes
d'hétérogénéité sociale, d'aspiration à la curiosité.
pourraient
dénoncer
des
comportements
On ne peut pas dire que ce soit déloyal, mais
déloyaux des plateformes. Cela pourrait avoir un
c'est un biais qui peut avoir des conséquences
impact dans la mesure où ces dernières sont très
sociales et sociétales importantes.
sensibles à leur réputation.
EXPERTISES SEPTEMBRE 2016

287

Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Septembre 2016 - n°416