Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juin 2017 - n°425 - 207

Focus

arcelo Lanca, chercheur en neuroéthique
à l'université de Bâle,
et Roberto Andorno,
professeur de droit à l'université de
Zurich, ont lancé un appel à l'établissement de droits fondamentaux
pour protéger les individus contre
les dangers des neurotechnologies
et interdire l'accès, la collecte, le
partage et le traitement à notre insu
des données produites par notre
cerveau. De la science-fiction ?
Peut-être pas pour longtemps : les
technologies neuronales pourraient
se déployer plus vite que l'on croit.
Google, Facebook, Kernel, Elon Musk
via Neurolink, etc. en sont convaincus
et investissent dans ce domaine.
En 2006, Microsoft déposait déjà un
brevet portant sur la reconnaissance
des états mentaux d'une personne à
partir de l'activité électrique de son
cerveau. La finalité était d'étudier la
manière dont les utilisateurs interagissent avec l'ordinateur pour évaluer
et optimiser les interfaces de ses
logiciels. Dix ans plus tard, on parle
désormais d'interfaces homme-machine qui permettent aux cerveaux
et aux ordinateurs de communiquer
directement, sans clavier ni micro.
Jusque-là cantonnées aux applications médicales, ces neurotechnologies pourraient concerner l'Humanité
entière. En tout cas, c'est l'ambition
des sociétés du numérique.
Lors du F8 2017, le grand événement de Facebook réunissant développeurs et entrepreneurs autour
des technologies d'avenir, le réseau
social a annoncé qu'il développait
des techniques nouvelles de communication cérébrale, sans passer
par une interface matérielle. Selon
Regina Dugan, directrice de l'équipe
de R & D de Facebook, « nous avons
pour objectif de créer un système
de discours silencieux capable de
taper 100 mots par minute et directement commandé par le cerveau.
C'est cinq fois plus rapide que ce
que vous tapez aujourd'hui sur
votre smartphone. Il ne s'agit pas
de décoder les pensées des utilisateurs », prévient-elle. Pour ce faire,
Facebook n'utiliserait pas d'implants
mais l'imagerie optique et l'électroencéphalographie. De son côté,

Données personnelles

Menace sur notre
intégrité mentale

Face aux développements des neurotechnologies, deux chercheurs anticipant les
menaces sur notre liberté individuelle et
notre libre arbitre, plaident pour l'adoption
de quatre droits fondamentaux.
Elon Musk co-fondateur de Paypal,
à l'origine de Tesla et de SpaceX se
lance dans les neurotechnologies en
investissant dans Neurolink, dédiée à
la recherche médicale sur le cerveau.
S'il est question de traiter les maladies de Parkinson, Alzheimer ou
certaines dépressions, le multi-entrepreneur envisage d'améliorer
les performances du cerveau grâce
aux interfaces homme-machine.
On se souvient de sa mise en garde
contre les dangers potentiels de l'intelligence artificielle pour l'espèce
humaine. La seule possibilité de lutter
contre les dérives potentielles de l'IA,
selon lui, consisterait à booster nos
capacités cognitives.
Si la possibilité de connecter l'homme
à la machine est vue comme l'arme
contre l'IA par Elon Musk, elle en
inquiète d'autres qui entrevoient la
possibilité de contrôler les cerveaux,
à l'insu des personnes. Ces technologies en sont encore au stade de
développement, mais elles soulèvent
d'ores et déjà de lourdes inquiétudes sur les risques d'intrusion, de
manipulation ou de formatage des
esprits par la machine, constituant
ainsi une menace pour la liberté
personnelle et le libre arbitre. Dans
leur article publié le 26 avril dernier1,
Marcelo Lanca et Roberto Andorno
questionnent les outils juridiques à
notre disposition et concluent à leur
inadaptation. Pour se protéger contre
l'utilisation abusive de nos informations cérébrales, ils ont donc imaginé
quatre droits. Le premier porte sur
la liberté cognitive, à savoir le droit
d'utiliser ou de refuser la stimulation
cérébrale ou toute autre technique
destinée à modifier l'état mental. Le

EXPERTISES JUIN 2017

deuxième vise à protéger la confidentialité mentale, de façon à interdire la
lecture des pensées sans le consentement préalable de la personne. Il
s'agit-là d'instaurer un droit à la vie
privée et à l'intimité mentale. Ensuite
un troisième droit entend préserver
l'intégrité mentale et envisage les
dommages physiques ou mentaux
causés par une intrusion, lors d'une
communication homme-machine.
Les auteurs entendent ainsi sanctionner toute modification, même involontaire, de l'état mental d'une personne,
sa structure et son contenu. Enfin, le
quatrième droit est destiné à garantir la continuité psychologique de la
personne, de façon à ce que cette
dernière reste la même malgré le
recours à ces neurotechnologies lors
de traitements à des fins médicales.
Les chercheurs visent ainsi l'interdiction d'application d'objets qui altèreraient la personnalité.
L'être humain mentalement augmenté n'est pas encore pour demain
et ces réflexions juridiques futuristes peuvent sembler prématurées. Mais comme l'indique
Marcelo Lanca, « il est toujours
trop tôt pour évaluer une technologie jusqu'à ce que soudainement,
l'on s'aperçoit qu'il est trop tard ».
En attendant, indique Hubert
Guillaud, dans son article « Comment
protéger
nos
cerveaux
du
piratage ? »2, la menace de la lecture
de nos réactions émotionnelles pour
nous influencer se rapproche, sans
avoir à capter nos ondes cérébrales.
(1)
(2)

Life Sciences, Society and Policy, (2017) 13:5
Internetactu.net

Sylvie ROZENFELD

207

http://www.Internetactu.net

Table des matières de la publication Expertises des Systèmes d'information - Le mensuel du droit de l'informatique et du multimédia - Juin 2017 - n°425