Ce manifeste ne prétend absolument pas s’opposer au développement technologique lui-même, dont nous reconnaissons les avantages, mais il a pour but d’interpeler les autorités et la société civile sur le prix que l’humanité est en train de payer et les risques qu’elle assume si elle continue à accepter un paradigme de déploiement technologique sans discernement ni contrôle démocratique, et d’inciter à une action urgente afin de minimiser ce coût.

Pour conserver la liberté et la dignité des personnes en tant que valeurs cardinales dans un contexte d’asymétrie croissante entre technologie et être humain, les démocraties doivent réinventer profondément leur répertoire d’action et défendre ces droits avec plus de fermeté. Les efforts de certains États ou de l’Union Européenne en matière de protection des données ou à travers les déclarations de protection des droits digitaux (par exemple la Déclaration sur droits et principes numériques européens de mars 2023) sont dignes d’éloges mais doivent s’intensifier et changer d’échelle.

Nous sommes conscients du fait que cela suppose un véritable défi pour des systèmes politiques qui tendent à faire confiance à l’individu pour réguler des questions considérées comme privées. Nous sommes cependant face à des technologies qui ont pour effet collatéral d’annuler la liberté individuelle et d’affecter ce qui nous rend humains. Nous savons également qu’une grande partie des équilibres économiques et géostratégiques reposent désormais sur la compétitivité technologique, ce qui dissuade tout ce qui peut être perçu comme une entrave au développement technologique. Mais ce défi existentiel exige des solutions qui aillent au-delà des recommandations habituelles.

Quel que soit le niveau d’action politique, un changement de paradigme se produira uniquement si une véritable mobilisation citoyenne existe, exerçant une pression suffisante pour situer ces questions en haut de l’ordre du jour politique. Pour le moment, l’opinion publique est sans doute plus sensible aux avantages à court terme du développement technologique qu’à ses risques, qu’elle méconnait en grande partie. Des espaces de débat et d’échange parlementaire ainsi qu’au sein de la société civile sont impératifs pour peser les risques et les bénéfices du paradigme technologique qui prévaut actuellement et pour définir de façon conjointe les valeurs qui doivent orienter et encadrer ce développement.

Nous proposons d’explorer un spectre large de mesures pour répondre aux défis auxquels nous faisons face, parmi lesquels nous proposons :

• Mesures régulatoires juridiquement contraignantes, dont :

  • L’interdiction de la publicité micro-ciblée.

  • La protection constitutionnelle et transnationale des neurodroits (encadrement très strict de l’accès à notre activité neuronale et de la récolte de ses données avec la possibilité d’interférer dans notre activité mentale).

  • La promotion d’une législation internationale sur l’interdiction des armes létales autonomes ;

  • La poursuite d’une « désescalade technologique » dans les domaines où la technologie a un impact collectif négatif avéré et son déploiement présente un risque pour l’ensemble de la population.

  • Un droit à la déconnexion garantissant l’accès aux services – en particulier, publics – hors numérique.

  • L’obligation pour les compagnies technologiques de donner accès aux données qui permettent à des tiers, dans un cadre légal, d’analyser le fonctionnement de leurs plateformes et algorithmes de façon autonome.

  • L’élargissement de protocoles destinés à valider les standards étiques des algorithmes utilisés par les entreprises et les gouvernements.

• Mesures liées à la production industrielle et à la commercialisation :

  • La réintroduction et mise en valeur de la fonctionnalité Off dans la conception d’application et dispositifs technologiques.

  • Des processus beaucoup plus stricts pour mettre certains types de technologies disruptives sur le marché, tel que c’est déjà le cas dans les secteurs pharmaceutique ou agroalimentaire.

  • Des mesures pour former, informer et donner plus de pouvoirs aux consommateurs, investisseurs et professionnels pour mettre en valeur leurs exigences pour que la technologie soit alignée avec leurs droits et leurs intérêts.

• Mesures dans le domaine de la recherche et de l’éducation, telles que :

  • Un moratoire sur l’introduction indiscriminée de la technologie dans les écoles en-dessous d’un certain âge.

  • Une plus grande formation à différents stades de la vie sur la programmation et le fonctionnement général des algorithmes afin de réduire l’asymétrie entre la technologie et les individus.

  • Des actions systématiques visant les parents et tuteurs pour leur faire prendre conscience des risques auxquels les jeunes sont exposés.

  • La promotion d’études approfondies sur l’effet de technologies spécifiques sur l’individu et la société, en particulier en matière cognitive, sur le comportement, sur le bien-être et sur la liberté ;

  • L’adéquation de l’utilisation de dispositifs à l’âge de l’utilisateur, en particulier les smartphones et autres objets connectés.

Réguler l’innovation technologique est une tâche complexe et constitue, aux côtés de la crise écologique, le défi fondamental que l’humanité affronte actuellement. La question est trop importante pour permettre que le débat se heurte à des positions sectaires. La mobilisation ne peut attendre autant que dans le cas de l’environnement si on veut éviter d’arriver à un point de difficile retour. C’est pourquoi un consensus suffisant est urgent pour prendre rapidement des décisions rapides et efficaces pour répondre à la magnitude du défi et permettre à l’humanité de tirer parti de tous les avantages permis par la technologie sans que cela implique un coût démesuré comme s’il s’agissait de quelque chose d’inévitable.

Faisons urgemment ce qui est en notre pouvoir pour aider l’humanité à prendre son destin en main et assurer sa permanence en tant qu’espèce libre.​