Quand la science-fiction cesse d’être de la fiction (et qu’on le regrette)

Coup sur coup, je viens de recevoir deux signes forts de la justesse de nos thèses. D’un côté, il est rassurant de voir que d’autres que nous sont conscients des dangers inouïs que nous fait courir la technique moderne ; de l’autre, chaque confirmation que nous avons raison est terriblement effrayante. À vrai dire, je préférerais me tromper.

La première confirmation est du domaine de la fiction : il s’agit de la série télé américaine Dollhouse. Cette excellente série, que je recommande à tous ceux qui ne l’ont pas vue (et pas seulement parce qu’elle est très ardorienne dans son inspiration, mais aussi parce que même en tant que simple série, elle est très bonne), raconte l’histoire d’une institution très particulière, la « maison de poupées » (dollhouse en anglais).

On y a développé la technique permettant de manipuler à volonté le cerveau des gens. Des « volontaires » y sont donc enfermés, leurs souvenirs et leur personnalité effacés ; régulièrement, on les programme pour effectuer une mission particulière, qui peut être une histoire d’amour, une histoire de cul, un assassinat, une négociation avec des terroristes ; les possibilités sont infinies. Évidemment, seuls de très riches clients peuvent se payer les services de la Dollhouse ; mais ils ont la garantie d’avoir la personne parfaite, exactement conforme à leur volonté, dotée de toutes les aptitudes, de toutes les compétences et même de tous les souvenirs nécessaires.

Bien entendu, cette technologie finit par dégénérer (assez rapidement) : certains l’utilisent pour implanter leur propre esprit dans le corps d’autres personnes et devenir immortels ; ils utilisent également plus ou moins les autres comme esclaves.

Ça, c’était pour la fiction. La seconde confirmation, malheureusement, est du domaine de la science. Il s’agit d’un article rédigé dans Le Monde Science et techno par le chirurgien Laurent Alexandre. Je précise qu’il ne s’agit pas du numéro du 1^er avril. Que nous apprend M. Alexandre ? Grosso modo, que Dollhouse, c’est pour demain. Je le cite :

« Les enjeux [de la biologie de la conscience] sont immenses. D’une part, comprendre comment sont stockées nos émotions et nos mémoires […]. D’autre part, la technologie va permettre la manipulation de nos cerveaux.

La compréhension du fonctionnement cérébral et la cartographie de l’esprit humain progressent au rythme de l’augmentation des capacités informatiques. […] Récemment, on a pu reconstruire une pensée grâce au décodage des ondes enregistrées par des électrodes crâniennes. La technologie ira au-delà du décryptage des cerveaux : leur manipulation semble sans limite. […]

Les neurotechnologies pourraient devenir une arme fatale au service d’une ambition totalitaire. C’est une menace inédite contre la liberté : la police de la pensée sera technologiquement bientôt prête. L’ultime frontière de la domination des dictatures – l’esprit humain – serait pulvérisée : on n’ose imaginer ce que Staline, Mao, Pol Pot ou Hitler auraient fait des neurotechnologies. […] »

On n’ose, en effet. Mais Laurent Alexandre ne va pas au bout de son raisonnement. On comprend de mieux en mieux le fonctionnement du cerveau. Plus on le comprend, plus on peut agir efficacement dessus. En outre, d’autres branches de notre technique (comme les nanotechnologies) permettront sans doute d’accroître encore le contrôle qu’on pourra avoir sur lui à l’avenir. L’ensemble de notre système technicien est donc en train de mettre rapidement en place les outils qui permettront de contrôler le cerveau des gens, c’est-à-dire leur identité même.

À partir de là, la seule question valable est : peut-on espérer contrôler pareille technologie ? La réponse devrait s’imposer d’elle-même : non, de toute évidence. Laurent Alexandre parle de « neuroéthique », d’encadrement et de régulation ; c’est évidemment une chimère. Une technologie aussi puissante ne pourra pas être contrôlée ou encadrée. Elle sera très rapidement la cible de gens qui, par goût de l’argent ou du pouvoir, l’utiliseront pour dominer les autres. On croit souvent que les gens comme Hitler ou Staline sont des exceptions, mais c’est faux : beaucoup de gens sont capables des mêmes horreurs qu’eux pour peu qu’ils aient l’occasion et l’assurance de l’impunité.

Y a-t-il une échappatoire ? Elle est étroite. Puisque, une fois qu’elle sera présente, une telle technique ne pourra plus que nous échapper complètement, il faut l’empêcher d’apparaître. Non pas qu’elle soit mauvaise en elle-même, mais parce que l’humanité n’a, de toute évidence, pas atteint le degré de développement spirituel nécessaire à son bon usage.

De ce point de vue, il est extrêmement regrettable que les rares personnes qui comprennent ce péril mortel où nous nous trouvons soient ou bien tétanisés et incapables d’agir, ou bien confiantes dans les capacités de l’État, ou de la société en général, à le contenir.