Affichage des articles dont le libellé est manipulation mentale. Afficher tous les articles
Affichage des articles dont le libellé est manipulation mentale. Afficher tous les articles

mercredi 12 décembre 2012

Quel totalitarisme pour demain ?

Il y a cinq mois de cela, un billet de ce blog avertissait que, de plus en plus, la science-fiction cesse d’être de la fiction pour devenir notre quotidien, et que ce n’est pas toujours une bonne chose. Le 31 octobre dernier, un billet du très intéressant blog Internet actu, tenu par trois journalistes associés au Monde, billet intitulé « Peut-on extraire des données de votre cerveau ? », allait dans le même sens.

De quoi s’agit-il ? Une étude menée par plusieurs chercheurs et présentée à la conférence sur la sécurité informatique Usenix montre qu’en utilisant un casque EEG, qui mesure l’activité électrique du cerveau, il est déjà possible d’obtenir des informations telles que le lieu de résidence de quelqu’un ou son code de carte bleue. Bien sûr, nous n’en sommes qu’aux balbutiements de cette technique : il n’est pas encore possible de connaître avec certitude et précision les opinions politiques du sujet ou de savoir ce qu’il faisait à une date donnée.

Mais au rythme où progressent les neurosciences et les biotechnologies, qui peut douter que ces étapes seront franchies très rapidement ? Une fois qu’on les aura atteintes, toute la question sera donc de savoir quel usage on fera de ce savoir-faire. Mais là encore, le doute n’est malheureusement guère possible : des armes à feu aux bombes atomiques en passant par les caméras de surveillance ou le flicage de la vie privée, les États et les puissants qui les dirigent ont toujours fait la preuve qu’ils étaient incapables de résister à la tentation ; à chaque fois qu’une technique plus développée apparaît, elle est utilisée par les hommes pour asseoir leur domination.

Et cela pour des coûts toujours moins importants ! Là où la Stasi devait employer (et donc payer) des milliers d’individus pour ouvrir et lire tout le courrier qui circulait en Allemagne de l’Est, les moyens modernes de contrôle du contenu des e-mails rendent la même chose possible à une bien plus grande échelle mais à un prix infiniment plus abordable.

Les totalitarismes du XXe siècle n’ont pas été faciles à renverser. Qu’en sera-t-il pour ceux de demain ? Que se passera-t-il lorsqu’il suffira d’enfoncer un casque sur la tête d’un résistant capturé pour extraire de lui toutes les informations qu’on désire obtenir ?

Et question corollaire : comment se fait-il que les gens ne se rendent pas davantage compte de ce danger que nous courrons ? Je crois que leur tranquillité se fonde sur deux idées. La première est que le totalitarisme ne reviendra pas et que notre régime démocratique est éternel. La seconde est que les régimes démocratiques n’utiliseront pas ces techniques à l’encontre des droits fondamentaux des citoyens.

Disons-le sans fard : au regard de l’Histoire, ces deux idées sont de pures illusions.

jeudi 5 juillet 2012

Quand la science-fiction cesse d’être de la fiction (et qu’on le regrette)


Coup sur coup, je viens de recevoir deux signes forts de la justesse de nos thèses. D’un côté, il est rassurant de voir que d’autres que nous sont conscients des dangers inouïs que nous fait courir la technique moderne ; de l’autre, chaque confirmation que nous avons raison est terriblement effrayante. À vrai dire, je préférerais me tromper.

La première confirmation est du domaine de la fiction : il s’agit de la série télé américaine Dollhouse. Cette excellente série, que je recommande à tous ceux qui ne l’ont pas vue (et pas seulement parce qu’elle est très ardorienne dans son inspiration, mais aussi parce que même en tant que simple série, elle est très bonne), raconte l’histoire d’une institution très particulière, la « maison de poupées » (dollhouse en anglais).

On y a développé la technique permettant de manipuler à volonté le cerveau des gens. Des « volontaires » y sont donc enfermés, leurs souvenirs et leur personnalité effacés ; régulièrement, on les programme pour effectuer une mission particulière, qui peut être une histoire d’amour, une histoire de cul, un assassinat, une négociation avec des terroristes ; les possibilités sont infinies. Évidemment, seuls de très riches clients peuvent se payer les services de la Dollhouse ; mais ils ont la garantie d’avoir la personne parfaite, exactement conforme à leur volonté, dotée de toutes les aptitudes, de toutes les compétences et même de tous les souvenirs nécessaires.

Bien entendu, cette technologie finit par dégénérer (assez rapidement) : certains l’utilisent pour implanter leur propre esprit dans le corps d’autres personnes et devenir immortels ; ils utilisent également plus ou moins les autres comme esclaves.

Ça, c’était pour la fiction. La seconde confirmation, malheureusement, est du domaine de la science. Il s’agit d’un article rédigé dans Le Monde Science et techno par le chirurgien Laurent Alexandre. Je précise qu’il ne s’agit pas du numéro du 1er avril. Que nous apprend M. Alexandre ? Grosso modo, que Dollhouse, c’est pour demain. Je le cite :

« Les enjeux [de la biologie de la conscience] sont immenses. D’une part, comprendre comment sont stockées nos émotions et nos mémoires […]. D’autre part, la technologie va permettre la manipulation de nos cerveaux.
La compréhension du fonctionnement cérébral et la cartographie de l’esprit humain progressent au rythme de l’augmentation des capacités informatiques. […] Récemment, on a pu reconstruire une pensée grâce au décodage des ondes enregistrées par des électrodes crâniennes. La technologie ira au-delà du décryptage des cerveaux : leur manipulation semble sans limite. […]
Les neurotechnologies pourraient devenir une arme fatale au service d’une ambition totalitaire. C’est une menace inédite contre la liberté : la police de la pensée sera technologiquement bientôt prête. L’ultime frontière de la domination des dictatures – l’esprit humain – serait pulvérisée : on n’ose imaginer ce que Staline, Mao, Pol Pot ou Hitler auraient fait des neurotechnologies. […] »

On n’ose, en effet. Mais Laurent Alexandre ne va pas au bout de son raisonnement. On comprend de mieux en mieux le fonctionnement du cerveau. Plus on le comprend, plus on peut agir efficacement dessus. En outre, d’autres branches de notre technique (comme les nanotechnologies) permettront sans doute d’accroître encore le contrôle qu’on pourra avoir sur lui à l’avenir. L’ensemble de notre système technicien est donc en train de mettre rapidement en place les outils qui permettront de contrôler le cerveau des gens, c’est-à-dire leur identité même.

À partir de là, la seule question valable est : peut-on espérer contrôler pareille technologie ? La réponse devrait s’imposer d’elle-même : non, de toute évidence. Laurent Alexandre parle de « neuroéthique », d’encadrement et de régulation ; c’est évidemment une chimère. Une technologie aussi puissante ne pourra pas être contrôlée ou encadrée. Elle sera très rapidement la cible de gens qui, par goût de l’argent ou du pouvoir, l’utiliseront pour dominer les autres. On croit souvent que les gens comme Hitler ou Staline sont des exceptions, mais c’est faux : beaucoup de gens sont capables des mêmes horreurs qu’eux pour peu qu’ils aient l’occasion et l’assurance de l’impunité.

Y a-t-il une échappatoire ? Elle est étroite. Puisque, une fois qu’elle sera présente, une telle technique ne pourra plus que nous échapper complètement, il faut l’empêcher d’apparaître. Non pas qu’elle soit mauvaise en elle-même, mais parce que l’humanité n’a, de toute évidence, pas atteint le degré de développement spirituel nécessaire à son bon usage.

De ce point de vue, il est extrêmement regrettable que les rares personnes qui comprennent ce péril mortel où nous nous trouvons soient ou bien tétanisés et incapables d’agir, ou bien confiantes dans les capacités de l’État, ou de la société en général, à le contenir.