Dans son nouvel essai philosophique et géopolitique, le Dr Idriss Aberkane, entrepreneur social 4.0 et expert en neurosciences appliquées, invite les entrepreneurs à se préparer et à faire confiance à leur capacité d’adaptation face aux nouveaux enjeux de l’Intelligence Artificielle. Renversant.

Pourquoi est-ce essentiel de rappeler et de démontrer que l’Humain est supérieur à ses créations ?

Idriss Aberkane : En préalable, si vous me permettez de le préciser, dans tous mes essais, j’essaye de trouver le bon équilibre entre l’information neuroscientifique et la vulgarisation. En réalité, j’essaye d’appliquer ce que disait Nassim Nicholas Taleb : « Un livre qui ne vaut pas la peine d’être relu, ne vaut pas la peine d’être lu ». J’essaye donc toujours de trouver l’équilibre entre les passages qui nécessitent une relecture et ceux qui peuvent être compris immédiatement. Maintenant, pour répondre à votre question, oui, vous avez parfaitement résumé la philosophie de mon dernier livre. D’ailleurs, à la fin de la vie de penseurs, philosophes ou chercheurs, on résume souvent leur pensée à une seule grande idée. Me concernant, s’il n’y avait qu’une seule grande idée à laquelle je voudrais être associé à la fin de ma vie, c’est « l’Humain est supérieur à ses créations ».

C’est ce que je martèle dans tous mes ouvrages. Vous savez, quand une personne veut complimenter quelqu’un, elle lui dit souvent « Ton cerveau, c’est un ordinateur ! ». Je dis au contraire que ce n’est pas un compliment, car le cerveau humain est bien plus puissant et adaptable qu’une machine. On fait trop souvent l’erreur de réduire l’homme à une machine. Et si on fait cela avec l’Intelligence Artificielle (IA), ça va être très grave. Car si on ajoute les implants – je pense notamment à Neuralink, le projet d’Elon Musk – on va ramener l’humain à une machine, donc on va aller vers un point de non-retour et se perdre en fait. C’est ça le grand message du livre, on est dans un contexte technologique où l’Humain peut perdre son identité.

Notre société et notre système éducatif voudraient nous cantonner à une seule forme d’intelligence, celle des « premiers de la classe ». A contre-courant, vous dites « l’intelligence, c’est décider ». Expliquez-nous.

I.A. : Oui et on a plein d’études qui le démontrent. L’intelligence du premier de la classe, c’est répéter quelque chose pour laquelle il a été entraîné. Même en Intelligence Artificielle, ce n’est pas une intelligence de meilleure qualité. En IA, il y a deux grandes formes d’apprentissage : l’apprentissage « supervisé » et l’apprentissage « non supervisé ». L’apprentissage supervisé, c’est quand le programmeur sait ce qu’il doit récompenser dans la machine. Exemple sur internet, quand vous devez prouver que vous n’êtes pas un robot en cliquant sur des images comme celles des feux rouges par exemple, ça c’est de l’IA à base d’apprentissage supervisé, donc de l’IA de moindre qualité.

L’IA qui va être la plus chère demain, c’est de l’IA créative, capable de déposer des brevets. Or la définition d’un brevet, elle est très simple, c’est quelque chose que personne n’a jamais fait. Dans notre système actuel, on ne peut donc pas former un futur déposeur de brevet à l’école, et c’est effrayant en fait, parce que c’est de cela qu’on a vraiment besoin. On a besoin de gens qui vont dessaler la mer, de gens qui vont reverdir le désert, de gens qui vont nous permettre d’avoir de l’énergie quasiment gratuite, etc.

Et la vraie intelligence, elle est là, dans l’adaptation, l’invention. Or à l’école, on ne peut pas superviser l’invention et l’adaptation. La seule supervision que l’on peut donner aujourd’hui, et encore pas toujours, c’est l’inspiration. Malheureusement, notre éducation nous réduit à l’apprentissage supervisé, le niveau le plus bas de notre intelligence et de nos capacités pourtant immenses.

La base du carré scientifique, c’est « essai – erreur – correction – reproduction ». Vous dites pourtant que l’école confond toujours « note » et « correction » ?

I.A. : Oui, complètement et ça, c’est terrible. Un prof, il est en général bloqué par le système. Chaque fois qu’il corrige, il est toujours sous la contrainte que sa carrière c’est sa hiérarchie qui lui donne. Il n’a pas de compte à rendre à ses élèves et à leurs parents d’un point de vue administratif, alors que c’est à eux qu’il devrait rendre des compte ! Bien entendu, il y a de très bons profs qui ne fonctionnent pas ainsi, mais cela ne va pas forcément les aider dans leur carrière. On parle pourtant de l’école de la République, ce qui veut dire « chose publique ».

Les très bons professeurs, même quand ils sont mûs pas une vraie vocation, vont se retrouver mis en minorité parce qu’on va passer sur eux le rouleau compresseur de l’administration. Ce que leur demande leur hiérarchie administrative avant tout, ce sont des notes et non un effort de correction. Le problème, c’est que la correction et la note, ce n’est pas la même chose, ça n’a pas la même fonction, et c’est pour cela que certains pays ont aboli la note qui n’est qu’un outil fiduciaire et non pas un outil éducatif.

Vous écrivez que l’intelligence, c’est l’équilibre subtil entre « l’exploration qui est créative » et « l’exploitation qui est normative ». On peut aussi l’adapter au monde de l’entreprise ?

I.A. : Bien sûr ! Ce n’est pas que notre cerveau favorise l’exploitation, c’est que notre système éducatif ne sait administrer que l’exploitation, parce qu’on peut la noter, on peut la rendre prévisible. En réalité, l’exploitation c’est l’apprentissage supervisé. Et l’exploration, c’est l’apprentissage non supervisé. Ce n’est pas moi qui ait découvert cela, c’est le professeur britannique Sir Kenneth Robinson qui disait « l’école détruit la créativité et l’exploration ». Il démontrait sa théorie avec le test du trombone où il demandait à ses élèves de trouver toutes les utilisations possibles à cet objet. Et ce qu’il a pu constater avec ce test, c’est que le résultat décroît toujours avec le niveau éducatif, beaucoup plus qu’avec l’âge.

Quelle place doit-on donner à l’IA et comment devons-nous l’utiliser pour en faire un outil et non un but ?

I.A. : Ma position sur l’IA, on pourrait la résumer ainsi. Dans le passé, on a eu d’abord l’eau courante, ensuite le gaz à tous les étages, ensuite l’électricité… et à chaque fois, cela a bouleversé les civilisations, il ne faut pas l’oublier. Evidemment, l’irrigation a été à la base des civilisations, puis il y a eu les gazomètres qui étaient les cœurs de l’urbanisme, puis sont venues l’eau chaude et l’électricité. On pourrait écrire des centaines de thèses et de rapports sur l’impact que ça a eu à chaque fois sur la société, sur la politique, sur la guerre, sur tout en fait. Aujourd’hui, on vit la même chose avec l’IA, qui est comme un robinet d’eau, une conduite de gaz ou une prise de courant. On va bientôt avoir l’IA courante. On voit bien que cette IA courante semble être partie pour être distribuée partout par les téléphones, les ordinateurs.

La réalité, c’est qu’on aura des conduites d’Intelligence Artificielle par tous les appareils connectés, y compris les appareils ménagers, les voitures, etc. Et là, on a un premier tabou qui arrive par une question : « Et pourquoi pas dans le cerveau humain directement ? » Et avant même qu’on ait la techno, on entend Elon Musk dire « pourquoi pas ? ». C’est là, tout le dilemme, j’aime beaucoup Musk, mais Neuralink, je n’aime pas du tout et je pense même que c’est une énorme connerie ! Car là, il y a danger, même si Musk est un occidental et qu’il ne prône pas les dérives du système chinois où les enfants sont sous pression dès leur naissance et où un enfant pourrait déjà avoir trois générations de puces dans la tête avant de devenir majeur… C’est cela que je dénonce dans ce livre.

L’angoisse générée par l’IA est d’autant plus forte en période de guerre et dans une crise comme celle de l’Ukraine ?

I.A. : Oui, bien entendu. Je parle des origines de l’IA dans le livre et j’explique que ses origines scientifiques et technologiques, c’est la guerre nucléaire. Avec comme question initiale et centrale : « Si tout le monde meurt, comment fait-on pour qu’un ordinateur puisse prendre une décision tout seul ? » Déjà Stanley Kubrick était passionné par cela à l’époque, c’est pour cela qu’il a réalisé d’abord « Docteur Folamour » en 1964 puis « 2001 l’Odyssée de l’espace » en 1968, où l’on trouve d’ailleurs une allusion à IBM, car si on décale d’un rang les lettres de l’ordinateur HAL, ça donne IBM (même si le cinéaste a toujours nié cette interprétation). Avec l’évolution des technologies spatiales, la machine est devenue indispensable.

Dès les années 50, les Etats-Unis comme la Russie ont commencé à se poser la question de comment envoyer des bombes et identifier des cibles sans intervention humaine si leur pays était confronté à un conflit nucléaire et que les hommes mourraient. La naissance de l’IA, son origine, c’est la guerre nucléaire, d’où l’inquiétude justifiée de tout un chacun quant au développement, à la production et à l’utilisation d’armes totalement autonomes. C’est d’ailleurs en 2021, alors que j’étais en train de finir d’écrire ce livre, qu’un drone de fabrication turque a pour la première fois de notre histoire tué quelqu’un sans aucun pilote aux commandes…

D’où votre mantra, il faut de la sagesse pour utiliser l’IA. Or peut-on faire confiance à ceux qui dirigent et gouvernent le monde en la matière ?

I.A. : La réponse est non, puisque ce sont eux qui nous ont conduits à cette situation. Donc, il faut une culture de la sagesse avant d’aller plus loin et ce livre essaye modestement d’y contribuer. On n’a pas encore musclé suffisamment notre sagesse justement. Isaac Asimov, l’écrivain russo-américain, professeur de biochimie à l’Université de Boston, écrivait dans les années 50 : « une civilisation qui produit de la technologie mais pas de la sagesse, elle va mourir et elle va emporter le monde avec elle. » Le IIIème Reich, en était un exemple. Donc à mesure que les technologies se développent, on doit aussi impérativement développer notre sagesse. Le problème, c’est qu’on ne sait pas comment faire. Et dans un monde industriel en perpétuel mouvement, on n’a souvent pas le temps d’y réfléchir.

Alors, c’est quoi la solution, en dehors de nous en faire prendre conscience et de nous alerter ?

I.A. : La prise de conscience arrive. Elle commence forcément par l’éducation et le système d’enseignement. C’est pourquoi on voit des pays, comme la Finlande ou l’Islande, qui ont les meilleurs systèmes éducatifs, puisqu’ils laissent plus de place à l’introspection et au « connais-toi toi-même ». C’est comme cela qu’on acquiert la sagesse. En France, les cours de philosophie ne sont que des cours d’histoire de la philosophie, où l’on apprend par cœur ce qu’ont écrit les philosophes. C’est d’ailleurs pour cela que l’IA, c’est-à-dire une machine, pourrait passer l’agrégation de philosophie !

En France, nous sommes trop contraints pour réformer nos systèmes éducatifs qui sont par ailleurs trop soumis à la politisation droite-gauche de l’éducation. On l’a bien vu avec la question de la méditation à l’école qui n’a pas pu avancer, alors qu’on a des preuves que quand on remplace une heure de colle par une heure de méditation, on a moins de violences dans l’établissement, moins de harcèlement scolaire et moins de récidives ensuite.

Pourquoi faudrait-il considérer l’IA non pas comme une machine mais comme un média, c’est-à-dire une œuvre qui fera progresser notre pensée et notre conscience et non l’inverse ?

I.A. : Parce que l’IA c’est un miroir en fait. Ça peut faire progresser notre pensée, mais si on n’est pas vraiment mature, ce qui va se passer c’est qu’on va se réduire à elle. Ça va être tellement simple de suivre ce que fait l’IA qu’au lieu de voir ce qui manque à son interprétation, et d’aller plus loin, on va juste la laisser faire sans se poser de questions. Sans compter que l’IA est déjà très forte pour maximiser sa récompense, du coup elle devient très manipulatrice. On le voit déjà dans la sphère financière avec toutes les conséquences néfastes que ça peut entraîner.

Notre société ne récompense pas suffisamment le fait d’être humain, à l’exception de certains domaines comme les métiers artisanaux où il y a un véritable savoir-faire et de la créativité. Il y a juste des niches qui récompensent l’humanité, mais elles restent des exceptions. Et c’est cela le drame de la société mondiale. Pour trouver des lieux qui récompensent l’individualité et la non-conformité, il faut vraiment les chercher. Aujourd’hui, on vit dans une société qui récompense avant tout la conformité. Du coup, en plus de la paresse qui va consister à dire « pourquoi je m’emmerderais à faire ce que la machine va faire mieux que moi ? », on va finir par nous dire « le but c’est que tu sois conforme à la machine »…

Votre livre reste cependant optimiste parce que vous croyez à la flexibilité, à l’intelligence et à la sagesse. N’êtes-vous pas rassuré par cette nouvelle génération qui s’engage et qui demande plus de sens ?

I.A. : Oui, parce que comme je l’explique dans le livre, toute culture amène une contre-culture. Donc une culture de la conformité amène une contre-culture de la non-conformité. Elle n’est certes pas dominante aujourd’hui, car c’est encore une niche. Mais l’Histoire nous a montré que des phénomènes marginaux peuvent devenir dominants. La Renaissance, c’était ça. De contre-culture au départ, avec l’imprimerie, elle est devenue la norme. Autre exemple en biologie, où ce qu’on appelle « l’élément p » est devenu un instrument omniprésent de la génétique et de la biologie moléculaire de la drosophile, servant en tant qu’outil de clonage des gènes et comme vecteur de transformation.

L’élément p, une micro molécule ultra minoritaire, a été découvert au Japon et en même pas 30 ans, toutes les drosophiles sur terre avait l’élément p. Ça a fondé plein d’études notamment sur la mimétique. Ce qui est vrai en biologie est aussi vrai en matière de culture et d’idées. Car on va voir apparaître avec l’IA des mouvements anti-cyberpunk, c’est-à-dire des gens qui diront « moi, je ne veux pas d’implants ». Ils seront minoritaires au départ, mais à un moment ils deviendront ultra-majoritaires. C’est cela qui me rend optimiste. C’est parce que je crois en l’intelligence de l’Homme, et parce que l’humain est supérieur à ses créations, que je peux expliquer dans ce livre pourquoi nous ne serons jamais remplacés par des machines.

Quels conseils donner à nos entrepreneurs d’aujourd’hui face aux nouveaux défis de l’IA ?

I.A. : L’IA est comparable à un animal domestique, un chien que l’on pourrait commander sur Amazon, qui peut servir à mordre les intrus ou à rapporter le journal, et qui peut faire plein de choses pour vous, à tel point qu’il peut se rendre indispensable, comme un chien de berger dans les Pyrénées qui est indispensable pour ramener le troupeau. Bref, c’est un chien destiné à vous rendre plus compétitif. Imaginez un entrepreneur qui fait un nombre considérable de tâches par jour et qui est confronté à la fatigue décisionnelle. Cette « Decision fatigue », c’est quand notre cerveau ne peut prendre qu’un certain nombre de décisions par jour, qu’elles soient futiles ou essentielles. Les entrepreneurs, qu’ils soient à la tête de PME ou de grands groupes, ont intérêt à réduire le maximum de décisions qu’ils ont à prendre par jour.

C’est pourquoi, le patron de Tesla, Elon Musk, vit dans un préfabriqué de 40 m2 tout près de Space X, son entreprise d’astronautique. Il dort 5 heures par nuit, travaille 15 heures par jour, et fait un peu de Playstation pour se détendre au moment de ses repas, en jouant à Cyberpunk, un jeu dont il est devenu addict. Avec l’IA, vous allez donc avoir des sociétés spécialisées qui vont proposer aux chefs d’entreprise de leur livrer des IA qui vont faire des choses à leur place. Sauf que ce Pokemon, cette machine « chien de berger », va aussi pouvoir recueillir plein de données sur vous. Et c’est là que ça devient flippant, surtout si on additionne toutes les données recueillies sur tous les entrepreneurs dans le monde. Bref, le danger, c’est que tous ces chiens de bergers ne soient plus loyaux envers leurs maîtres.

Le conseil, c’est donc d’apprendre à utiliser l’IA à bon escient et de s’en méfier en permanence ?

I.A. : Oui, le conseil, c’est de dire, ce chien de berger, cette IA, va être un outil, mais ça ne doit rester qu’un outil, comme le sont déjà aujourd’hui un GPS ou une conciergerie électronique. Car il y a une prime énorme à devenir un maître-chien aujourd’hui. Bref, cette IA ne doit en aucun cas vous remplacer ou être destinée à réfléchir à votre place ni à utiliser vos données confidentielles, celles qui font de vous le leader de votre business. Donc mon conseil aux entrepreneurs, c’est intéressez-vous à l’IA comme vous vous intéressez à un chien, car il vous sera bientôt impossible d’être un entrepreneur compétitif sans IA, mais sachez que ce ne sera jamais votre chien et qu’il ne sera pas loyal.

Et surtout, quand vous aurez trouvé une innovation ou une idée nouvelle, ne la confiez surtout pas à votre chien, car vous pourrez vous la faire spolier par le fabricant de votre IA. Car dans le monde de l’IA, si vous trouvez une idée et la confiez à votre machine, le lendemain, toutes les machines du monde auront accès à votre innovation, avant même que vous ayez eu le temps de déposer un brevet. L’IA, c’est une gigantesque machine à sucer le cerveau des entrepreneurs. C’est donc bien une mise en garde que j’adresse aux chefs d’entreprises.

Propos recueillis par Valérie Loctin