Dans ce premier épisode de Logique Floue, Axel Buendia et Jérôme Hoibian, fondateurs de Spirops, laboratoire indépendant de R&D en IA de plus de 20 ans, présentent leur vision singulière de l’IA.
À rebours des discours dominants sur l’IA générative et la course à la puissance, ils défendent une approche différente : une IA frugale, inspirée du raisonnement humain, construite pour fonctionner avec peu de ressources, peu de données, en accordant une attention particulière à ses usages et à leurs conséquences concrètes.
Ils reviennent sur les origines de leurs travaux autour de la “logique floue”, une manière de penser et de représenter le monde non pas de façon binaire, mais dans toutes les nuances de sa complexité. Une approche qui ouvre la voie à des systèmes autonomes, plus simples et plus précis, capables de prendre des décisions, de planifier leurs actions et d’interagir de manière crédible.
Mais derrière les questions techniques se dessinent surtout des interrogations profondément humaines :
- Quelle place laisser aux machines dans notre société ?
- Que devient le travail dans un monde automatisé ?
- Peut-on développer une IA sans céder à la logique du profit absolu ?
- Et comment penser collectivement une société qui intègre les nouveaux paramètres mis en place par le développement de l’IA ?
Entre recherche, jeu vidéo, philosophie et politique, ce premier épisode pose les bases d’un podcast qui entend ouvrir le débat sur le monde qui se construit autour de l’intelligence artificielle.
Itw Carole Cheysson - Pulse, assisté de Sacha Bénard, mix William Lopez, Jingle Kelian Regis, illustration Yar ALnajem
Transcription de l'épisode
Logique Floue – Podcast
#1 Un autre modèle d’IA : simplicité et frugalité avec Axel Buendia et Jérôme Hoibian
Avec Jérôme Hoibian et Axel Buendia
[00:00] Carole : Logique Floue est un podcast consacré à l'intelligence artificielle et penser le monde qui se construit autour d'elle. À l'heure où l'IA devient omniprésente dans nos métiers, nos outils, notre information et nos imaginaires, Logique Floue propose d'aller à la rencontre de celles et ceux qui la pensent, la développent, l'utilisent ou la questionnent. Chercheurs, ingénieurs, philosophes, artistes, entrepreneurs ou acteurs publics viendront confronter leur vision d'un futur déjà en train de s'écrire.
[00:24] Soutenu par Spirops, laboratoire de recherche indépendant en intelligence artificielle depuis plus de 20 ans, le podcast explorera notamment leur approche dite frugale de l'IA. Des systèmes plus spécialisés, plus maîtrisés et plus raisonnés, fondés sur des modèles différents des grandes IA génératives actuelles. À travers des portraits des membres de l'équipe de Spirops et des conversations avec des invités extérieurs spécialistes de leur domaine, Logique Floue ouvre un espace de dialogue autour des promesses, des limites
[00:51] et des choix de sociétés qui accompagnent le développement de l'intelligence artificielle. Dans ce premier épisode, les deux fondateurs de Spirops, Axel Buendia et Jérôme Hoibian, reviennent sur leur parcours et sur la vision de l'IA qui guide leur démarche depuis le début.
[01:11] Carole : On a décidé, je crois de manière collective, d'appeler ce podcast La Logique Floue. Pourquoi est-ce qu'on utilise ce terme-là et comment on pourrait le définir ?
Axel Buendia : Allez, je commence. Donc La Logique Floue, c'est une logique qui, contrairement à la logique un peu classique où les choses sont vraies ou fausses, c'est noir ou blanc.
[01:34] La logique Floue, ça dit en gros, les choses peuvent être un peu vraies ou un peu fausses. Donc c'est une logique, comme son nom l'indique, qui est un peu floue. Donc en gros, voilà, c'est ça la logique floue. Donc il y a des opérateurs mathématiques qui vont avec, etc.
Jérôme Hoibian : Alors il faut faire attention parce que ça s'appelle la logique floue, parce que c'est une traduction d'un mot anglais qui s'appelle la Fuzzy Logic. Mais en français, en fait, nous, on n'aime pas trop la traduction parce que quand on discute avec différents interlocuteurs, ils ont...
[02:01] Ils imaginent que logique floue, ça veut dire une logique qui n'est pas si précise que ça. En fait, c'est presque un défaut d'être flou. Alors que fuzzy logic , on pourrait nous traduire en français comme logique continue. C'est-à-dire qu'au lieu que quelque chose soit faux, puis d'un seul coup vrai, il y a toutes les graduations entre le vrai et le faux. Un exemple, par exemple, chez soi,
[02:28] Est-ce qu'il fait froid ou est-ce qu'il fait chaud ? En logique binaire, on va dire, s'il fait moins de 17 degrés, il fait froid. S'il fait plus de 17 degrés, il fait chaud. Mais dans la logique globale, quand on discute entre êtres humains, si je demande à Axel, est-ce qu'il fait chaud ? Oui, s'il fait vraiment froid, il va dire qu'il caille. S'il fait très chaud, il va dire qu'il fait super chaud. Mais en fait, on va utiliser différentes valeurs et si on les transforme
[02:53] en valeur numérique. On peut imaginer une échelle qui commencerait par exemple à zéro, qui serait vraiment le froid glacial de Sibérie. Un, il fait aussi chaud que si on était aux Émirats arabes. Et puis, tous les chiffres entre. Donc, zéro, zéro-un, zéro-deux, zéro-trois, etc. Qui seraient toutes les valeurs intermédiaires. Et on peut étendre cette logique à tous les opérateurs.
[03:20] habituels booléens comme les ET, les OU. Donc souvent on a des conditions qui vont dire est-ce qu'il fait chaud et que le radiateur est allumé ? Ça c'est des logiques booléennes, il y a des tables comme ça donc le et c'est si le premier est vrai et le deuxième est vrai, ça fait vrai si un des deux est faux, ça fait faux si les deux sont faux, ça fait faux et bien on peut étendre
[03:42] ces opérateurs à la logique floue pour dire si le radiateur est à moitié allumé et qu'il fait à moitié chaud, quel est le résultat du « et ». Ce qui donne, dans l'occurrence, 0,25 dans notre unité.
Carole : Mais du coup, en ce qui concerne votre travail, comment ça se traduit par opposition à une logique qui ne serait pas floue ?
[04:06] Axel Buendia : Alors ce qui est intéressant, c'est que la logique floue c'est arrivé en réponse au raisonnement sur l'incertitude. L'idée c'était de dire, on partait de la logique booléene, du mathématicien Boole, et l'idée c'était de dire, ça ne suffit pas à modéliser notre monde, notre monde il est incertain, on n'a pas de garantie sur les choses, parfois on n'est pas totalement sûr de nous. Et donc du coup, comment on peut introduire cette incertitude dans les raisonnements logiques ?
[04:31] Donc c'est ça la logique Floue. Ce qui est intéressant c'est que nous on a utilisé la logique Floue dans nos premiers outils pour faire des personnages puisqu'on pense que pour décider il y a plein de choses floues dans notre vie et qu'on n'est jamais sûr de rien, enfin rarement sûr de grand-chose. Et donc du coup c'est un clin d'œil à notre technologie de départ et sinon je pense que c'est surtout parce que le nom sonne bien.
Jérôme Hoibian : Oui mais comme je le disais tout à l'heure il y a deux usages.
[04:54] Donc il y a ce côté flou. Mais nous, on l'utilise plutôt dans l'exemple de tout à l'heure. Par exemple, est-ce qu'un ennemi est proche ou est-ce qu'un ennemi est loin ? Bon, c'est pas dès qu'il est à moins de 25 mètres, il est proche, et à plus de 25 mètres, il est loin. C'est plus il va être proche, plus on va... Donc en fait, ce qui se passe, c'est que nous, on continue à utiliser la logique booléenne quand on discute entre nous, quand on crée ce qu'on appelle des cerveaux de l'intelligence, etc. On va dire, si l'ennemi est proche et qu'il est menaçant
[05:21] alors je vais partir en courant. Bon, mais en fait, tous ces « ET » là, nous, on en parle comme ça parce que c'est beaucoup plus facile à comprendre, mais en fait, on sait très bien que ça va être plus il est proche, plus il est menaçant, plus je vais avoir envie de fuir. Voilà, c'est ça la logique.
Carole : D'accord. Mais en fait, ça semble presque plus humain ?
[05:43] Comme tu disais, avec cette histoire d'incertitude, je trouve que c'est intéressant ce concept-là, plutôt que de voir effectivement de manière binaire, j'imagine. Donc votre démarche, finalement , en partant de l'humain, elle garde cet aspect humain de la décision, si je comprends bien.
Axel Buendia : Tout à fait.
Jérôme Hoibian : Et on continue systématiquement à garder ce mantra de dire : il faut faire
[06:07] comme l'humain, parce que même là, ça fait plus de 20 ans qu'on fait de l'IA, et ça nous arrive encore de faire des calculs compliqués, d'essayer de prédire une situation, etc. Et puis, assez fréquemment, on s'arrête et on se dit, mais ce n'est pas possible que ce soit aussi compliqué. Si je suis en train de faire l'IA, je ne sais pas quoi, d'une fourmi, c'est sûr qu'elle ne fait pas tous ces calculs-là. Du coup, ça nous oblige à chaque fois à revoir notre copie, à simplifier
[06:33] et à essayer le plus possible de faire des algorithmes qui ressemblent à ce qu'on pense être le raisonnement humain. Et ça a une vertu, c'est que finalement, en faisant ça, ça a comme effet secondaire de faire des algorithmes qui sont moins lourds en termes de temps de calcul. S'obliger à dire, non, cet algorithme est trop compliqué, c'est sûr que moi, dans la réalité
[06:59] quand je pense, je ne fais pas des calculs aussi compliqués. Ça a aussi cette vertu de faire que nos algorithmes sont plus frugaux.
Carole : J'allais y venir justement parce qu'on en a parlé quand on a fait ton interview. Tu disais que vous aviez cette démarche d'IA frugale, qu'on appelle comme ça, aussi parce qu'il y avait cette idée que finalement un humain avec un petit sandwich, il pouvait réfléchir pendant des heures.
[07:24] et que du coup, c'était aussi un de vos objectifs en copiant ce modèle-là. Donc, est-ce que vous pouvez me parler aussi de la partie justement IA frugale ?
Axel Buendia : Alors, l'idée, c'était depuis le début, c'était d'arriver à maîtriser les enjeux de ressources, c'est-à-dire en gros le temps machine et la mémoire. C'est les deux principales ressources pour les ordinateurs. Puisque l'objectif de la société dès le début, c'était d'arriver à
[07:50] peupler des univers virtuels avec des personnages autonomes avec lesquels il serait intéressant d'interagir. Du coup on voulait beaucoup de personnages autonomes et donc du coup il fallait que chaque personnage coûte pas trop cher en termes de ressources pour pouvoir en mettre plein. Et donc c'est resté depuis le début un des mantras de la société d'essayer d'optimiser pour
[08:13] pour limiter les ressources. Et donc du coup, aujourd'hui, notre simulateur de foule, là on a des simulateurs de foule qui simulent plusieurs milliers de personnes en temps réel. Donc on est bien sur des IA qui sont aujourd'hui extrêmement frugales, alors qu'ils ne font pas ce que font d'autres IA. Mais on va dire sur des domaines particuliers, nos IA restent très frugales.
Jérôme Hoibian : Et encore autre effet positif de cette frugalité, c'est qu'on s'oblige
[08:40] à faire des algorithmes le plus simple possible. Et dès qu'un algorithme est un peu compliqué, on va dire non, ce n'est pas possible. Soit on le simplifie, soit on va le découper en algorithmes plus simples. Et en fait, on s'est rendu compte, à force de faire ça, que tous les problèmes qui étaient des problèmes très complexes pouvaient en fait se diviser en problèmes plus simples
[09:04] qui fait qu'on arrive à gérer des complexités extrêmement grandes en n'ayant que des petites règles très faciles à appréhender, très faciles à comprendre et du coup très faciles à corriger. Là où, en fait, plus un algorithme va être grand, plus ça va être touffu, même pour celui qui l'a créé. Chaque fois qu'il va revenir dessus, ça va être un petit peu compliqué de tester tous les cas, etc., de voir.
[09:28] Nous, en fait, à force de diviser, de diviser, on arrive à des règles tellement simples que c'est trivial de les corriger.
Carole : Parfois, ce qui m'interroge par rapport à ce choix que vous faites de cette IA frugale et très, justement, avec des calculs simples, c'est que vous aimez bien aussi le côté interaction avec la machine, etc. On pourrait tout à fait imaginer que du coup, vous
[09:52] intégriez des outils de l’IA génératives pour en faire encore plus. Je ne sais pas comment dire, je comprends votre envie de faire simple, mais c'est un peu étonnant par rapport à votre envie initiale d'interagir avec une machine.
Axel Buendia : Je pense qu'aujourd'hui, les résultats ne sont juste pas là. C'est-à-dire que même si on faisait abstraction des problèmes de
[10:18] temps réel, parce que quand on interroge chat GPT, ça prend quand même une demi-seconde ou une seconde, ce qui en termes d'échanges humains est catastrophique. Ça fait bizarre quand une personne met du temps à répondre. Même si on faisait abstraction de ça, aujourd'hui, pour créer des motivations dans un chat GPT ou un autre, peu importe, un Mistral ou peu importe, les IA, elles se ressemblent un peu,
[10:42] il faut rentrer des contextes assez complexes, et puis pourquoi elles nous mentiraient, elle n'a pas d'objectif au fond. En fait, elles ne veulent rien, ce sont des espèces d'esclaves, on leur pose des questions, ils nous répondent. Ce n'est pas ça qu'on veut, nous. Ce qu'on veut, c'est des personnages autonomes qui ont des vraies envies, qui seraient capables, pourquoi pas, de nous mentir pour atteindre leur but, pour nous faire faire des choses qu'elles ont envie qu'on fasse, comme c'est le cas dans notre société. Donc aujourd'hui,
[11:07] on n'en est pas là, peut-être qu'un jour on y arrivera et qu'à ce moment-là on s'y intéressera, mais aujourd'hui on n'en est pas encore là, on s'y intéresse mais on n'en est pas encore là. Et puis à ce côté, toujours pareil, c'est-à-dire qu'aujourd'hui on est dans une politique de course un peu, où en mettant plus de paramètres on pense qu'on va résoudre plus de problèmes, ce qui n'est pas tout à fait faux, mais
[11:31] on arrive à une telle quantité de paramètres que ça devient délirant à calculer, délirant à apprendre, délirant à faire marcher. On pense que nous, ce n'est pas la solution et qu'on peut aller vers des choses plus simples et plus précises.
Jérôme Hoibian : Et je rajouterais aussi qu'en fait, nous, on se définit comme une entreprise de recherche et c'est vraiment quelque chose de fondamental dans notre démarche.
[11:56] Et dans cette démarche de recherche, l'idée c'est de faire des recherches nouvelles, c'est d'aller là où les autres ne sont jamais allés. Donc il se trouve que l'IA générative au départ quand on a commencé l'entreprise c'était pas très développé mais ça n'a pas été la direction dans laquelle on voulait aller, surtout à cause de l'effet boîte noire, c'est-à-dire l'effet qu'on ne puisse pas trop comprendre comment ça marche et qu'on ne puisse pas trop le corriger.
[12:19] Mais quand il y a eu la vague déferlante d'IA générative où tout le monde s'est mis à étudier ces sujets, etc., là, c'est sûr que nous, on n'allait pas aller dans cette direction. Puisqu'il y a des milliers de chercheurs qui travaillent dessus, c'est sûr que c'est une direction qui ne nous intéresse pas. On va aller dans une direction où personne ne travaille pour pouvoir faire un travail original
[12:41] qui n'a jamais été fait ailleurs. Et autre chose que je voulais rajouter aussi, en ce qui concerne pourquoi on n'est pas tout de suite intéressé par l'IA Générative, c'est qu'en fait, nous, ce qui nous passionne, c'est l'autonomie. C'est l'idée de faire une petite IA, comme un Tamagotchi. On s'en va, on revient plus tard. Il s'est passé plein de choses. C'est une vie. C'est l'idée de la vie artificielle, en fait.
[13:06] Chat GPT, si d'un seul coup tous les utilisateurs de la terre décident de faire une pause et n'utilisent plus chat GPT, chat GPT ne fait rien. En fait, c'est juste, c'est extraordinaire comme outil, mais c'est un outil qui va répondre à une sollicitation, mais lorsqu'on arrête de lui parler, il n'est pas en train de réfléchir, à dire, tiens, qu'est-ce que je vais faire demain, etc. Il n'a aucune autonomie. Et ce n'est pas une critique, c'est juste que nous, comme c'est ce qui nous intéresse, on n'est pas allé dans cette direction.
[13:33] Carole : J'aimerais bien que vous m'en parliez un peu tous les deux de cet idéal, de ce Graal, carrément, tu as utilisé ce mot-là dans ton interview, de personnage autonome avec qui interagir. Est-ce que vous pouvez m'en parler ? Parce que moi, je ne suis pas joueuse, donc ça m'intéresse de savoir ce que c'est.
Jérôme Hoibian : C'est historique, Axel. Et moi, on s'est retrouvés ensemble sur un projet de jeu vidéo,
[13:58] on adorait tous les deux ça la question ne s'est pas posée pour nous l'intelligence artificielle c'était ça après en fait finalement c'est un domaine très large reconnaître des caractères ou lire le code postal sur une enveloppe, c'est de l'IA qu'on utilise depuis très longtemps, oui c'est de l'IA mais c'est pas l'IA que nous on cherche à faire
[14:22] Carole : Mais c'est quoi alors ?
Axel Buendia : L'idée c'est vraiment d'avoir des personnages avec lesquels je pourrais interagir comme dans la vraie vie. C'est-à-dire, si je les blesse par une de mes actions, ils vont m'en vouloir. Demain, ils vont peut-être décider de faire des choses qui vont à mon encontre parce qu'ils sont en colère et qu'ils veulent me le faire sentir. Ça peut être des personnes au contraire, parce que je fais quelque chose qui les arrange, vont venir me remercier.
[14:45] Ça peut être des gens qui vont initier des choses eux-mêmes en me demandant de faire des choses pour eux. Bref, l'impression, c'est d'avoir cette vie autour de nous. Et pourquoi ? Parce qu'on pourrait se dire, à la limite, on pourrait prendre plein d'humains, on les fait jouer ensemble et voilà. Mais l'idée, c'est qu'il y a quand même des rôles dans les belles histoires que personne ne veut jouer.
Jérôme Hoibian : Et c'est bien que tu utilises ce mot rôle parce qu'en fait, on dit qu'on s'est rencontrés
[15:11] dans le monde du jeu vidéo, c'est vrai, mais on a aussi tous les deux une passion commune, qui est le jeu de rôle. Et le jeu de rôle, c'est ça, c'est comment à quelques personnes autour d'une table, on recrée complètement virtuellement un monde, avec un conteur qui s'appelle le maître du jeu, qui va recréer artificiellement toute une société, qui va incarner lui-même, il va jouer tous les rôles des personnages, des PNJ, des personnages secondaires.
[15:38] Mais il y a cette idée... En fait, oui, on nous a toujours dit : ne crée jamais une entreprise avec un copain. Nous, on est la preuve du contraire. Ça fait 20 ans qu'on fait ça. On a toujours été alignés sur toutes les valeurs. On a cette chance d'être tirés
[16:00] par les mêmes passions, les mêmes objectifs. Et effectivement, quand Axel dit que l'objectif, c'est d'avoir des IA avec qui on peut interagir, etc. Dans un premier temps, pour l'instant, toutes nos IA qu'on a pu faire, même pour Splinter Cell, elles étaient très poussées par rapport à l'état de l'art. Mais on n'en est pas du tout encore là. Donc, on en a pour des dizaines d'années de recherche encore.
[16:24] Axel Buendia : Mais c'est pas grave. L'essentiel, c'est qu'on avance.
Jérôme Hoibian : Oui, tant mieux. Pour nous, l'intérêt, c'est le chemin. C'est pas forcément...
Carole : Ah, c'est pas forcément la finalité ?
Jérôme Hoibian : Ça sera pour nos petits-enfants, ou je sais pas qui.
Carole : D'accord, je vois. Mais on pourrait vous opposer, et voilà, c'est des discussions qu'on pourrait avoir, qu'est-ce que c'est que cet idéal de vivre dans un monde virtuel, plutôt que de vivre avec les gens qui sont là ?
[16:52] Jérôme Hoibian : Oui, alors je sais que moi, quand je discute parfois avec des gens de l'idée de pouvoir voyager dans un monde virtuel et commencer à habiter dans ce monde-là, un peu comme dans ce film Ready Player One, etc. Il y a des gens qui deviennent tout blanc. Ils imaginent un monde où tout le monde serait allongé avec des casques, etc.
[17:17] En fait, moi je trouve que c'est pas du tout l'idée. Souvent les gens qui ont le plus peur de ce contact, de la perte du réel et cette idée d'être enfermé avec des casques, c'est très souvent des lecteurs. Et finalement, prendre un bouquin de mille pages et être passionné par une histoire, genre Seigneur des Anneaux ou autre, et puis
[17:40] s'intéresser à tous les personnages, être triste quand un personnage meurt, être intéressé, être curieux de ce qui va se passer, s'attacher à ça et presque se projeter dans ce monde qu'on découvre dans le livre. Et quand on arrive à la dernière page, ressentir un manque terrible de... en fait, toutes ces personnes qui sont un peu devenues nos amies, c'est fini.
[18:04] Finalement c'est exactement la même chose ce qu'on peut faire c'est la même idée et ça rend pas les gens complètement addicts ou je ne sais quoi ils ont eu cette expérience de vivre dans un alors je parle des romans de fantaisie, science-fiction etc il y a cette idée d'être projeté dans un monde de découvrir un monde nouveau que moi je trouve passionnant
[18:31] Axel Buendia : Et puis c'est vraiment faire appel à... apporter une dimension supplémentaire à faire appel à l'imaginaire des gens. C'est-à-dire qu'en gros, dans un livre j'imagine des choses mais je peux pas changer l'histoire. Je suis contraint par l'auteur qui a choisi un déroulé pour cette histoire et je peux rien y faire. Dans un jeu vidéo, cet art apporte le pouvoir de pouvoir changer les choses. Et aujourd'hui,
[18:58] Il y a une contrainte qui est issue de ça, c'est que dans un jeu vidéo, ce pouvoir de changer, il faut que le jeu s'adapte. C'est-à-dire que quand je veux changer quelque chose, il faut que l' ensemble des personnages autour aient une réaction à ce que je viens de faire. Et ça, ce n'est pas facile de leur faire comprendre ce que je viens de faire, de leur faire comprendre l'influence que ça a sur eux, sur leur comportement, etc. Donc aujourd'hui, il y a encore une certaine complexité non maîtrisée dans les jeux sur
[19:22] quels sont les effets de mes actions sur l'univers quand je fais des choses. Et je pense qu'aujourd'hui, c'est important qu'on puisse avoir des personnages qui justement prennent en compte ça, parce que ça rend les univers plus sympathiques, plus réalistes, ou pas forcément plus réalistes d'ailleurs, mais plus crédibles en tout cas, et puis plus intéressants à approfondir. Et ça peut être une source, le jeu vidéo c'est une source d'expérimentation
[19:48] et d'exploration infinie. C'est-à-dire que je peux tester des nouveaux univers, tester des nouvelles politiques, tester des nouveaux types de gouvernement, tester tout ça, ça coûte pas cher dans un jeu vidéo à tester. Contrairement à notre société où quand on veut changer les choses, c'est plus compliqué. Donc là, l'idée, c'est vraiment d'offrir un ensemble crédible et possible pour que les gens puissent laisser leur imagination vagabonder
[20:10] et imaginer de nouvelles choses sans contraintes. Voilà, c'est ça l'idée. Je pense que c'est important.
Jérôme Hoibian : Finalement, cette extension du livre, le fait de pouvoir faire un monde virtuel ou un jeu vidéo qui soit dans l'univers d'un livre, c'est un peu cette idée d'étendre le livre et de pouvoir
[20:36] se jeter dedans et interagir. Et en fait, on se rend compte, quand on regarde les différents jeux vidéo dans l'histoire, qu'il y a eu énormément de jeux qui ont été adaptés, soit d'un livre, soit d'un film. Et moi, je suis persuadé que, je sais pas, par exemple, quand il y a un jeu Indiana Jones, par exemple, pour le joueur, l'idée de pouvoir
[20:58] étendre le film et de pouvoir presque vivre les scènes comme si on était Indiana Jones, ça fait partie de la motivation. Donc c'est quelque chose de très large, cette envie de plonger dans un livre ou une histoire pour y vivre des aventures. C'est une motivation très générale. Nous, la seule chose qu'on voudrait faire,
[21:23] c'est que ça soit un peu moins linéaire. C'est-à-dire qu'il y a quand même pas mal de jeux où, ok, on plonge dans l'univers, mais ça devient un film interactif. On peut faire des trucs, mais on ne peut pas trop sortir des sentiers battus. Et pourquoi on ne peut pas sortir des sentiers battus ? C'est parce que dès qu'on va aller quelque part où le game designer, celui qui a inventé le jeu , n'avait pas prévu qu'on aille,
[21:47] on va arriver dans des zones toutes vierges. Il n'y aura pas de nouveaux personnages, il n'y aura pas de dialogues qui ont été enregistrés, de décors qui ont été préparés pour notre visite. D 'où l'idée de faire des choses qui s'autogénèrent et, entre autres, par exemple, autogénérer des comportements, c'est-à-dire avoir des IA, des personnages, qui vont pouvoir complètement réagir à nos actions, avoir une réaction unique,
[22:14] d'avoir une expérience unique, de vivre dans un univers qui, en fait, se crée au fur et à mesure qu'on interagit avec.
Carole : Mais ça, c'est votre point de vue et c'est finalement le point de départ de Spirops. Je pense que c'était chouette d'en parler là. Moi, j'ai envie, dans ce podcast, de vous amener aussi à discuter avec différentes disciplines parce que là,
[22:37] finalement, on revient toujours aux jeux vidéo et c'est quelque chose que j'ai vu vraiment dans les différents portraits. Je trouve ça assez marquant. Mais forcément, là, vous êtes en train de créer des outils qui vont être applicables dans différents domaines. Est-ce que c'est des choses auxquelles vous réfléchissez ? Est-ce que vous avez ça en tête pour le monde de demain ?
Axel Buendia : On a pas mal ça en tête, puisqu'aujourd'hui, on fait un peu de jeux vidéo, mais c'est quand même assez anecdotique.
[23:05] même si l'objectif final reste le même. Donc on a pas mal de contrats qui n'ont rien à voir avec le jeu vidéo. Mais l'idée quand même, c'est d'essayer de mesurer les enjeux de ce qu'on arrive à créer, d'essayer de contrôler aussi les applications des choses qu'on fait, pour pas que ça tombe dans des domaines que nous on juge
[23:30] moins intéressant que d'autres. Donc là, il y a une forte... Moins éthique par rapport à
Jérôme Hoibian : Moins éthique.
Axel Buendia : Il y a une forte cohésion, je pense, au sein de l'équipe de Spirop sur là où on doit aller ou là où on ne doit pas aller.
Jérôme Hoibian : Donc, on pourrait céder à certaines sirènes quand, d'un seul coup, un client nous appelle avec un gros contrat, mais qui est dans un domaine militaire ou paramilitaire, on pourrait, peut-être, dans des moments de disette.
[23:57] Et heureusement, avec cette équipe qui est très, très carrée sur l'éthique, on est protégé. Ils nous enchaînent au mât et on refuse le contrat. Ça, c'est très important.
Axel Buendia : Oui, il faut savoir que la société marche d'une manière un peu originale, je pense ?
[24:21] C'est-à-dire que la plupart des décisions sont prises à l'unanimité, notamment les nouveaux contrats, ce genre de choses. Donc c'est discuté au sein de l'ensemble de la société avec tous les collaborateurs et les collaboratrices. Et donc l'idée c'est de se dire, voilà, on expose où on en est en termes d'argent, combien il nous reste dans notre réserve, etc. Et l'idée c'est que tout le monde puisse prendre la décision en connaissance de cause.
[24:43] Ce qui fait que du coup, quand on a un nouveau contrat, on en discute tous ensemble. Il n'y a pas une seule personne qui décide d'accepter ou pas un contrat. Du coup, ça permet d'avoir une politique assez sereine dans le temps, puisqu'on a réussi à la maintenir, ça fait 22 ans maintenant, depuis quelques semaines. Et c'est très chouette. Et du coup, après, l'IA va avoir des impacts. Là, on s'intéresse beaucoup.
[25:09] à la représentation du monde, à étendre un peu nos systèmes d'IA pour qu'ils apprennent. Ça fait des années, ça fait, 2007-2008 qu'on commence à faire de l'apprentissage sur nos IA. Là aussi, potentiellement, c'est sûr que si on arrivait à faire des IA un peu générales, qui sont capables d'être très crédibles en termes d'interaction, ça a plein d'impacts potentiels.
[25:35] Mais ça reste quand même aujourd'hui des domaines qui se veulent en général assez limités. L'idée c'est pas que ces IA puissent résoudre tout, c'est pas parce qu'on a fait une IA qui marchera dans un jeu de fantasy par exemple qu'elle sera capable de régler des problèmes de sécurité informatique typiquement. Et inversement on pourra faire une IA qui règle des problèmes de sécurité informatique mais qui sera sans doute pas très bonne pour être un bon personnage dans un jeu de fantasy. Donc nous aujourd'hui notre idée c'est quand même de faire des IA qui avant tout soient crédibles.
[26:03] Et même si ça nous rapproche un peu des IA généralistes, puisqu'on s'attaque à l'apprentissage, à la représentation du monde, à toutes les grandes problématiques d'IA d'aujourd'hui, je pense que ça reste quand même des IA qui seront avant tout des IA sociales, dont l'objectif va être de peupler des mondes virtuels.
Jérôme Hoibian : Mais c'est un vrai sujet, ta question.
[26:29] Disons que dès qu'on va sortir du domaine ludique, il y a effectivement des questions de l'usage de l'IA qui peuvent être bénéfiques pour la société, mais qui peuvent être au contraire très problématiques. Et on en a complètement conscience. Ça fait très longtemps qu'entre nous, on discute
[26:52] de l'impact de l'IA sur la perte, la destruction des métiers, etc. C'est vraiment quelque chose qui nous semble vraiment central. Mais donc, c'est compliqué. Tous les champs d'activité, quasiment, si on introduit de l'IA, ça peut avoir des conséquences négatives pour la société.
[27:16] Donc on ne peut pas avoir cet enthousiasme là, on est obligé d'avoir des réserves. D'avoir dans notre petit coin de tête cette partie ludique qu'on adore tous les deux, ça c'est notre chemin, c'est vers là qu'on veut aller, c'est un peu notre Eden. Et après le reste, essayer de faire du damage control pour...
[27:39] pour pas qu'il y ait des dérapages, voilà. Et moi, personnellement, je suis persuadé qu'il va y en avoir. On entend beaucoup des adages qui laissent sous-entendre que dès qu'il y a eu une nouvelle technologie, les gens ont eu peur, que les gens qui ont été menacés, je sais pas quoi, l'imprimerie, non,
[28:03] les métiers à tisser, je ne sais plus quoi, tous ces trucs-là, comment on allait faire, ça va être hyper compliqué. Et c'est vrai qu'historiquement, les gens ont fait autrement, ils se sont rabattus sur d'autres métiers, etc. Moi, je n'ai pas du tout cette vision pour l'IA. Je pense que l'IA va détruire, entre guillemets, enfin prendre la place de métiers humains parmi les métiers qui restaient.
[28:29] J'ai pas l'impression qu'on ait étendu le spectre des métiers. J'ai plutôt l'impression que quand, par exemple, la moissonneuse-batteuse est arrivée, les gens qui travaillaient dans les champs, ils ont dû aller travailler autre part. Dans les champs, il n'y avait plus besoin d'eux. Quand il y avait dans les mines les pelleteuses, etc., dans les mines, il n'y avait plus besoin d'eux, etc. Donc, finalement
[28:52] un petit peu. Moi, mon image, c'est qu'on est sur une île et il y a la marée qui monte. En fait, au début, l'île est remplie de plein de droits où il y a plein de métiers. Et plus l'automatisation arrive, plus le niveau monte et plus les gens se reculent vers le centre de l'île, vers les hauteurs. Et on continue, on continue. Et maintenant, aujourd'hui, il n'y a plus que le sommet de l'île qui est visible. C'est tous les métiers du service.
[29:19] Enfin, j'exagère, il y a encore d'autres métiers, comme quelqu'un qui va construire des bâtiments, etc. Mais en gros, on est tous concentrés sur ce truc-là, et si l’IA continue à monter trop vite et dépasser ce niveau, ben là, il n'y aura plus d'échappatoire. Et ça, c'est une pensée qu'on peut avoir, de dire, qu'est-ce qu'on fera le jour où les automates
[29:43] rempliront toutes les tâches qui sont nécessaires à faire tourner la société. Quel est le rôle de l'être humain dans une société où, en gros, toutes les parties vitales pour faire tourner la société sont automatiquement prises en charge par des IA ou des automates ? Qu'est-ce qu'on fait dans ce monde-là ?
[30:08] Moi, je n'ai pas du tout l'impression que je m'ennuierais. J'ai énormément de choses à faire. Mais peut-être que ça va décourager certaines personnes et que ne pas avoir des contraintes pour aller travailler tous les matins vont peut-être faire qu'ils vont rester toute la journée au lit. On ne peut pas exclure cette possibilité.
Carole : Oui, ce n'est pas très enthousiasmant.
Jérôme Hoibian : J'espère qu'ils auront d'autres trucs à faire.
Carole : Qu'est-ce que tu en penses, Axel ?
[30:35] Axel Buendia : Je pense que ça pose la question de fond de l'automatisation dont parlait Jérôme, c'est-à-dire que l'IA c'est qu'une extension de tout ça. C'est la dernière extension qu'on a trouvée. Il y a eu l'industrialisation, il y a eu l'information, il y a eu l'informatique qui a industrialisé une partie des process. Et maintenant on s'attaque à la créativité, enfin la créativité on va rester
[30:57] avec des guillemets. Mais je pense qu'aujourd'hui, il faut se poser la question, on va sur une ère d'automatisation, peu importe IA ou pas, c'est déjà une ère qu'on a entamée depuis deux siècles. Donc de toute façon, on y est. La question c'est, quelle société on veut pour demain ? Quel rôle jouera l'humain dans cette société ? Quel rôle joueront les machines ? Voilà, et il faut déjà commencer à imaginer comment on va transiter tranquillement vers plutôt qu'une révolution qui serait
[31:23] plus dommageable. Donc la question c'est, et ça a redéfini aussi le rôle du travail, qu'est-ce que ça veut dire le travail ? Ça, ça change malgré nous. On parlait des jeunes. Les jeunes n'ont pas la même vision du travail que nous, qui nous n'avons pas déjà la même vision du travail que nos parents. Donc il y a déjà toute une évolution qui se fait dans la société. Donc je pense que la vraie question c'est quelle société on veut pour demain ? Et pas hésiter à tomber les carcans. C'est-à-dire,
[31:50] on est suffisamment dans des ères un peu révolutionnaires pour qu'on puisse imaginer des choses extrêmement nouvelles qui ne sont pas forcément l'héritage de tout ce qu'on a déjà vécu. Je pense qu'il faut essayer des choses à des échelles locales, parce que c'est difficile de changer une nation d'un coup. Mais il faut essayer des nouvelles choses. Comme nous, on a ce principe de gestion de société qui est un peu particulier. Je pense qu'il faut essayer des choses parce qu'on va vers une ère d'automatisation et à moins qu'on soit rattrapé par d'autres problèmes, parce qu'il y a quand même pas mal d'autres problèmes sur notre planète.
[32:17] écologiques, politiques, etc. Donc à moins que ces autres problèmes nous rattrapent. Mais sinon, on va globalement vers une ère d'automatisation. Et donc la question se pose : c'est quel est le rôle de l'humain dans la société ? Et pour qu'une société tourne, il faut des artistes, il faut des discussions, des échanges. Et ça, je pense que l'IA, ce ne sera pas son rôle de nous remplacer sur ces tâches-là.
Jérôme Hoibian : On n'a pas de dogme du tout sur est-ce que l'IA doit être développée absolument
[32:45] partout ou pas, mais au même titre que est-ce que l'automatisation doit s'étendre partout ? Par exemple, moi, il y a quelque chose qui m'a toujours un peu interloqué, c'est que, du point de vue des politiciens, c'était l'idée de dire « le chômage, c'est une catastrophe ».
[33:07] Et on jugeait plus ou moins négativement les pays en fonction de leur quantité de chômage. Plus le taux de chômage était élevé, plus on considérait que c'était un mauvais élève. Et parallèlement à ça, on lève des impôts. Et dans ces impôts, il y a une partie très importante qui est consacrée à la recherche et l'innovation. Donc là, on a des politiciens qui donnent
[33:33] énormément d'argent aux entreprises pour faire ce qu'on appelle de la R&D. Il y a des avantages comme le crédit impôt recherche ou plein d'autres. En gros, bref, toute l'innovation. Sauf que l'innovation, en gros, ça a pour objectif de faire pareil qu'avant avec moins de monde.
[33:56] Donc en gros, c'est faire du chômage, créer du chômage.
Carole : Je comprends ce que tu veux dire.
Jérôme Hoibian : Il y a cette idée, ok, moi je veux bien faire de l'innovation, je sais qu'en faisant de l'innovation, je vais réussir à faire qu'un processus comme ça, en deux secondes, ça va faire ce qu'avant une personne mettait une semaine à faire. C'est pas forcément, on y a toute machine, tout processus d'optimisation, mais du coup, forcément, on va avoir besoin de moins de personnes. Donc est-ce qu'on devrait pas, au contraire,
[34:23] prendre l'ordonnancement des pays qui ont le plus de chômage et les célébrer comme ceux qui sont le plus en avance.
Carole : Oui, je comprends.
Jérôme Hoibian : Mais on ne peut pas avoir ce double discours d'être pour l'innovation et contre le fait qu'il y ait du chômage. Il y a quelque chose que je trouve contradictoire.
Carole : Oui, mais ça, c'est casser les carcans, comme tu disais, Axel, et avancer la réflexion différemment, sortir des schémas qu'on connaît.
[34:50] Axel Buendia : Tout à fait. Après, il y a d'autres formes d'innovation qu'optimiser tous nos process, mais souvent, c'est pour ça.
Jérôme Hoibian : C'est vrai, c'est caricatural. C'est souvent, pas toujours, mais c'est souvent faire presque aussi bien avec beaucoup moins de monde.
Axel Buendia : Et ça, je pense que ça vient quand même de la recherche du profit absolu. C'est-à-dire qu'il y a quand même une fondamentale partout qui est la recherche du profit, qui, je pense, est moins présente dans notre société.
[35:16] où nous on recherche juste l'équilibre.
Jérôme Hoibian : Notre société Spirops.
Axel Buendia : Notre société, je veux dire Spirops. Notre société, on recherche juste l'équilibre. En gros, on essaie de bien se payer, mais voilà quoi. On ne veut pas avoir toujours plus d'argent, ce n'est pas notre objectif. En fait, notre objectif, c'est d'arriver au boulot, de faire des trucs sympas.
Jérôme Hoibian : Et moi, je trouve que c'est une bonne transition par rapport à ta question initiale. Ça pose des questions de société ?
[35:43] Donc là, dans un podcast comme le nôtre, est-ce que des ingénieurs en IA, seuls, en train de discuter entre eux, peuvent répondre à ce genre de questions ? Je trouve que c'est un peu limité. Donc, faire intervenir lors de prochaines rencontres un historien, un sociologue, un philosophe,
[36:05] un professeur ou je ne sais quelle autre profession, ça nous paraît vital aujourd'hui. D'étendre …un politicien, …d'étendre cette discussion à autre chose que des laboratoires de recherche ou des studios de jeux vidéo ou autre.
Axel Buendia : Qui sont plus techniques.
[36:28] Tout l'intérêt je pense vient de cette espèce de confrontation au sens bénéfique du terme, c'est-à-dire on a des points de vue différents et c'est important qu'on puisse échanger nos points de vue pour que chacun transite un peu, sorte de sa zone de confort et ait une meilleure perspective. Personne n'a une bonne perspective sur le monde donc la question c'est comment on peut essayer de s'en rapprocher pour prendre des décisions de manière plus sereine et plus responsable.
[36:52] Jérôme Hoibian : Et moi, je serais extrêmement intéressé à rencontrer des personnes qui soient extrêmement critiques vis-à-vis de l’IA.
Axel Buendia : Et on a hâte de voir tous les invités qu'on va avoir, parce que c'est vraiment ça la richesse de ce podcast.
Jérôme Hoibian : Ah oui, ça sera super, ça.
Carole : Eh bien, très bien. Rendez-vous aux prochains épisodes.
Axel Buendia : Merci, Carole.
Carole : Merci.
Distribué par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.
