Dans cet épisode de Logique Floue, rencontre avec William Ledoux, chercheur en intelligence artificielle chez Spirops depuis 17 ans.

Amateur de science-fiction, de jeux vidéo et de robotique depuis l'enfance, William raconte  ce qui l’a conduit à consacrer sa carrière à une question simple : comment créer des intelligences artificielles capables de prendre des décisions crédibles et de se comporter de manière autonome ?

À contre-courant de l'approche dominante fondée sur l'apprentissage à partir de données massives, il défend une intelligence artificielle conçue comme un artisanat : des mécanismes explicitement construits par des humains, dont chaque règle, chaque décision et chaque comportement peuvent être compris, expliqués et améliorés.

Au fil de la conversation, il nous plonge dans les coulisses du travail de SpirOps : la modélisation de comportements, la simulation de foule, la création de personnages virtuels dotés de souvenirs, mais surtout un équilibre constant entre développement logiciel, travail d’équipe, et exercices de pensée, dans l’espoir d’un jour capturer l’essence des mécanismes humains.

L'épisode aborde également plusieurs enjeux actuels de l'IA :• Que gagne-t-on -— ou que perd-on -— lorsque les machines apprennent seules ?

• Peut-on réellement faire confiance à des modèles d’IA générative dont personne ne comprend totalement le fonctionnement ?

• Quel est le coût écologique de l'usage généralisé de l'IA ?

Au-delà des questions techniques, William défend une conviction : comprendre comment une solution émerge est souvent plus important que la solution elle-même.

Un épisode qui explore une autre façon de faire de l'intelligence artificielle : plus explicable, plus maîtrisée, mais aussi plus humaine.

TRANSCRIPTION DE L'EPISODE

Logique Floue – Podcast

Spirops

Transcription de l’épisode 3:

William Ledoux

[00:00] Carole : Logique Floue est un podcast consacré à l'intelligence artificielle et au monde qui se construit autour d'elle. Au fil des épisodes, des chercheurs, entrepreneurs, philosophes ou acteurs publics viendront partager leur vision de l'IA. D'autres épisodes seront consacrés aux femmes et aux hommes qui la développent au quotidien. Aujourd'hui, rencontre avec William Ledoux qui travaille chez Spirops depuis 17 ans.  

[00:28] William Ledoux : À l'époque où j'ai choisi cette voie, c'était une époque où les IA étaient quand même assez nulles. Et en fait, il y avait cette conviction qu'on peut faire mieux. Et à l'époque, ce qu'on appelait l'IA, par exemple, dans les jeux vidéo, c'était le « pathfinding », c'est-à-dire le fait qu'un personnage puisse aller d'un endroit à l'autre. C'était ça, l'IA. C'était juste qu'il arrive à trouver son chemin et qu'il le suive.  

[00:54] Et donc du coup, moi j'avais des jeux auxquels je jouais où j'avais des adversaires qui étaient pas crédibles quoi, qui étaient pas... Donc il y avait ce truc là et j'avais lu Asimov, j'avais eu des magazines sur les robots et j'avais ce truc de ah mais je vois pas comment ça peut être possible ce qu'ils décrivent dans les bouquins de science-fiction. C'est-à-dire que...  

[01:21] Et en même temps, j'ai envie de voir, est-ce que c'est possible ou pas ? Et quand je lisais, je me disais, mais alors si je devais faire ça, comment je ferais ? Et du coup, à force de se poser ces questions, on a des idées et on a envie de voir si elles marchent. 

Carole : Est-ce que tu pourrais te présenter et nous dire ce que tu fais aujourd'hui ?  

[01:44] William Ledoux : Je m'appelle William et je travaille à Spirops depuis 17 ans. Donc nous, à Spirops, on fait de l'IA un peu à l'ancienne, c'est-à-dire qu'on écrit nos règles, on fait nos mécanismes décisionnels à la main avec des outils et une méthode. On ne fait pas de l'apprentissage automatique, on peut faire de l'apprentissage de parties de règles, mais globalement, ça reste quelque chose de...  

[02:11] Ça reste un peu de l'artisanat, quelque chose de maîtrisé, de dessiné par un humain. 

Carole : Qu'est-ce qui te plaît particulièrement chez Spirops ? 

William Ledoux : J'aime beaucoup le fait qu'on développe nos technologies beaucoup en interne, qu'on prenne les décisions en commun. On a du coup, au fil des années, construit une manière de fonctionner incroyablement  

[02:35] et des outils technologiques qui sont hyper agréables et dont je ne me verrais pas me passer si je devais travailler ailleurs. Tous les développeurs sont libres de travailler sur le sujet sur lequel ils pensent que c'est important de travailler. Et on est souvent partagé entre faire des fonctionnalités, c'est-à-dire faire le travail qu'il faut qu'on fasse, et faire les outils qui nous permettent de faire ce travail plus vite.  

[03:03] Donc on a un curseur à trouver parce qu'on peut passer, si on prend une analogie d'un menuisier, il peut passer tout son temps de travail à faire la machine parfaite qui lui permettrait de faire des meubles ou inversement il peut faire des meubles. Et donc celui qui va faire que des meubles, il va les faire lentement parce qu'il n'aura jamais investi pour se construire ses outils et celui qui va faire que les outils, il n'aura fait aucun meuble.  

[03:28] Et dans la boîte, on a différents profils qui ont une appétence pour différentes parties. Il y en a qui sont des très bons starters, c'est-à-dire qui vont commencer un projet très vite. Et puis il y en a qui sont plus dans le détail, faire le truc parfait. Et il y en a qui aiment bien faire les outils.  

[03:51] Il y en a qui aiment bien débuguer. On a chacun nos compétences. Donc l'idée, c'est de faire beaucoup de pair-programming et d'aller chercher quelqu'un qui va venir. On travaille beaucoup plus vite à deux et de trouver quelqu'un qui va venir tacler le problème qu'on a sur la planche là. Et ça peut tourner beaucoup entre les projets. On a aussi à Spirops le fait qu'on construit de la technologie  

[04:18] peut-être pour un client et on sait que cette technologie elle peut servir à autre chose derrière donc on peut trouver un intérêt plus large que le projet sur lequel on travaille vraiment l'application. 

Carole : Tu peux me donner un exemple ?

William Ledoux : Un des objectifs de l'entreprise c'est de faire des villes un peu vivantes et autonomes, qui ont l'air vivantes avec des personnages qui ont l'air de vivre leur vie, qui ont leurs souvenirs, qui ont leurs émotions, qui vont réagir à ce qui se passe autour  

[04:45] de manière procédurale, c'est-à-dire qu’ils ne soient pas scriptés ou programmés. Et avec cet objectif-là, du coup, on fait beaucoup de technologies, parfois pour des applications qui ont l'air lointainement liées, mais nous, on sait que cette brique-là, elle nous est utile pour notre route à nous. Et donc, en fait, quel que soit le client, on...  

[05:12] on a cet objectif-là en ligne de mire, donc ça donne de l'intérêt.

Carole : Mais concrètement, ça veut dire quoi ? Ça s'applique comment ?

William Ledoux : Typiquement, on avait été contacté par le centre de recherche et innovation d'un grand parc d'attractions. Ils avaient été contactés par un des parcs d'attractions du groupe parce qu'ils avaient refait un restaurant. Et après l'avoir refait, il marchait moins bien qu'avant.  

[05:35] Et donc, il disait comment est-ce qu'on aurait pu se prémunir de ça ? Et donc, la partie recherche-innovation s'est dit, en fait, si on construisait un simulateur, on pourrait permettre à tous nos parcs d'attraction d'améliorer certains agencements pour faire que les visiteurs soient plus contents, que ça se passe mieux. Et donc, c'est comme ça qu'on avait commencé à développer la simulation de foule.  

[06:00] Et donc à s'intéresser à qu'est-ce que c'est que l'espace personnel des gens, pourquoi les gens naviguent comme ça, pourquoi est-ce qu'ils vont se décaler, pas se décaler, se mettre près d'un mur, etc. Comment naviguent les gens en groupe, en famille, est-ce qu'ils s'attendent, est-ce qu'ils ne s'attendent pas, est-ce qu'ils se split, comment est-ce que des gens évitent des gens qui se prennent en photo, ce genre de choses. Toujours en gardant à l'idée de  

[06:23] nous ce qu'on veut c'est comprendre les motivations qui font que les gens se comportent comme ça on veut pas reproduire bêtement quelque chose qu'on observe on va essayer de comprendre c'est quoi les facteurs cognitifs qui font que les gens font ça pourquoi ils font ça et une fois qu'on a fait ça après on a travaillé on a poursuivi ce travail sur la simulation de piétons dans d’autres environnements y compris urbain etc et on a toujours gardé  

[06:50] ce modèle-là. Et parce que nous, ça nous permet d'avancer sur des mécanismes cognitifs humains et les biais cognitifs, etc. 

Carole : Mais comment vous réfléchissez à ces mécanismes cognitifs ?

William Ledoux : Il peut y avoir plein de raisons pour lesquelles les gens ne se collent pas l'épaule au mur quand ils marchent dans le métro. Et en fait, c'est en...  

[07:13] en designant des expériences pour essayer de les pousser à le faire, qu'on se rende compte des raisons qui le font. Donc il y a des moyens, des expériences de pensée qui nous permettent de... On fait beaucoup ça à Spirops, c'est-à-dire on se place dans une situation hypothétique et on essaye d'imaginer comment est-ce qu'on réagirait dans ce cadre-là et on confronte  

[07:35] les réactions des différentes personnes et en général à 5-10 personnes qui ont des réactions différentes on arrive à dire ah oui ok toi t'aurais fait comme ça moi j'aurais fait comme ça mais alors pourquoi on fait pas pareil et donc on explique ah bah moi ça c'est parce que j'ai peur de tel truc ah ok donc moi j'ai pas du tout peur de ça pourquoi est-ce qu'on comment est-ce qu'on pourrait mettre un paramètre derrière ça et dire ah oui ok donc toi c'est parce que t'es  

[07:58] Tu as ce respect des règles, par exemple, qui est plus fort que chez moi. Et donc, OK, on peut designer les différentes stratégies et les lier à un paramètre qui a une caractéristique. Puis après, dans nos piétons, on tire au sort les caractéristiques et on obtient des gens qui ont des comportements qui sont différents, mais qui ne sont pas complètement aléatoires, qui s'expliquent par des caractéristiques propres aux personnes. 

Carole : Tout ça, finalement, ça me paraît assez réfléchi, raisonné.  

[08:26] Pourquoi tu penses que les gens aujourd'hui ont peur de l'IA ?

William Ledoux : Ce qui fait peur, c'est l'IA qui apprend toute seule et qui du coup...  

[08:37] perd les pédales en fait quand on fait de l'IA on  

[08:43] on peut vulgariser un peu la pratique en disant qu'on fait un programme qui doit choisir quelque chose. Et pour choisir, il y a souvent ce truc de savoir qu'est-ce qui est le mieux. Et donc, ça prend différentes formes, mais en gros, on va essayer de faire une fonction de score qui va essayer de noter les choses. Et après, on va optimiser ce score-là.  

[09:05] Alors que même dans des techniques d'IA très proches des maths appliquées, de l'optimisation combinatoire, des choses comme ça, on va écrire une formule qui correspond à la qualité d'une solution et on va chercher ensuite à obtenir une solution qui fait le meilleur score. Si on se trompe dans cette formule, c'est-à-dire que si on oublie un paramètre qui en fait était important, les solutions qui vont être trouvées auront un très bon score mais répondront pas à ce qu'on veut.  

[09:30] Et c'est ça qui fait peur dans l'IA. C'est-à-dire qu'on se dit, si je demande à une IA, je ne sais pas, trouve une solution pour sauver la planète du réchauffement climatique, et puis j'ai oubli é de lui dire de maintenir une population humaine décente, bon, la solution, elle est vite trouvée. J'éradique tous les humains. Et du coup, c'est ça qui fait peur. En fait, si j'ai oublié un critère dans le score...  

[09:52] ça peut faire n'importe quoi donc nous c'est notre expertise c'est d'essayer de faire une formule qui n'a pas de faille qui n'a pas de trou dans la raquette qui va ménager tous les aspects du problème et c'est souvent multi-objectif on veut à la fois quelque chose de safe, de rapide de pas coûteux  

[10:16] Donc c'est toujours un peu, c'est une compétence de réussir à développer des formules qui tiennent la route. Et c'est un peu le centre de tout. Et du coup, c'est ça qui fait que les gens ont peur des IA, c'est quand les formules ne sont pas bonnes. Et la seule manière de se rassurer, c'est de savoir c'est quoi les objectifs de l'IA et d'avoir confiance dans le fait que  

[10:42] Il n'y aura pas de raccourci qui sera délétère. 

Carole : Et toi, il y a des choses qui peuvent te faire peur dans l'usage de l'IA ? 

William Ledoux : Un des trucs, moi, qui m'alerte, effectivement, c'est l'empreinte écologique. Ce qui se passe, c'est que...  

[11:01] C'est un peu comme si on avait inventé la voiture et qu'on avait amené ça dans un endroit où les gens ne se déplaçaient qu'à pied. Et donc évidemment, ils trouvent ça génial. Et ensuite, comment est-ce qu'on leur apprend à ne pas utiliser la voiture quand ils vont à deux pas, quand ils vont chercher le pain à 500 mètres, etc. Le problème avec les IA là, un des problèmes, c'est que  

[11:25] plus elles sont généralistes, plus elles arrivent à faire des choses, plus elles sont malléables, plus on va pouvoir leur faire des choses qu'en fait on savait déjà faire avec des techniques traditionnelles. Et en fait, plus ça va rendre accessible ça à des gens et qui, du coup, n'ont pas connaissance des techniques traditionnelles qui potentiellement allaient mille fois plus vite.  

[11:51] et donner des résultats plus fiables sans hallucinations etc et ça je sais pas trop comment faire mais moi je me mets à la place de quelqu'un qui ne sait pas programmer ou qui n'a pas connaissance de et qui a besoin de faire quelque chose d'assez en fait c'est assez simple si on demandait un programmeur mais lui il est pas programmeur puis on lui passe une IA, bah il va le faire faire à l’IA et en fait du coup l'empreinte carbone elle a rien à voir  

[12:17] donc ça m'interpelle un autre truc qui m'interpelle c'est que donc le les systèmes d’IA par apprentissage on peut les tester et  

[12:29] On peut leur faire passer des tests qui sont assez complexes, mais on ne peut pas les corriger au sens... Donc il faut imaginer qu'une IA, c'est une sorte d'immense table de mixage avec plein de petits potards. Et par un processus mathématique, on a appris à tourner les potards de manière à ce qu'elles donnent la réponse attendue dans le plus grand nombre de cas possibles.  

[12:56] Mais personne, même la personne qui a construit le modèle, ne sait dire « ce potard, il sert à ça, ce potard, il sert à ça ». Et en fait, si jamais l'IA, elle ne dit pas la bonne réponse, il suffit que je bouge ça un peu, personne ne sait faire ça. Donc on ne sait pas pourquoi elle marche et on ne sait pas la corriger quand elle ne marche pas. Ça, c'est un autre des problèmes. Et donc, il y a du travail maintenant pour essayer de faire une IA qui génère aussi ses propres explications de pourquoi elle marche comme ça.  

[13:22] mais ça reste quelque chose d'un peu généré. Moi, ça m'enlève un peu une partie de l'intérêt du travail. C'est-à-dire que réfléchir avec mes collègues à comment marche le cerveau humain et comment on pourrait simuler la construction de préjugés ou de l'oubli sélectif ou des choses comme ça,  

[13:49] je trouve ça hyper intéressant parce que je viens apporter ensemble les réponses à ces questions et les tester et je comprends à la fin pourquoi ça marche pas comment on pourrait faire mieux et c'est un peu ce travail de d'artisanat que j'aime bien si j'utilisais des techniques dia par apprentissage mon travail consisterait à créer des ensembles de données  

[14:16] créer la manière dont je place mes potards et comment ils sont reliés entre eux, regarder le résultat et puis si ça marche pas je peux pas partir là-dessus et améliorer, je vais dire ah bon, je vais... ok je... Mon travail consistera à prendre des données et regarder des statistiques et essayer de faire quelque chose qui bat ces statistiques mais sans comprendre comment ça les a battues et au final l'amélioration j'ai l'impression qu'elle vient pas de moi.  

[14:44] C'est pas moi qui ai trouvé la solution, donc je trouve ça moins gratifiant intellectuellement. 

Carole : Donc ce qui te plaît c'est de trouver la solution ? 

William Ledoux : Bah oui. 

Carole : À plusieurs ? 

William Ledoux : Ouais. C'est un peu comme si, moi si on me donne un casse-tête je peux rester des heures dessus, mais construire une machine qui trouverait toute seule la solution au casse-tête, par essai-erreur ?  

[15:07] ça m'intéresse moins. C'est le chemin qui est intéressant.  

Distribué par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.