Florian Douetteau (Dataiku) : "L’IA pourrait donner à des humains mal intentionnés la capacité de construire des systèmes nocifs"

Décideurs. Comment l’offre de Dataiku a-t-elle été impactée par les dernières évolutions de l’IA ?

Florian Douetteau. Chez Dataiku, nous élaborons des logiciels capables d’aider les entreprises à tirer le meilleur parti des données. Avec le développement de l’intelligence artificielle générative, les modèles prédictifs deviennent de plus en plus performants. Ces derniers mois, nous avons intégré dans notre plateforme les fournisseurs des plus grands modèles de langage (LLM), tels que Mistral AI ou Open AI. Le but ? Que nos clients puissent développer des cas d’application issus de l’intelligence artificielle générative. La plupart des entreprises qui utilisent ce type d’offres savent qu’il s’agit d’un domaine en devenir et qu’il convient encore de réfléchir à ce qui est faisable et à la valeur réelle de ce qu’elles apportent.

Constatez-vous une différence d’usages entre les Américains et les Français ?

Toutes les entreprises et tous les pays sont confrontés au défi de la vitesse à laquelle se développent ces nouvelles IA et leurs impacts. Je pense qu’il ne faut pas faire cette distinction. Ce qui compte, c’est la capacité des dirigeants à en faire une priorité concrète dans leurs investissements et leurs plans stratégiques.

L’IA va-t-elle changer le quotidien des entreprises ?

Il convient de rappeler que l’IA n’est pas quelque chose de nouveau pour les entreprises. Elles l’utilisent déjà pour optimiser un certain nombre de processus ou comme outils prédictifs par exemple. Avec le développement de l’IA générative, elles pourront aller chercher plus de productivité grâce aux données. Pour beaucoup de métiers, les datas, mêmes complexes, pourront être analysées afin de faciliter la prise de décisions. Ce qui prenait quelques heures prendra parfois quelques minutes. Les entreprises pourront par exemple améliorer leur relation clients. Elles doivent anticiper les changements profonds qui en découleront. L’impact devrait être aussi important que celui que l’on a connu avec la digitalisation dans les années 2000-2010.

"L’impact devrait être aussi important que celui que l’on a connu avec la digitalisation dans les années 2000-2010"

Le traitement des données sensibles par les entreprises va-t-il être le cœur du réacteur dans les prochains mois voire prochaines années ?

La question de la conformité se pose à plusieurs niveaux. Il y a les risques liés à la violation des droits de propriété intellectuelle. Il convient d’aller vers une compréhension plus fine des notions de droit qui encadrent les créations et qui doivent encore être clarifiées à la fois par les États et par le marché. Il existe également des risques lorsque les entreprises utilisent l’IA. Elles ne peuvent pas uniquement fabriquer des modèles avec des données et en donner l’usage à tous leurs collaborateurs car il y a des questions de confidentialité. Donc tout le monde ne peut pas utiliser les mêmes modèles. Enfin, il y a la problématique liée à l’utilisation des données personnelles. Les entreprises doivent pouvoir garantir le traçage des datas et expliquer comment et pourquoi tel ou tel traitement a été choisi.

Quelle éthique pour l’IA ? Ou met-on le curseur ?

La question de l’éthique se pose d’abord dans l’utilisation qui est faite de ces outils. Mais derrière se cachent deux autres aspects. Le premier est la mise à disposition à un grand nombre de personnes de technologies qui, si elles ne sont pas bien utilisées, peuvent être porteuses de dangers. L’IA pourrait donner à des personnes mal intentionnées la capacité de construire des systèmes nocifs. Deuxièmement, les entreprises doivent avoir une bonne compréhension des tenants et aboutissants dans leur mise en œuvre au quotidien de ces outils. Elles vont être tenues de développer une vision éthique des usages. Il leur faut développer des sécurités et des contrôles afin de garantir cette éthique et ainsi éviter de mettre en danger leur réputation.

Propos recueillis par Olivia Vignaud