Peter Secor (Slack) "Slack va intégrer davantage de fonctionnalités d'IA pour devenir la porte d'entrée vers Salesforce"

Peter Secor est SVP software engineering chez Slack, où il s'occupe principalement de l'intégration des fonctionnalités d'IA générative.

JDN. Quel est le modèle à l'œuvre derrière Slack AI ? Comment êtes-vous parvenus à drastiquement limiter les risques d'hallucinations ?

Peter Secor. Slack AI utilise son propre modèle de langage pour générer les réponses, tout en respectant les mêmes normes de sécurité et les méthodes d'accès que Slack et Salesforce. Les données des utilisateurs ne sont pas utilisées pour entraîner le modèle et ne sont pas écoutées. Slack AI utilise la méthode RAG (retrieval-augmented generation, ndlr) pour construire un contexte très riche et générer un prompt permettant de fournir une réponse vérifiée. Les données utilisées proviennent directement de Slack et sont contrôlées par l'entreprise, garantissant ainsi leur fiabilité. Des méthodes de vérification supplémentaires sont appliquées.

Quelles sont les nouvelles fonctionnalités offertes par Slack AI ?

Slack AI offre actuellement trois fonctionnalités principales, accessibles à tous les utilisateurs, même sans compétences techniques. La première est le résumé des canaux, permettant de générer des synthèses des différents canaux de discussion. La deuxième est le résumé des fils de discussion, où l'IA peut également résumer les échanges pour une lecture plus rapide et efficace. La troisième est la recherche intelligente, qui permet de trouver facilement les informations pertinentes au sein des conversations Slack.

Une quatrième fonctionnalité vient d'être annoncée : le Digest. Il s'agit d'un récapitulatif quotidien des informations provenant de plusieurs canaux, délivré sur la version desktop. C'est particulièrement utile pour les canaux très actifs, permettant de filtrer rapidement les informations intéressantes.

Quelles sont les mesures de sécurité et de confidentialité mises en place pour protéger les données des clients lors de l'utilisation de l'IA dans Slack ?

Les mesures de sécurité déjà en place avec Slack sont maintenues avec Slack AI: les données ne franchissent jamais les frontières de sécurité de l'entreprise. Ainsi, si vous êtes une entreprise cliente, vous conservez la maîtrise de vos données. Il en va de même pour Salesforce dans son intégralité. Nous nous efforçons continuellement de renforcer notre position en matière de sécurité et d'améliorer nos pratiques au quotidien, car les attaquants ne cessent également d'évoluer. Nous mettons également en place des journaux d'audit et d'autres outils de contrôle pour vérifier régulièrement la robustesse de nos systèmes.

Quelles fonctionnalités d'IA prévoyez-vous d'intégrer à l'avenir ?

Nous prévoyons d'intégrer davantage de fonctionnalités d'IA pour devenir la porte d'entrée vers l'ensemble de la plateforme Salesforce. Les utilisateurs pourront ainsi collaborer et effectuer des recherches intelligentes sur leurs données directement depuis Slack. Parmi les nouvelles fonctionnalités envisagées, on trouve les digests, qui offriront des résumés quotidiens. Nous prévoyons d'intégrer Einstein Copilot afin de pouvoir connecter l'IA aux données structurées présentes dans Data Cloud, Sales Cloud, Marketing Cloud, etc. On explore également la possibilité d'ajouter de l'IA à d'autres fonctionnalités existantes telles que Canevas, Huddles et Lists, bien que les détails exacts ne soient pas encore précisés. L'objectif est de proposer une expérience guidée, accessible à tous les utilisateurs, même sans compétences techniques.

"Les grands modèles de langage ne seront pas le facteur de différenciation principal"

Comment comptez-vous démarquer Slack des plateformes de digital workplace concurrentes ?

Slack se démarque grâce à l'intégration des données structurées de Salesforce. Ces données sont propres à chaque entreprise et s'ajoutent aux données semi-structurées déjà présentes dans Slack, telles que les messages et les informations d'identification. Le fait que ces données soient spécifiques à l'entreprise et ne proviennent pas du web public est un atout majeur. Ce n'est pas tant l'IA en elle-même qui fait la différence, mais plutôt son application aux données de l'entreprise. À l'avenir, il est probable que les grands modèles de langage ne seront pas le facteur de différenciation principal. Ce seront vraiment les données qui feront la différence, avec éventuellement des LLM spécialisés pour certaines industries. L'essentiel sera de proposer une expérience utilisateur accessible à tous, sans nécessiter de compétences en ingénierie, sauf si l'utilisateur le souhaite.

Prévoyez-vous d'intégrer des fonctionnalités génératives basées sur de l'IA on device ?

Nous prévoyons d'expérimenter diverses approches, mais pour le moment, l'IA reste hébergée dans notre infrastructure. Toutefois, s'il s'avère pertinent d'intégrer des fonctionnalités en périphérie, comme sur un appareil mobile ou un ordinateur, nous explorerons certainement cette piste. Des solutions comme Ollama ou d'autres technologies similaires pourraient permettre une telle intégration. Nous ne sommes pas encore certains que cette approche soit la mieux adaptée aux cas d'usage professionnels que nous visons. Il nous faut évaluer si l'IA on-device est compatible avec les besoins et les attentes de nos clients en termes de performances, de sécurité et de confidentialité des données. Pour l'instant, nous nous concentrons sur l'optimisation de notre infrastructure centralisée pour offrir les meilleures fonctionnalités d'IA générative.

"L'IA ne remplace pas le développeur"

Vous êtes responsable d'une grande équipe de développeurs. Pensez-vous comme Jensen Huang de Nvidia que l'IA les remplacera dans les prochaines années ?

Non, je ne pense pas que l'IA remplacera les développeurs dans les prochaines années. Au contraire, je crois qu'elle va augmenter leur potentiel. Lorsque je considère l'IA, j'y vois des opportunités pour optimiser les processus existants. Pour les développeurs, même si Jensen Huang a peut-être raison dans une certaine mesure, mon expérience dans notre entreprise me montre que l'IA est plutôt un outil complémentaire. Prenons l'exemple de la revue de code : l'IA ne remplace pas le développeur, mais elle lui permet d'effectuer cette tâche plus rapidement et plus efficacement.