Explication des grands modèles tabulaires : comprendre une nouvelle forme d'IA générative

Un grand modèle tabulaire est un type de système d'IA générative capable d'analyser des tableaux à grande échelle et d'autres types d'ensembles de données organisés, tels que des milliards de transactions de paiement stockées proprement dans des lignes et des colonnes fixes. Il peut rechercher des tendances et faire des prévisions à l'aide de ces ensembles de données. De cette manière, il peut aider à repérer des tendances et des comportements qu'il serait difficile pour des personnes, ou pour d'autres types de logiciels, de découvrir. 

Les grands modèles de langue, qui alimentent le ChatGPT d’OpenAI et le Gemini de Google, sont formés sur du texte, des images et des vidéos, également connus sous le nom de données non structurées. Ils sont particulièrement doués pour créer des types de contenu similaires, tels que des nouvelles ou des images, et peuvent également être utilisés pour développer du code informatique.

Un modèle LTM est entraîné sur des données structurées, comme les lignes et les colonnes d’enregistrements de transactions. Les modèles LTM excèlent dans la recherche de tendances, la prédiction de comportements et l’amélioration potentielle des systèmes en arrière-plan.

Les deux types de modèles d’IA générative sont entraînés à l’aide d’immenses volumes de données — qu’il s’agisse de texte écrit pour les LLM ou d’ensembles de données organisés pour les LTM. Les deux types de modèles peuvent ensuite utiliser cet apprentissage pour analyser et prédire.

Pour un LLM, cela peut signifier prédire quel sera le mot suivant dans une phrase après avoir analysé des millions et des millions de phrases. C’est ainsi qu’il est capable d’écrire une nouvelle histoire ou des paroles de chanson.

Pour un modèle à longue mémoire, cela peut signifier prédire la prochaine transaction de paiement d'une personne après avoir analysé des milliards de transactions antérieures. De cette façon, il peut informer les modèles de prévention de la fraude sur ce qui constituera probablement une transaction légitime et ce qui pourrait être une fraude.

Bien que les LLM ne soient pas aussi performants avec les données structurées, les LTM ont tendance à exceller dans le traitement et l’analyse de ce type d’informations. Étant donné que les LTM et les LLM apprennent à partir de différents types de données, l’un ne remplace pas l’autre. Ils remplissent plutôt des fonctions différentes et peuvent se compléter. 

Les LTM peuvent être utilisés pour analyser différents ensembles de données et des données structurées, permettant aux utilisateurs de trouver de nouvelles connexions et d’obtenir de nouvelles perspectives dans de grands tableaux disparates comportant de nombreuses lignes de données.

Dans les services financiers et les paiements, un LTM pourrait aider à repérer les activités suspectes plus tôt et plus précisément en apprenant les schémas à partir de grandes quantités de données de transaction. Il pourrait reconnaître les habitudes de dépenses typiques et identifier rapidement lorsqu'un élément ne correspond soudainement plus à ce schéma. Parce qu'un LTM apprend à quoi ressemble un comportement normal dans de nombreuses situations, il peut également aider les systèmes de fraude à éviter de signaler des achats légitimes comme frauduleux, réduisant ainsi les refus de cartes inutiles tout en continuant à rechercher les risques réels.

Mastercard a commencé à développer ses propres LTM, formés sur des milliards de transactions anonymisées, pour analyser précisément ce type de scénarios et d'utilisations. Nous pensons que nos LTM pourraient être utilisés pour la cybersécurité, les programmes de fidélité et de récompenses, les modèles de personnalisation, l'optimisation de portefeuille et les outils d'analyse de données. De plus, étant donné qu'un LTM est plus flexible que les systèmes d'IA d'apprentissage automatique traditionnels existants, nous pourrions être en mesure d'utiliser une poignée de LTM au lieu de construire et de maintenir des milliers de modèles d'apprentissage automatique plus traditionnels aujourd'hui.

Outre les paiements et les services financiers, les grands modèles de langage pourraient être utilisés dans tous les secteurs qui gèrent de grandes quantités de données structurées — de l’industrie pharmaceutique à l’énergie, en passant par le transport et la logistique —, ce qui permet aux organisations de dégager de nouvelles perspectives à partir de leurs données.

D’après les informations accessibles au public à la date de publication de cet article, il semble qu’il y ait peu — voire aucun — de modèles LTM en production aujourd’hui. Cependant, de nombreuses entreprises ont jusqu’à présent annoncé des résultats positifs concernant la recherche et le développement de leurs propres modèles LTM, et beaucoup semblent travailler en vue de leur production. Des actualités tombent chaque jour concernant les capacités de l’IA générative. Il faut donc s’attendre à des changements rapides et à de nouvelles découvertes impliquant les modèles LTM.

Pour l'instant, il apparaît que, contrairement aux LLM, les LTM sont plus susceptibles de fonctionner en arrière-plan, en renforçant les systèmes de prévention de la fraude, en analysant de grands ensembles de données et en renforçant les capacités de science des données au sein des organisations.

Nous ne savons pas encore comment les LTM pourraient interagir avec les agents d'IA. Aujourd'hui, les LLM sont utilisés comme base pour alimenter de nombreux types d'agents d'IA, comme ChatGPT, mais les mêmes types de cas d'utilisation ne sont pas aussi évidents pour les LTM, car ils sont davantage utilisés pour améliorer et rationaliser les opérations et les systèmes des organisations. Cependant, nous pouvons imaginer un avenir dans lequel un agent pourrait travailler avec un LTM pour résoudre des problèmes du monde réel de la même manière que cela se fait aujourd'hui avec les LLM.

Par exemple, un agent pourrait un jour utiliser l’analyse d’un LTM pour alimenter des recommandations personnalisées pour une personne faisant des achats par l’intermédiaire d’un robot conversationnel d’IA générative. De cette façon, les LTM pourraient éventuellement être utilisés pour contribuer à alimenter le commerce agentique, une forme de vente au détail nouvelle et en développement utilisant ces agents pour faire des emplettes, découvrir et acheter.