Les équipes de l’AI Singapore et de l’INSAIT ont exploité Gemma, une famille de modèles de langage open source, pour créer des LLM (Large Language Models) adaptés aux besoins spécifiques de leurs communautés, dans un esprit d’innovation et d’inclusivité en matière d’IA.
**Des LLM sur mesure**
Gemma permet aux développeurs de personnaliser des LLM pour des langues spécifiques ou des domaines spécialisés. En s’appuyant sur son architecture Transformer, ces modèles peuvent être entraînés sur d’importants ensembles de données textuelles, leur permettant d’apprendre des schémas et des relations linguistiques complexes.
**Des communautés linguistiques renforcées**
AI Singapore a utilisé Gemma pour créer SG-ELECTRA, un LLM taillé sur mesure pour la langue de Singapour, Singlish. Ce modèle a permis de combler le fossé entre l’anglais standard et le langage vernaculaire parlé, ouvrant ainsi l’accès à des technologies comme la recherche et la traduction pour un public plus large.
**« Nous nous efforçons de créer une IA inclusive qui répond aux besoins de tous les Singapouriens, quelle que soit leur langue maternelle »**, a déclaré le Dr Pankaj Gupta, directeur d’AI Singapore.
**L’INSAIT au service de la francophonie**
De son côté, l’INSAIT a créé Maghrebi-ELECTRA, un LLM adapté aux dialectes arabes parlés au Maghreb. Ce modèle devrait améliorer les performances des applications de PNL dans la région, favorisant ainsi l’accès à l’information et la communication dans des langues locales.
**Une IA plus représentative**
Cette approche axée sur la communauté permet de créer des IA plus représentatives des différentes cultures et langues. En intégrant une plus grande diversité linguistique dans les modèles, nous pouvons garantir que les innovations technologiques profitent à tous, sans exception.
**Conclusion : vers une IA inclusive**
Le développement de LLM sur mesure à l’aide de Gemma témoigne de la puissance de l’open source pour promouvoir l’innovation et l’inclusivité en IA. En surmontant les barrières linguistiques, nous créons des technologies qui rassemblent les gens et rendent l’avenir numérique plus accessible et équitable.
Mots-clés : IA, langage, modèles, modèle de langage, Gemma