Photo Hamza E. Hamza El Fergougui Expert IA Générative Orange Business

Hamza El Fergougui est un expert en IA générative chez Orange Business à Paris. Avec une formation en traitement du signal et de l’image, il possède une riche expérience en data science et ingénierie chez Ekimetrics, Accenture et Huawei. Ses compétences incluent les modèles bayésiens, l’ingénierie des données et les Large Language Models (LLM). Ses publications traitent de sujets autour de l’IA générative, du NLP et de la multimodalité.

Tous les articles de Hamza El Fergougui

Misez sur l'approche Mixture of Experts pour des LLMs plus rapides et plus efficaces

Misez sur l’approche Mixture of Experts pour des LLMs plus rapides et plus efficaces

La course est lancée pour construire des modèles de langage de plus en plus grands et meilleurs ! Mais à mesure que les LLMs grandissent, ils deviennent de plus en plus ingérables. Les coûts computationnels sont astronomiques et les gains de performance commencent à plafonner. Mixture of Experts (MoE), une architecture astucieuse ancrée dans les années…