IA

Avec le développement des techniques d’affinement en IA (RAG, fine-tuning) pour adapter les modèles à nos besoins spécifiques, il peut être important de s’intéresser à une notion fondamentale : les embeddings. Ils permettent de représenter des données (texte, image, son…) sous forme vectorielle compréhensible et exploitable par les modèles IA, en particulier les LLMs qui […]

Un modèle IA s’appuie sur des méthodes mathématiques fondamentales pour apprendre à effectuer des inférences. L’une de ces méthodes est la descente de gradient qui permet de calculer et d’ajuster les paramètres d’un modèle (i.e le poids associé à chaque entrée) de manière itérative pour minimiser l’erreur entre les estimations du modèle et les valeurs