Qu’est-ce que ONNX (Open Neural Network Exchange) ?

Qu’est-ce que ONNX (Open Neural Network Exchange) ?ONNX (Open Neural Network Exchange) est une norme ouverte conçue pour unifier et échanger les modèles d’apprentissage automatique. Lancé en 2017 par Microsoft, Meta (anciennement Facebook) et AWS, il résout un problème clé dans le monde de l’IA : le manque de compatibilité entre différents frameworks (comme PyTorch et TensorFlow), outils et plateformes matérielles.

En termes simples, ONNX est un “traducteur” universel pour les réseaux neuronaux, permettant aux développeurs de déplacer librement des modèles d’un environnement à un autre.

Analogie : Si un réseau neuronal est un document complexe, ONNX est le format PDF. Vous pouvez créer un document dans n’importe quel éditeur (PyTorch, TensorFlow), mais une fois enregistré au format PDF, il s’ouvrira rapidement et de manière cohérente sur n’importe quel appareil grâce à un lecteur universel (ONNX Runtime).

In Questo Articolo

Comment fonctionne ONNX

Comment fonctionne ONNX

ONNX représente n’importe quel modèle sous forme de graphe computationnel. Ce graphe est composé de nœuds (opérations mathématiques ou opérateurs) et d’arêtes (flux de données sous forme de tenseurs). La norme définit un ensemble unifié d’opérateurs et de formats de données compris par tous les outils compatibles.

Le flux de travail comprend généralement deux étapes clés :

Exportation : Un modèle entraîné dans un framework (par exemple PyTorch) est converti en fichier .onnx.
Déploiement (Inférence) : Le fichier .onnx résultant est exécuté à l’aide d’un environnement d’exécution spécialisé et performant : ONNX Runtime.

Avantages clés d’ONNX

Compatibilité des frameworks :
Le principal avantage est la liberté de déplacer les modèles. Par exemple, vous pouvez entraîner un modèle avec PyTorch, idéal pour la recherche, puis le déployer avec ONNX Runtime, optimisé pour une exécution rapide en production.

Optimisation matérielle :
Les fabricants de matériel (NVIDIA, Intel, ARM) fournissent des bibliothèques optimisées pour exécuter des modèles au format ONNX. Cela permet d’atteindre des performances maximales sur différents matériels sans adapter le modèle pour chaque plateforme.

Flexibilité et pérennité :
La norme ne lie pas les développeurs à une seule pile technologique. Si un nouveau framework plus efficace apparaît, les modèles existants peuvent être facilement transférés.

ONNX Runtime : Le moteur d’exécution

ONNX Runtime est un composant clé de l’écosystème. Il s’agit d’un environnement haute performance pour exécuter des modèles .onnx. Développé par Microsoft, il est open-source et conçu pour maximiser la vitesse de calcul des graphes ONNX sur n’importe quel appareil, des serveurs puissants aux téléphones mobiles. Runtime supporte plusieurs langages (Python, C++, C#, Java) et plateformes (Windows, Linux, Android, iOS).

Exemple pratique : de PyTorch à ONNX Runtime

Exporter un modèle depuis PyTorch :

import torch

# Votre modèle entraîné
model = YourSuperModel() 
# Entrée d’exemple pour définir la structure du graphe
dummy_input = torch.randn(1, 3, 224, 224) 

torch.onnx.export(model, dummy_input, "model.onnx")

Exécuter le modèle avec ONNX Runtime :

import onnxruntime as ort
import numpy as np

# Créer une session d’inférence
session = ort.InferenceSession("model.onnx")

# Préparer les données d’entrée
input_data = np.random.randn(1, 3, 224, 224).astype(np.float32)
input_name = session.get_inputs()[0].name

# Obtenir la prédiction
result = session.run(None, {input_name: input_data})
print(result)

ONNX et Hugging Face : Le standard pour le NLP

Pour les modèles complexes comme les transformeurs de Hugging Face, l’exportation est simplifiée avec la bibliothèque Optimum, qui agit comme un “pont officiel” gérant automatiquement tous les détails de conversion.

Installer les packages nécessaires :

pip install transformers onnx onnxruntime optimum[onnxruntime]

Exporter et exécuter un modèle Hugging Face :

from optimum.onnxruntime import ORTModelForSequenceClassification
from transformers import AutoTokenizer, pipeline

model_id = "distilbert-base-uncased-finetuned-sst-2-english"

# Étape 1 : Exporter le modèle en ONNX (une seule fois)
model = ORTModelForSequenceClassification.from_pretrained(model_id, from_transformers=True)
tokenizer = AutoTokenizer.from_pretrained(model_id)
model.save_pretrained("./onnx-model/")
tokenizer.save_pretrained("./onnx-model/")

# Étape 2 : Exécuter le modèle ONNX optimisé
classifier = pipeline("text-classification", model="./onnx-model/")
result = classifier("ONNX et Hugging Face sont une combinaison puissante !")
print(result)  # Sortie : [{'label': 'POSITIVE', 'score': 0.9998...}]

Clé de performance : Optimisation et Quantification

ONNX Runtime ne se contente pas d’exécuter les modèles, il les accélère. Une des méthodes principales est la quantification.

En termes simples : c’est un processus qui “simplifie” les calculs à l’intérieur du modèle. Au lieu de calculs haute précision (FP32 comme 3.14159), le modèle utilise des entiers plus rapides et légers de 8 bits (INT8, de -128 à 127).

Avantages de la quantification :

🚀 Vitesse élevée : les opérations entières sont beaucoup plus rapides.
💾 Taille réduite : le modèle devient environ 4 fois plus petit.
🔋 Efficacité énergétique : réduit la consommation d’énergie, critique pour les appareils mobiles et edge.

Où ONNX est utilisé

ONNX est devenu une norme industrielle et est largement appliqué :

Services cloud : Azure ML, AWS SageMaker, Google Cloud AI.
Applications desktop et mobiles : ONNX Runtime fonctionne sur Windows, Linux, macOS, Android et iOS.
Appareils edge : exécution efficace des modèles IA sur des dispositifs aux ressources limitées (caméras, drones, capteurs industriels).

Limitations

Malgré ses avantages, il existe des limitations. La conversion d’architectures très complexes ou récentes peut poser problème si un opérateur spécifique n’a pas encore d’équivalent en ONNX. La communauté travaille activement à l’extension du support.

Liens utiles

Site officiel : https://onnx.ai
Dépôt GitHub : https://github.com/onnx/onnx
ONNX Runtime : https://onnxruntime.ai
Hugging Face Optimum : https://github.com/huggingface/optimum