Groq

En bref : Groq est un fournisseur d’inférence pour l’IA. Sa plateforme GroqCloud donne accès, par API, à des modèles ouverts comme GPT-OSS 120B et 20B d’OpenAI, à la transcription Whisper et à des voix de synthèse. L’API est en grande partie compatible avec les bibliothèques d’OpenAI : il suffit souvent de changer la clé et l’adresse de base. Les prix sont publiés en dollars US par million de tokens : GPT-OSS 120B coûte 0,15 $ en entrée et 0,60 $ en sortie, GPT-OSS 20B 0,075 $ et 0,30 $.

À prendre si

• vous développez une application et voulez des réponses rapides avec des modèles ouverts ;
• votre code utilise déjà la bibliothèque d’OpenAI et vous voulez tester un autre fournisseur sans tout réécrire ;
• vous devez transcrire de l’audio à bas coût, avec des fichiers jusqu’à 100 Mo ;
• vous voulez un prix au token publié et facile à comparer.

À laisser si

• vous cherchez un assistant de conversation prêt à l’emploi pour le grand public : Groq s’adresse aux développeurs ;
• vous avez besoin des modèles propriétaires d’OpenAI, d’Anthropic ou de Google, qui ne figurent pas au catalogue ;
• vous voulez des sous-titres VTT ou SRT directement depuis l’API de transcription, deux formats non pris en charge ;
• vous comptez mettre en production un modèle en préversion, réservé à l’évaluation.

Qu’est-ce que Groq ?

Le site officiel de Groq présente l’entreprise comme un spécialiste de l’inférence rapide, c’est-à-dire l’exécution des modèles d’IA une fois entraînés. Groq a conçu sa propre puce, le LPU, pensée pour cette tâche. Avec LPX, ces puces fonctionnent aussi aux côtés des prochaines générations de GPU de NVIDIA. Groq annonce construire des centaines de mégawatts de capacité de calcul et a bouclé une levée de fonds de série A de 350 millions de dollars.

Pour les développeurs, l’offre prend la forme de GroqCloud : une console web pour créer des clés et suivre l’usage, une documentation, et une API qui sert des modèles ouverts de plusieurs éditeurs. Il ne faut pas confondre Groq avec Grok, l’assistant de xAI : ce sont deux sociétés et deux produits différents.

Les modèles disponibles

La page des modèles de Groq sépare les modèles de production et les modèles en préversion. Les modèles de production sont destinés aux environnements réels et respectent les exigences de Groq en vitesse, qualité et fiabilité. GPT-OSS 120B, le grand modèle à poids ouverts d’OpenAI, avec recherche web et exécution de code intégrées, tourne à environ 500 tokens par seconde. GPT-OSS 20B atteint environ 1 000 tokens par seconde. Les deux acceptent 131 072 tokens de contexte et jusqu’à 65 536 tokens en sortie. Llama 3.1 8B et Llama 3.3 70B sont proposés en version Enterprise, sur demande auprès de l’équipe commerciale.

Côté audio, Whisper Large V3 et Whisper Large V3 Turbo transcrivent des fichiers jusqu’à 100 Mo. Les modèles en préversion comprennent les voix Orpheus de Canopy Labs en anglais et en arabe saoudien, les filtres Llama Prompt Guard 2, GPT-OSS Safeguard 20B, Qwen3.8-27B et MiniMax M2.7 Enterprise. Groq précise que ces préversions servent à l’évaluation et peuvent être retirées à bref délai.

Une API compatible OpenAI

Selon la documentation de compatibilité OpenAI, l’API de Groq est en grande partie compatible avec les bibliothèques clientes d’OpenAI. Vous passez votre clé Groq et vous remplacez l’adresse de base par celle indiquée dans la documentation ; votre application tourne alors sur Groq. Groq propose aussi ses propres bibliothèques Python et TypeScript, et prend en charge la Responses API, qui accepte du texte et des images en entrée, garde le fil d’une conversation et permet d’appeler des fonctions externes.

Quelques paramètres ne sont pas encore pris en charge et renvoient une erreur : logprobs, logit_bias, top_logprobs et le champ name des messages. Le paramètre n doit valoir 1. Une température de 0 est convertie en une valeur très proche de zéro. Pour la transcription et la traduction audio, les formats VTT et SRT ne sont pas disponibles.

Limites d’usage

La page des limites de débit décrit les plafonds appliqués à chaque organisation, et non à chaque utilisateur. Ils se mesurent en requêtes par minute et par jour, en tokens par minute et par jour, et en secondes d’audio par heure et par jour pour la transcription. Le premier seuil atteint bloque les requêtes, avec un code d’erreur 429. Les tokens mis en cache ne comptent pas dans ces limites. Les plafonds de base sont modestes, par exemple 30 requêtes et 8 000 tokens par minute pour GPT-OSS 120B. Le forfait Developer relève ces limites, à 250 000 tokens et 1 000 requêtes par minute pour GPT-OSS 120B et 20B, et donne accès au traitement par lots et au traitement Flex.

Forces

• Vitesse d’inférence élevée, jusqu’à environ 1 000 tokens par seconde avec GPT-OSS 20B.
• Compatibilité avec les bibliothèques d’OpenAI, pour migrer une application en quelques lignes.
• Prix publiés au million de tokens, faciles à comparer.
• Transcription Whisper parmi les moins chères, à 0,04 $ par heure en version Turbo.
• Séparation claire entre modèles de production et modèles en préversion.

Limites

• Catalogue limité aux modèles ouverts, sans les modèles propriétaires des grands laboratoires.
• Prix en dollars US uniquement.
• Llama 3.1 8B, Llama 3.3 70B et MiniMax M2.7 passent par l’équipe commerciale.
• Console et documentation en anglais.

Prix

La page des modèles publie ces tarifs en dollars US :

• GPT-OSS 120B : 0,15 $ par million de tokens en entrée et 0,60 $ en sortie.
• GPT-OSS 20B : 0,075 $ en entrée et 0,30 $ en sortie, le même prix que GPT-OSS Safeguard 20B en préversion.
• Whisper Large V3 : 0,111 $ par heure d’audio.
• Whisper Large V3 Turbo : 0,04 $ par heure d’audio.
• Qwen3.8-27B, en préversion : 0,80 $ en entrée et 4,00 $ en sortie.
• Orpheus, en préversion : 22,00 $ par million de caractères en anglais et 40,00 $ en arabe saoudien.
• Llama Prompt Guard 2 : 0,03 $ pour la version 22M et 0,04 $ pour la version 86M, en entrée comme en sortie.
• Llama 3.1 8B, Llama 3.3 70B et MiniMax M2.7 Enterprise : sur demande auprès de l’équipe commerciale.

La facturation suit votre consommation réelle. Pour chiffrer un projet, multipliez le volume de tokens prévu en entrée et en sortie par ces tarifs, en gardant en tête que la sortie coûte quatre fois plus que l’entrée sur GPT-OSS.

France et données

Groq est une entreprise américaine, et sa console comme sa documentation sont en anglais. Pour un usage en entreprise, le forfait et les conditions se discutent avec l’équipe commerciale de Groq, notamment pour les versions Enterprise des modèles Llama.

Comment lancer un premier appel

1. Créez un compte sur la console GroqCloud.
2. Générez une clé API dans la section dédiée de la console.
3. Installez la bibliothèque Groq, ou gardez la bibliothèque d’OpenAI et changez l’adresse de base comme l’indique la documentation.
4. Envoyez une première requête à GPT-OSS 20B pour mesurer la vitesse et le coût.
5. Testez Whisper Large V3 Turbo sur un fichier audio de moins de 100 Mo.
6. Consultez vos limites dans les paramètres du compte et passez au forfait Developer si vous les atteignez.

Groq face aux autres outils

Groq ne remplace pas un assistant comme ChatGPT, Claude ou Perplexity : c’est une brique pour les développeurs qui construisent leurs propres applications. Pour automatiser des tâches sans coder, n8n ou Make peuvent appeler une API comme celle de Groq. Pour coder avec l’IA, Cursor et Claude Code répondent à un autre besoin.

Questions

Groq et Grok, c’est la même chose ? Non. Groq est un fournisseur d’inférence et d’API ; Grok est l’assistant de xAI.

Combien coûte GPT-OSS 120B sur Groq ? 0,15 $ par million de tokens en entrée et 0,60 $ en sortie.

Peut-on utiliser le code écrit pour OpenAI ? Oui, en grande partie. Il suffit de passer la clé Groq et de changer l’adresse de base ; quelques paramètres comme logprobs ne sont pas pris en charge.

Quelle taille de fichier accepte Whisper ? Jusqu’à 100 Mo par fichier.

Les modèles en préversion conviennent-ils à la production ? Non. Groq les réserve à l’évaluation et peut les retirer à bref délai.

Que se passe-t-il quand on dépasse une limite ? L’API renvoie une erreur 429, avec un délai d’attente indiqué avant de réessayer.