Si tout cela est vrai – et il n'y a aucun moyen de le savoir pour le moment – Groq pourrait bien constituer une menace pour la domination de Nvidia. Ross est prudent lorsqu'il en parle. « Soyons clairs : ils sont Goliath et nous sommes David », dit-il. « Il serait très, très stupide de dire que Nvidia s'inquiète pour nous. » Cependant, lorsqu'on l'interroge sur Groq, la réponse rapide de Nvidia indique que la startup est effectivement sur son radar. Avec une vitesse proche de celle de Groq, l'équipe de relations publiques de Goliath m'a envoyé une déclaration indiquant que l'avantage de Nvidia en matière d'IA ne réside pas seulement dans ses puces mais aussi dans les autres services qu'elle fournit aux clients. comme les logiciels d'IA, la mémoire, la mise en réseau et d'autres avantages. « Le calcul de l'IA dans le centre de données est un défi complexe qui nécessite une solution complète », indique-t-il, ce qui implique que son concurrent anonyme pourrait être confronté à un défi de pile.
Quoi qu'il en soit, Ross affirme qu'il ne concurrence pas Nvidia mais qu'il propose une expérience alternative, et pas seulement en termes de vitesse. Il a pour mission de s'assurer que Groq obtiendra des résultats équitables, non souillés par des points de vue politiques ou des pressions d'intérêts commerciaux. «Groq ne s'impliquera jamais dans la publicité», dit-il. « Parce que cela influence les gens. L’IA doit toujours être neutre, elle ne doit jamais vous dire ce que vous devez penser. Groq existe pour garantir que tout le monde y ait accès. Cela vous aide à prendre votre décision, pas ses décisions. De grands sentiments, mais même le chatbot Groq, lorsque je l'ai interrogé sur l'idéalisme précoce, est sceptique quant à de telles affirmations. « La pression exercée pour générer des profits et une croissance peut conduire même des fondateurs bien intentionnés à faire des compromis sur leurs idéaux », a-t-il rapidement répondu.
Une autre chose. Vous avez peut-être entendu dire qu'Elon Musk a donné le nom de « Grok » à le LLM créé par sa société d'IA. Cela a surpris Ross, puisqu'il dit avoir déposé le nom de son entreprise lorsqu'il l'a fondée en 2016, et il pense que cela couvre le terme original phonétiquement identique. «Nous avons appelé dibs», dit-il. « Il ne peut pas l'avoir. Nous avons envoyé une lettre de cessation et d'abstention. Jusqu’à présent, il n’a pas reçu de réponse de Musk.
Lorsque j'ai interrogé Groq sur le litige concernant le nom, il m'a d'abord averti qu'il ne fournissait pas d'avis juridiques. « Cependant, je peux fournir un contexte qui pourrait vous aider à mieux comprendre la situation », indique-t-il. Le robot a expliqué que le terme grok est utilisé dans l’industrie depuis des décennies, Musk aurait donc le droit de l’utiliser. D’un autre côté, si Groq déposait le terme, il pourrait très bien avoir une revendication exclusive. Tout est précis et précis : tout ce que vous attendez d'un LLM moderne. Ce à quoi on ne s'attendait pas, c'est que la réponse apparaisse en moins d'une seconde.
Voyage dans le temps
Dans mon livre sur Google, Dans le Plex, j'ai expliqué comment l'entreprise et son cofondateur Larry Page ont donné la priorité à la vitesse et reconnu que les produits plus rapides sont utilisés non seulement plus souvent, mais différemment. C’est devenu une obsession au sein de Google.
Les ingénieurs travaillant pour Page ont appris assez rapidement quelle était sa priorité (sa vitesse). « Quand les gens font des démos et qu'ils sont lents, j'ai l'habitude de compter parfois », dit-il. « Un mille, deux mille. Cela a tendance à attirer l’attention des gens. En fait, si votre produit pouvait être mesuré en quelques secondes, vous auriez déjà échoué. Paul Buchheit se souvient d'une fois où il faisait une première démonstration de Gmail dans le bureau de Larry. Page fit une grimace et lui dit que c'était beaucoup trop lent. Buchheit s'y est opposé, mais Page a réitéré sa plainte, affirmant que le rechargement avait pris au moins 600 millisecondes. (Cela fait six dixièmes de seconde.) Buchheit pensa : Vous ne pouvez pas le savoir, mais lorsqu'il revint à son propre bureau, il vérifia les journaux du serveur. Six cents millisecondes. «Il a réussi», dit Buchheit.
