Alors qu’il travaillait chez un important développeur d’énergies renouvelables, Varun Sivaram s’est rendu compte que l’essor de l’intelligence artificielle et des centres de données dépassait la construction de nouvelles centrales de production d’électricité, alors même que les délais d’attente pour les interconnexions au réseau devenaient plus longs.
“J’ai réalisé que nous ne pouvions pas nous en sortir. Nous avions besoin d’une demande intelligente”, a déclaré Sivaram à Fortune.
Pour tenter de répondre à ce besoin, Sivaram a fondé une société de logiciels appelée Emerald AI pour développer la flexibilité du réseau pour les centres de données, réduisant essentiellement la consommation d’énergie aux heures de pointe de la demande sur le réseau pendant les jours les plus chauds ou les plus froids de chaque année, sans nuire aux opérations de l’IA.
En plus d’une plus grande efficacité énergétique, l’objectif est d’accélérer la connexion des usines d’IA et de leur production d’électricité au réseau, tout en maintenant « les cinq neuf », le terme industriel désignant une fiabilité de 99,999 %.
Appelons cela l’approche Disney FastPass, désormais connue sous le nom de Lightning Lane, pour parcourir rapidement la file d’attente du réseau.
“Nous appelons cela une voie rapide pour le fret flexible”, a déclaré Sivaram, corrigeant la référence de Disney en riant.
La proposition d’Emerald AI a rapidement obtenu le soutien financier et le soutien de Nvidia, ce qui a contribué à accélérer la croissance et le déploiement de logiciels d’IA de l’entreprise. “Une IA pour l’IA”, a-t-il déclaré.
Le 31 mars, Emerald AI a annoncé l’achèvement d’un cycle de financement stratégique de 25 millions de dollars avec NVentures de Nvidia, Eaton, GE Vernova, Radical Ventures, Salesforce, Samsung, Siemens et bien d’autres, dont IQT, la branche de capital-risque de la CIA et d’autres agences de renseignement américaines. Le cycle a été mené par Energy Impact Partners. Cela porte le financement total à 68 millions de dollars en 16 mois depuis la création d’Emerald.
La semaine dernière, Emerald et Nvidia se sont associés aux principaux producteurs d’énergie américains, notamment AES, Constellation Energy, Invenergy, NextEra Energy et Vistra.
Et plus tard cette année, une fois une série de projets pilotes couronnés de succès, Emerald et Nvidia ouvriront la première usine commerciale d’IA à énergie flexible, le centre de recherche Vera Rubin AI Factory de 96 mégawatts de Nvidia, en Virginie.
“L’avènement de la révolution de l’IA signifie que cette idée devrait être confrontée aux heures de grande écoute, car les usines d’IA n’ont plus assez de puissance”, a déclaré Sivaram. “Historiquement, les centres de données n’ont eu aucun problème pour obtenir de l’électricité. Ils représentaient moins de 5 % du réseau, mais se dirigent désormais vers 25 % de l’approvisionnement énergétique américain d’ici une décennie. “
Comme l’a déclaré Joe Dominguez, PDG de Constellation : « Nous n’avons pas de problème d’approvisionnement ; nous avons un problème de pointe. »
Et les « usines d’IA compatibles avec le réseau » d’Emerald visent à résoudre ce problème.
Le Fast Pass Nvidia
Alors que le logiciel d’Emerald vise à accélérer les usines d’IA, c’est le support initial de Nvidia qui a accéléré Emerald.
“Nous sommes ravis de l’opportunité de commercialiser ce produit et de le lancer à plus grande échelle”, a déclaré Marc Spieler, directeur général senior de l’alimentation mondiale chez Nvidia. “Les projets pilotes ont été très réussis. Nous pensons que cela libérera le potentiel d’introduire plus rapidement davantage d’usines d’IA sur le réseau, en utilisant davantage d’électrons inexploités sur le réseau.”
Son objectif à long terme est que les usines d’IA à énergie flexible débloquent jusqu’à 100 gigawatts de capacité supplémentaire du réseau électrique américain existant grâce à une efficacité accrue. Pour rappel, 100 gigawatts peuvent alimenter environ 75 millions de foyers.
Une étude d’interconnexion du réseau peut prendre des années d’examens réglementaires, mais si la flexibilité énergétique peut être fournie aux moments de plus forte demande, les développeurs peuvent obtenir des connexions au réseau presque immédiates, a déclaré Spieler à Fortune. “Notre objectif est d’avoir autant de connexions au réseau que possible et de ne pas passer derrière le compteur, de ne pas être isolé, d’être flexible”, a-t-il déclaré. « On peut vraiment le considérer comme une réponse à la demande hautement réactive à grande échelle. »
Et Nvidia était heureux de soutenir le potentiel d’Emerald. C’est loin d’être le seul support de NVentures annoncé le 31 mars. ThinkLabs, dont l’IA se concentre sur la compression des études sur les réseaux électriques de plusieurs années à quelques minutes, a annoncé un cycle de financement de série A de 28 millions de dollars également mené par Energy Impact Partners.
“Nous sommes une entreprise écosystémique. Nous commercialisons par l’intermédiaire de partenaires. Peu importe qu’il s’agisse d’une entreprise Fortune 100, Fortune 10 ou d’une startup d’IA”, a ajouté Spieler. “Si quelqu’un a la bonne idée et est capable de la mettre en œuvre, nous le soutiendrons et comblerons le vide.”
comment ça marche
Il y a huit ans, Sivaram a écrit le livre « Apprivoiser le soleil : innovations pour exploiter l’énergie solaire et alimenter la planète ».
Dans ce document, il a documenté le travail de Microsoft en déplaçant les charges de travail entre plusieurs emplacements pour « rechercher » davantage d’énergie propre. Et plus tard, Google s’est efforcé de déplacer du jour au lendemain davantage de travaux informatiques afin d’utiliser au maximum l’énergie éolienne.
“Je me suis dit : “Ne serait-il pas bien si, au lieu d’essayer de déplacer les électrons là où se trouvent les bits, les bits pouvaient se déplacer là où se trouvent les électrons ?” Ou bien les bits pourraient être pratiquement contrôlables : ralentir ou faire une pause », a déclaré Sivaram.
De cette idée est née la plateforme Emerald Conductor pour « orchestrer » les ressources énergétiques sur site ainsi qu’une flexibilité informatique afin que les projets puissent se connecter plus rapidement et prendre en charge le réseau électrique.
“Nous avons constaté qu’il existe une flexibilité inhérente dont nous pouvons tirer parti, car certaines charges de travail d’IA peuvent être un peu retardées, et les clients sont d’accord avec cela”, a-t-il déclaré. « Certaines charges de travail d’IA peuvent être déplacées d’un endroit à un autre avec une latence acceptable pour les clients.
“Et il peut y avoir des ressources sur un site de centre de données, comme une batterie (stockage) ou un générateur (sauvegarde), que nous pouvons également recruter. Emerald AI trouve des moyens de recruter tous ces différents leviers de flexibilité pour donner au réseau une réponse très précise”, a ajouté Sivaram.
Et grâce aux tests et aux pilotes, les tâches critiques des clients ont continué à fonctionner sans dégradation, a-t-il déclaré. “Ils ont continué à avancer avec une performance à 100 %.”
