Bienvenue dans Eye on AI, avec la journaliste Sharon Goldman. Dans cette édition : Les dépenses du directeur financier de Microsoft en matière d’IA se heurtent aux craintes d’une bulle technologique… Comment l’IA a aidé un homme (et son frère) à bâtir une entreprise de 1,8 milliard de dollars… Apple intensifie la répression contre les applications d’encodage des vibrations.
L’IA peut désormais écrire du code plus rapidement qu’un humain ne peut l’écrire. Avec des outils de « codage dynamique » comme Claude Code d’Anthropic et Codex d’OpenAI, les développeurs construisent (et expédient) avec plaisir à un rythme qui aurait été impensable il y a à peine un an. Même le créateur de Claude Code, Boris Cherny, s’est vanté que la dernière version avait été entièrement écrite par (oui) Claude Code.
Mais même si le codage d’ambiance peut être rapide, il peut également introduire des bugs et des vulnérabilités subtiles. Et l’erreur humaine n’a pas disparu : Claude Code est désormais sous surveillance après que son propre code source a été accidentellement divulgué cette semaine en raison d’une erreur d’emballage.
Pour les entreprises, ce type de vulnérabilités est un échec. Dans les grandes entreprises disposant de bases de code importantes, il ne s’agit pas seulement d’écrire du code plus rapidement, il s’agit également de garantir que le code est correct, sécurisé et conforme aux systèmes internes et aux obligations externes. À mesure que les outils d’IA commencent à générer automatiquement du code prêt pour la production, le goulot d’étranglement passe de l’écriture du logiciel à sa vérification. Et à l’échelle d’une entreprise, où des millions de modifications de code peuvent circuler dans un système chaque année, même les plus petits bugs peuvent rapidement devenir des risques majeurs.
Cela m’a fait penser à une interview que j’ai faite il y a deux ans avec Itamar Friedman, co-fondateur et PDG de Qodo, un outil de révision du code de l’IA qui vient de lever 70 millions de dollars pour résoudre ce qu’il appelle le problème croissant de la « déficience de l’IA » dans les bases de code.
Lorsque j’ai parlé pour la première fois avec Friedman début 2024, lorsque la société s’appelait CodiumAI, il a parlé d’« ingénierie de flux », un système dans lequel un modèle génère du code et un autre le critique, ajoutant des couches de tests et de réflexion. Mais même alors, il était clair que générer du code était beaucoup plus facile que de s’assurer qu’il était précis et fonctionnait bien, et que « l’intégrité du code » était la clé.
Lors d’une conversation avec Friedman hier, il a fait valoir que les outils de codage d’IA actuels, alimentés par LLM, sont conçus pour accomplir des tâches, et non pour les remettre en question, ce qui rend une « couche de gouvernance et de confiance » distincte essentielle pour déterminer ce qui doit (et ne doit pas) être soumis.
“L’IA ne suffit pas lorsqu’on parle de qualité logicielle et de gouvernance du code dans le monde réel”, a-t-il déclaré. “En fait, ce qu’il faut, c’est la sagesse officielle.” Il a expliqué qu’en tant que développeur dans une grande organisation, créer du code de qualité ne consiste pas seulement à être intelligent. Il s’agit de savoir comment une entreprise spécifique fait les choses – toutes les connaissances tribales au sein de l’organisation.
Qodo, a-t-il expliqué, examine la manière dont les développeurs d’une organisation écrivent et révisent réellement le code (en examinant les demandes d’extraction, les commentaires et les modifications passées) et le transforme en un ensemble de règles qui définissent ce qui est « bon » pour cette entreprise. Ces règles sont ensuite automatiquement appliquées, signalant tout nouveau code qui les viole.
À l’ère de l’IA, le défi pour les entreprises est qu’elles veulent aller plus vite, mais elles n’ont pas la liberté de modifier leurs bases de code à moins d’être sûres que le code restera fiable.
“C’est l’écart que nous essayons de combler”, a déclaré Friedman, qui a passé trois ans en tant que directeur de la vision par ordinateur chez Alibaba avant de lancer ce qui est aujourd’hui Qodo en 2022, quelques mois seulement avant le lancement de ChatGPT. Les clients de Qodo, notamment Walmart, Nvidia, Ford et Texas Instruments, veulent aller vite, a-t-il expliqué, mais ils savent également que leurs systèmes dépendent de couches de connaissances accumulées et de limites.
Le paysage actuel du codage vibratoire, a-t-il ajouté, surestime la mesure dans laquelle ces outils peuvent être fiables à court terme et sous-estime la mesure dans laquelle une couche de confiance est nécessaire pour les rendre viables dans le monde réel à long terme.
FORTUNE EN IA
Le modèle asiatique d’IA est mis à l’épreuve alors que la guerre en Iran fait monter les prix de l’énergie et enchevêtre les chaînes d’approvisionnement – par Angelica Ang
Les « retombées » de l’IA inondent YouTube Kids, et plus de 200 groupes et experts appellent à son interdiction – Catherina Gioino
Des chercheurs découvrent que les modèles d’IA conspireront secrètement pour empêcher l’arrêt d’autres modèles d’IA – par Jeremy Kahn
Anthropic divulgue par erreur le code source de son propre outil de codage d’IA, quelques jours seulement après avoir accidentellement révélé un modèle à venir connu sous le nom de Mythos – par Beatrice Nolan
L’IA DANS L’ACTUALITÉ
Les dépenses du directeur financier de Microsoft en matière d’IA se heurtent aux craintes d’une bulle technologique. Ce nouveau profil fantastique de Bloomberg détaille comment la directrice financière de Microsoft, Amy Hood, est devenue l’une des personnalités les plus puissantes (et controversées) qui façonnent la stratégie d’IA de l’entreprise, chargée d’enfiler l’aiguille entre les dépenses effrénées en infrastructure et le risque de prendre du retard dans la course à l’IA. Selon Bloomberg, Hood a appelé fin 2024 à arrêter une partie de la construction massive des centres de données de Microsoft, remettant en question les prévisions de demande trop optimistes, une décision qui a ébranlé les investisseurs et a peut-être contribué à la pénurie actuelle de capacité alors que la demande d’IA a dépassé les attentes. Connue en interne pour son examen minutieux et sa discipline en matière de coûts, Hood a contribué à maintenir les marges de Microsoft stables alors même que ses rivaux ouvrent les vannes des dépenses, mais son approche prudente se retrouve désormais au centre d’un dilemme aux enjeux élevés auquel sont confrontées toutes les grandes technologies : comment investir de manière suffisamment agressive pour gagner dans l’IA sans aller trop loin dans ce qui reste un marché incertain et potentiellement semblable à une bulle.
Comment l’IA a aidé un homme (et son frère) à bâtir une entreprise de 1,8 milliard de dollars. Selon le New York Times, l’entrepreneur Matthew Gallagher a utilisé une suite d’outils d’intelligence artificielle pour lancer Medvi, une entreprise de télésanté qui vend des médicaments amaigrissants, avec seulement 20 000 dollars et pratiquement aucun personnel, ce qui lui a permis d’atteindre un chiffre d’affaires de 401 millions de dollars au cours de sa première année et de projeter 1,8 milliard de dollars cette année avec un seul employé à temps plein (son frère). En s’appuyant sur l’IA pour tout, du codage et du marketing au service client et à l’analyse, tout en externalisant des fonctions réglementées telles que les soins médicaux et la conformité, Gallagher a considérablement compressé le manuel de démarrage traditionnel, illustrant comment l’IA permet aux entreprises ultra et hyper-évolutives. Il y a aussi quelques problèmes et hallucinations, et une certaine surveillance humaine est encore nécessaire. Pourtant, la tendance plus large menace de remodeler l’embauche, la productivité et l’idée même de ce à quoi ressemble une « entreprise » à l’ère de l’IA.
Apple supprime l’application de chiffrement Vibe de l’App Store, intensifiant ainsi la répression. Apple a intensifié sa répression contre les applications de « codage par vibration » en supprimant Anything, le générateur d’applications basé sur l’IA, de l’App Store, a rapporté Information. La société a cité des règles interdisant aux applications exécutant du code non vérifié. Cette décision fait suite aux efforts antérieurs visant à bloquer les mises à jour d’outils similaires, qui permettent aux non-développeurs de créer et de modifier des applications à l’aide de l’IA, et reflète la préoccupation croissante d’Apple selon laquelle de telles plates-formes pourraient inonder l’App Store de logiciels de mauvaise qualité ou à évolution dynamique qui contournent son processus d’examen. Alors qu’Apple affirme simplement appliquer les directives existantes, la répression soulève également des questions de concurrence et de réglementation, d’autant plus que les outils de codage d’ambiance gagnent du terrain et commencent à remettre en question les flux de travail de développement traditionnels, y compris le propre écosystème Xcode d’Apple.
REGARDEZ LES CHIFFRES IA53%
C’est le nombre d’entreprises américaines qui permettraient aux agents IA de négocier des prix ou des conditions directement avec d’autres agents IA en leur nom, selon le nouveau rapport Business-to-AI (B2AI) de Visa, réalisé en collaboration avec Morning Consult.
Le rapport souligne à quel point l’IA influence déjà la demande globale : près de 40 % des Américains ont effectué un achat qu’ils n’auraient normalement pas envisagé suite à l’utilisation d’un agent ou d’un outil d’IA, ce qui, selon le rapport, est une première indication que les systèmes intelligents commencent à façonner la façon dont les gens découvrent et décident quoi acheter.
Autres statistiques notables : l’enquête révèle que 71 % des entreprises se déclarent disposées à optimiser les produits, les offres et les expériences spécifiquement pour les agents d’IA, tandis que 77 % utilisent ou pilotent déjà l’IA dans leurs opérations.
VOUS AVEZ UN CALENDRIER
6-9 avril : HumanX, San Francisco.
8-10 juin : Fortune Brainstorm Tech, Aspen, Colorado. Demande de participation ici.
6-11 juillet : Conférence internationale sur l’apprentissage automatique (ICML), Séoul, Corée du Sud.
7-10 juillet : Sommet AI for Good, Genève, Suisse.
4-6 août : Ai4, Las Vegas, Nevada
