Les cofondateurs de Glacis, Joe Braidwood (à gauche) et Jennifer Shannon. (Photo Glacis)
Des informations ont été publiées mercredi selon lesquelles la Maison Blanche prépare un décret ordonnant aux agences fédérales de contester ou de bloquer les réglementations des États en matière d’IA.
L’homme d’affaires de Seattle, Joe Braidwood, considère cette nouvelle comme une énorme opportunité.
Braidwood est PDG et co-fondateur de Glacis, une nouvelle startup soutenue par AI2 Incubator qui crée des logiciels pour aider les entreprises à démontrer que leurs mesures de sécurité en matière d’IA s’exécutent comme prévu. Glacis crée des « reçus » infalsifiables pour chaque décision d’IA, permettant aux entreprises de prouver que leurs systèmes de sécurité ont réellement fonctionné.
“Considérez-le comme un enregistreur de vol pour l’IA d’entreprise”, a déclaré Braidwood.
Braidwood a déclaré que l’éventuelle ordonnance de la Maison Blanche visant à bloquer les lois nationales sur l’IA transforme Glacis d’une startup qui vient tout juste de démarrer en un “besoin d’infrastructure”. Dans un environnement où le ministère de la Justice poursuivrait en justice les États qui adoptent les normes d’IA, une couche de confiance neutre et indépendante de la plateforme pourrait devenir de plus en plus pertinente.
Les origines de Glacis sont ancrées dans la complexité réglementaire.
Braidwood, un leader de longue date du marketing technologique, a récemment fermé Yara, sa startup vieille d’un an qui visait à utiliser l’intelligence artificielle pour améliorer le bien-être mental. Il a cité les réglementations de l’Illinois qui rendaient la thérapie par l’IA « effectivement non assurable ».
Dans une publication sur LinkedIn devenue virale depuis, Braidwood a expliqué la décision de fermer Yara et d’ouvrir un ensemble de directives de sécurité qu’il avait élaborées.
Il a écrit que Yara a fermé ses portes après avoir réalisé que l’IA devenait « dangereuse » lorsqu’elle interagissait avec des personnes confrontées à un traumatisme profond ou à des idées suicidaires, et pas seulement inappropriée. L’expérience, a-t-il déclaré, a montré « où doivent être les limites » et a démontré comment les startups travaillant dans les catégories d’IA à haut risque sont confrontées à des pressions et des responsabilités réglementaires ingérables.
Après la publication, des régulateurs, des médecins, des ingénieurs, des fondateurs et des dirigeants d’assurances se sont adressés à eux, nombre d’entre eux soulignant le même problème : lorsque les systèmes d’IA prennent des décisions, personne ne peut vérifier de manière indépendante si les politiques de sécurité sont réellement activées.
Cette clarté est devenue la graine de Glacis.
Chaque fois qu’un modèle d’IA répond à une question ou effectue une action, Glacis crée un enregistrement signé montrant les données fournies, les contrôles de sécurité effectués et la décision finale. L’enregistrement n’est pas modifiable et est généré en moins de 50 millisecondes. Les régulateurs et les assureurs peuvent vérifier ces reçus sans voir aucune donnée personnelle, et Braidwood a déclaré que les assureurs pensent que cela pourrait enfin permettre de sécuriser les systèmes d’intelligence artificielle qui peuvent prouver qu’ils ont suivi les règles.
Braidwood a cofondé Glacis avec le Dr Jennifer Shannon, psychiatre et professeur agrégé à l’Université de Washington.
La société est actuellement en version bêta privée avec des clients de santé numérique, dont nVoq, et cible les secteurs de la santé, de la fintech et de l’assurance. Il fait également partie du programme Launchpad de Cloudflare.
Braidwood était auparavant directeur de la stratégie chez Vektor Medical. Il a également cofondé la plateforme de télévision sociale Scener et a été directeur du marketing chez SwiftKey.
Shannon est psychiatre depuis près de deux décennies. Elle est également ancienne directrice médicale de Cognoa et siège au comité des ressources en IA de l’American Academy of Child and Adolescent Psychiatry.
