New York confiera désormais à ses propres scientifiques l'examen des modèles d'IA plutôt que de croire les entreprises sur parole
Un nouveau centre à l'université de Binghamton, avec plus de 80 chercheurs, doit aider l'État à surveiller les grands développeurs d'IA, sans accès toutefois aux modèles non publiés.
La gouverneure Kathy Hochul a présenté mardi à Albany le New York Center for AI Responsibility and Research, a annoncé l'État de New York. Le centre est établi à l'université de Binghamton et réunit plus de 80 scientifiques d'écoles supérieures et d'universités de tout l'État, qui selon Finger Lakes 1 continueront à travailler dans leur propre institution. Les directeurs intérimaires sont Greg Morrisett, de Cornell Tech, et Jeannette Wing, de l'université Columbia.
Le centre doit tester de manière indépendante la sécurité des systèmes d'IA avancés, développer des méthodes de mesure et des normes, et fournir aux décideurs des avis étayés. Il s'appuiera pour cela sur la puissance de calcul d'Empire AI, une initiative public-privé de 500 millions de dollars. Il dispose de 30 millions de dollars de dons, emmenés par le cofondateur de Bloomberg Tom Secunda, et de 25 millions de dollars du réseau universitaire public SUNY. Kathy Hochul a justifié cette démarche en estimant que l'enjeu est trop important pour faire aveuglément confiance aux entreprises d'IA.
Le centre évaluera aussi les cadres de sécurité que les grands développeurs d'IA doivent publier en vertu de la loi RAISE. Celle-ci les oblige à s'enregistrer d'ici le 1er janvier 2027, à publier des rapports de transparence et à signaler les incidents graves dans les 72 heures. Engadget pointe toutefois une limite: le centre ne peut travailler qu'avec ce que les entreprises rendent public et ne peut pas examiner des modèles qui n'ont pas encore été lancés. Selon Engadget, New York se positionne aussi face à Washington, où la Maison Blanche a proposé un cadre qui supplanterait les lois des États.