Des mathématiciens appellent à cesser de travailler avec OpenAI

OpenAI a publié 372 résultats issus d'un modèle interne non commercialisé, qui, selon elle, règlent ou font avancer de vieux problèmes ouverts en mathématiques et en informatique théorique, rapporte Scientific American. Parmi eux, la conjecture de Kakeya en dimension quatre ; de nombreuses preuves ont été vérifiées dans Lean, un langage qui contrôle la logique d'une preuve. Un porte-parole a indiqué qu'un seul prompt, confié à un seul agent IA, a produit la quasi-totalité d'entre elles.

Le désaccord porte sur la transparence. Un groupe consultatif de mathématiciens, formé après le précédent résultat d'OpenAI sur Navier-Stokes, a recommandé de publier le modèle, le prompt exact et le temps de calcul derrière chaque résultat. OpenAI ne donne que le temps de calcul moyen, aucun prompt, et précise que ces recommandations ne l'engagent pas. Andrew Sutherland (MIT) a dit au magazine que des résultats obtenus d'un seul jet restent invérifiés tant que des tiers ne peuvent pas les reproduire ; Daniel Litt (Toronto) juge que cette publication est une bonne chose pour les mathématiques.

Pour qui évalue les annonces de recherche d'un laboratoire : n'importe qui peut relancer une vérification Lean sur une preuve, alors que la façon dont un modèle l'a produite reste invérifiable sans le modèle ni le prompt.