Résoudre les problèmes complexes transparemment

Comprendre les mécanismes fondamentaux des systèmes complexes.

Fig. 1

Nous étudions comment les systèmes complexes fonctionnent de l'intérieur. Notre travail principal est l'interprétabilité mécaniste : nous démontons des réseaux de neurones entraînés pour retrouver les algorithmes qu'ils apprennent. Connaître l'algorithme permet de réduire un modèle, d'expliquer ses décisions aux personnes qui agissent en conséquence, et de restreindre ce qu'il a le droit de faire. Nous travaillons aussi sur les mines profondes et l'identification des minéraux, des domaines où il faut comprendre un modèle avant d'agir.

§ 1

Recherche

Toute la recherche
§ 2

Approche

Dans un système qui paraît chaotique, certaines parties suivent encore des règles exactes. Nous cherchons ces parties et nous écrivons leurs règles.

y py
Fig. 2 Section de Poincaré du même système à E = 1/8. Chaque courbe fermée est une seule orbite maintenue sur un tore invariant. Les points dispersés appartiennent à des orbites chaotiques. Calculée dans votre navigateur.

Cette planche vient du système de Hénon–Heiles, le modèle d'une étoile qui se déplace dans une galaxie et dont notre logo est tiré. Lancez une orbite presque n'importe où et elle se disperse sur toute la planche. Lancez-la au bon endroit et elle reste pour toujours sur une courbe fermée.

Nous cherchons le même genre d'ordre dans d'autres systèmes. Dans un réseau entraîné, c'est l'algorithme qu'il a appris. Dans une mine, c'est la part de l'incertitude géologique qui se rend jusqu'à la production.

À propos

§ 3

Publications choisies

Toutes les publications
  1. Mines
    Geostatistical Discrete Rate Simulation of Coupled Mine, Processing, Tailings, and Backfill Systems

    Arthur Ayestas Hilgert, Alessandro Navarra

    42nd International Symposium on the Application of Computers and Operations Research in the Mineral Industry (APCOM 2027), Montréal Accepté

    Figure interactive

  2. Interprétabilité
    Deep neural networks divide and conquer dihedral multiplication

    Sihui Wei, Gavin McCracken, Gabriela Moisescu-Pareja, Harley Wiltzer, Doina Precup, Irina Rish, Jonathan Love

    International Conference on Machine Learning (ICML 2026)

    Figure interactive

  3. Interprétabilité
    On the Geometry and Topology of Representations: The Manifolds of Modular Addition

    Gabriela Moisescu-Pareja, Gavin McCracken, Harley Wiltzer, Vincent Létourneau, Colin Daniels, Doina Precup, Jonathan Love

    International Conference on Learning Representations (ICLR 2026)

    Figure interactive

  4. Interprétabilité
    Uncovering a Universal Abstract Algorithm for Modular Addition in Neural Networks

    Gavin McCracken, Gabriela Moisescu-Pareja, Vincent Létourneau, Doina Precup, Jonathan Love

    Neural Information Processing Systems (NeurIPS 2025)

    Figure interactive

§ 4

Notre équipe

Rencontrer l'équipe
  • Arthur Ayestas Hilgert

    Cofondateur

  • Gavin McCracken

    Cofondateur

  • Gabriela Moisescu-Pareja

    Cofondatrice

  • Sihui Wei

    Chercheuse