Исследования

Mechanica Labs изучает внутренние вычисления нейронных сетей, используя алгебраическую структуру, геометрию и строгий анализ на уровне механизмов. Наша цель — выявить принципы, которые управляют тем, как модели представляют и вычисляют, и разработать математическую основу, обобщающуюся на различные архитектуры и задачи.

Механистическая интерпретируемость

Мы исследуем, как нейронные сети реализуют конкретные вычисления, анализируя их внутренние схемы, подпространства и представления. Наша работа сосредоточена на выявлении алгоритмических механизмов, которые возникают во время обучения, особенно в случаях, когда целевая функция имеет четкую алгебраическую или комбинаторную структуру, например модульную арифметику или групповые операции. Выделяя эти механизмы и характеризуя их инвариантности, симметрии и свойства разложения, мы стремимся установить общие шаблоны для того, как нейронные сети кодируют дискретные вычисления.

Алгебраические и геометрические структуры

Мы применяем инструменты алгебраической геометрии, топологии и теории представлений для описания структуры и организации выученных признаков. Это включает моделирование представлений с использованием геометрических и топологических инвариантов, анализ того, как групповые действия и симметрии отражаются в выученных вложениях, и выявление структур слоев, орбит и факторов, которые отражают основную алгебру задачи. Эта перспектива предоставляет строгий способ характеризовать внутреннее пространство состояний сети и понять, почему определенные представления устойчивы, эффективны или универсальны в различных архитектурах.

Кристаллография и горнодобывающие применения

Мы распространяем методы объяснимого машинного обучения, учитывающие симметрию и геометрию, на проблемы кристаллографии и разведки минеральных ресурсов. Текущая работа включает предсказание решеток и пространственных групп, представления, согласованные по симметрии, и минералогические и геологические выводы. Эти приложения служат мостом между абстрактной теорией представлений и физическими системами, где симметрия, периодичность и геометрические ограничения играют центральную роль.