Mechanica Labs

透明地解决复杂问题

研究

Mechanica Labs 利用代数结构、几何和严格的机制级分析来研究神经网络的内部计算。我们的目标是确定控制模型如何表示和计算的原理,并开发一个跨越不同架构和任务的数学框架。

机制可解释性

我们通过分析神经网络的内部电路、子空间和表示来调查它们如何实现特定计算。我们的工作重点是识别在训练期间出现的算法机制,特别是在目标函数具有明确的代数或组合结构(如模运算或群运算)的情况下。通过隔离这些机制并表征其不变性、对称性和分解属性,我们旨在建立神经网络如何编码离散计算的通用模板。

代数与几何结构

我们应用代数几何、拓扑和表示论的工具来描述学习特征的结构和组织。这包括使用几何和拓扑不变量对表示进行建模、分析群作用和对称性如何反映在学习的嵌入中,以及识别纤维、轨道和商结构,这些结构镜像任务的基础代数。这种观点提供了一种严格的方式来表征网络的内部状态空间,并理解为什么某些表示在架构中是稳定的、有效的或通用的。

晶体学与矿业应用

我们将对称性和几何感知的可解释机器学习方法扩展到晶体学和矿产勘探问题。当前工作涉及晶格和空间群预测、对称性一致的表示学习以及矿物学和地质推理。这些应用作为抽象表示论和物理系统之间的桥梁,其中对称性、周期性和几何约束起着核心作用。