Ph.D. (Math.Sci.) · 博士（数理科学）
Tomohiro Hayase早瀬 友裕
- Research Scientist, Coefont, co. ltd.
- 産業技術総合研究所 特定フェロー (AIST Joint Appointed Fellow)
Curiosities
All topics →-
curiosity Free probability and random matricesOperator-algebraic and combinatorial tools for the spectral behavior of large random matrices.
-
curiosity Machine learningDNN theory through random-matrix lenses — free random projection, dynamical isometry, meta-RL, training dynamics.
-
curiosity Adjacent explorationsSide-track exploration outside the random-matrix / ML core — VR, haptic interfaces, projection mapping geometry.
Research interests
深層学習の背後に潜む自由性を研究しています。ここで言う自由性とは、大雑把に いうと、ランダム行列系が自由群を近似する性質のことです。この自由性は深層 回路の誤差逆伝播行列に現れ、そのスペクトル計算に活用されます。これにより、 勾配の消失・発散の解析や良好な学習率の予測が可能となります。現在は、より 進んだ代数構造の深層学習への活用を目指し、自由群の持つ木構造を応用した メタ強化学習の研究に取り組んでいます。具体的には、異なるタスク間での汎化 性能を向上させるアルゴリズムの開発を進めています。
My research interests include not only Free Probability Theory itself but also its applications. Random Matrix Theory, Machine Learning, Operator Algebras, Functional Analysis, Quantum Information Theory, and Virtual Reality are also in my interests. Currently I am working on the analysis of deep networks with random weight via free probability theory.
Recent findings
All findings →- paper Gaussian Equivalence for Self-Attention: Asymptotic Spectral Analysis of Attention Matrix
- paper Free Random Projection for In-Context Reinforcement Learning
- paper Cluster Haptic Texture Database: Haptic Texture Database with Variety in Velocity and Direction of Sliding Contacts
- talk 文脈内強化学習のための Free Random Projection
- talk Gaussian Equivalence for Self-Attention: Spectral Analysis of Attention Matrix
- talk ランダム行列の自由性と状態空間モデルの接点
Recent notes
All notes →- announcement AISTATS2026に論文が2本採択されました
- explainer 自由とは何か？多項式からランダム行列へ
- explainer Random Matrices, Free Probability, and Deep Neural Networks
- explainer Understanding MLP-Mixer as a wide and sparse MLP through random permutation matrix
- explainer IMI: ランダム行列と深層神経回路
- explainer Asymptotic Freeness of MLP and Related Topics
Activities
All activities →- attendance Audit: トランスフォーマーの非線形動力学とその周辺