1. 序論
本総合研究論文は、シュティーフェル多様体上のトレース比最適化問題を理論的・計算論的観点から調査する。対象とする基本問題は、fα(X) = trace(XTAX + XTD) / [trace(XTBX)]α で定義されるトレース比関数の最大化である。ここでXはシュティーフェル多様体 On×k = {X ∈ Rn×k : XTX = Ik} に属する。行列AとBは対称なn×n行列であり、Bは半正定値でランクがn-kより大きい。Dはn×k行列、パラメータαは0から1の範囲をとる。条件 rank(B) > n-k は、すべての実行可能なXに対して分母が正となることを保証する。
シュティーフェル多様体最適化フレームワークは、この種の問題を解くための厳密な数学的基礎を提供し、データサイエンスと機械学習の複数領域に重要な示唆を与える。本研究は、固有ベクトル依存性を持つ非線形固有値問題の形での必要条件を確立し、自己無撞着場（SCF）反復に基づく収束性を持つ数値アルゴリズムを開発する。
1.1 先行研究
本論文は、先行文献で広く研究されてきた3つの重要な特殊ケースを特定し分析する：
フィッシャーの線形判別分析
D = 0 かつ α = 1 の場合、問題は maxX∈On×k trace(XTAX) / trace(XTBX) に帰着し、教師あり学習におけるフィッシャーの線形判別分析で生じる。従来のアプローチでは、これを零点探索問題：φ(λ) = 0 を解く問題に変換した。ここで φ(λ) := maxX∈On×k trace(XT(A - λB)X) である。関数φ(λ)は非増加であり、通常唯一の零点を持つことが証明され、ニュートン法を用いて見つけることができる。カルーシュ・クーン・タッカー（KKT）条件は、非線形固有値問題（NEPv）：H(X)X = XΛ を導く。ここでH(X)はXの対称行列値関数、Λ = XTH(X)X である。
直交正準相関分析
A = 0 かつ α = 1/2 の場合、問題は maxX∈On×k trace(XTD) / √trace(XTBX) となり、直交正準相関分析（OCCA）で現れる。この定式化は交互反復スキームの中核をなす。このケースのKKT条件は直ちにNEPvの形をとらないが、等価的に変換可能であり、適切な後処理を伴うSCF反復による解法を可能にする。
不均衡プロクラステス問題
3番目の特殊ケースは不均衡プロクラステス問題に関連するが、提供された抜粋では明示的な詳細は少ない。これら3つのケースはすべて、トレース比最適化フレームワークが多様な統計学習パラダイムにわたる広範な適用可能性を示している。
2. 問題定式化
一般的なトレース比最適化問題は以下のように形式的に定義される：
問題 (1.1a)： maxXTX=Ik fα(X)
ただし： fα(X) = [trace(XTAX + XTD)] / [trace(XTBX)]α
パラメータは以下を満たす：1 ≤ k < n、Ik はk×k単位行列、A, B ∈ Rn×n は対称でBは半正定値かつ rank(B) > n-k、D ∈ Rn×k、行列変数 X ∈ Rn×k、パラメータ 0 ≤ α ≤ 1。
本論文はまた、分子に追加の定数cを含む一見より一般的なケースも、代数的操作により問題(1.1)の特殊ケースとして再定式化できることを指摘し、提案フレームワークの包括性を示している。
3. 理論的基礎
本研究はいくつかの基本的な理論的結果を確立する：
必要条件
トレース比最適化問題の最適性必要条件は、固有ベクトル依存性を持つ非線形固有値問題（NEPv）として導出される。フィッシャーのLDAの特殊ケース（α=1, D=0）では、NEPvは H(X)X = XΛ の形をとる。ここで H(X) = A - λ(X)B、λ(X) = trace(XTAX)/trace(XTBX) である。
存在と一意性
問題(1.3)（フィッシャーのLDAケース）については、局所的最大値点は存在せず、大域的最大値点のみが存在することが証明される。この重要な性質は、収束する任意のアルゴリズムが大域的最適解に到達することを保証する。
幾何学的解釈
最適化はシュティーフェル多様体上で行われ、これは豊富な幾何構造を持つ。アルゴリズムの収束は、グラスマン多様体 Gk(Rn)（Rnのすべてのk次元部分空間の集合）の観点から分析され、最適化過程に対する幾何学的視点を提供する。
4. 数値解法
本論文は、トレース比最適化問題を解くための自己無撞着場（SCF）反復を提案し分析する：
SCFアルゴリズム
問題(1.3)に対する基本的なSCF反復は：H(Xi-1)Xi = XiΛi-1、初期値から開始する。