1.解空间

  定义映射$\rho:SO(3)\to SO(9)$,定义线性算子$H \in \mathbb{R}^{9\times 9}$投影至$\mathbb{R}^9$的子空间（即在八面体群作用下具有不变性的空间）

$$H=\frac{1}{|O|}\sum_{o \in O}\rho(o)$$

由于

$$\rho\left(o^{\prime}\right) H=\frac{1}{|\mathrm{O}|} \sum_{o \in \mathrm{O}} \rho\left(o^{\prime}\right) \rho(o)=\frac{1}{|\mathrm{O}|} \sum_{o \in \mathrm{O}} \rho\left(o^{\prime} o\right)=\frac{1}{|\mathrm{O}|} \sum_{o \in \mathrm{O}} \rho(o)=H$$

所以$\forall q \in \mathbb{R}^9$,当且仅当$q\in Im(H)$时,$\rho(O)\cdot q=q$。

  说明当映射$\rho$作用于八面体群时并不改变算子$H$的作用，根据以上意义，可得出当$q\in Im(H)$时，$q$的稳定子$stab(q)=O$

  定义规范八面体标架，所有其他标架可由其旋转变换得到

$$q_{0}=\left(0,0,0,0, \sqrt{\frac{7}{12}}, 0,0,0, \sqrt{\frac{5}{12}}\right)^{\top} \in \mathbb{R}^{9}$$

则$H=q_0q_0^{\top}$。

  根据轨道与稳定子的关系，可得出解空间位于$q$的轨道$F$上,其稳定子为$O$，将其设为八面体变量(octahedral variety)

$$F=\rho(\mathrm{SO}(3)) q_{0}=\left\{\rho(r) q_{0} \mid r \in \mathrm{SO}(3)\right\}$$

根据轨道-稳定子的理论，存在一个$\mathcal{F}\to F$的等变微分同胚映射$\phi$：

其中$\mathcal{F}=SO(3)/O$，它是一个spherical 3- manifold。

2.度量

  令$\alpha=\sqrt{\frac{3}{20}}，F_\alpha=\alpha F=\{\alpha q:q\in F\}$,定义映射$\pi_a:\mathbb{R}^{9 \times 9}\to\mathbb{R}^9$表示矩阵乘以$\alpha$比例规范标架$q_a=\alpha q_0$，即$\pi_\alpha(A)=Aq_\alpha$。

  由于$\pi_\alpha \circ \rho:SO(3)\to F_\alpha$是局部等距映射的，根据之前的交换图的结论，故$\mathcal{F}\to F_\alpha$也是局部等距映射。

  证明：

  用李代数定义$\rho$在单位阵处的微分

$$(D\rho)_{I}: \mathfrak{s o}(3)=T_{I} \mathrm{SO}(3) \rightarrow \mathfrak{s o}(9) \subset \mathbb{R}^{9 \times 9}$$

​ $(D \rho)_{I}$具体为$L_i:=(D \rho)_{I}(l_i)$,即李代生成元的像，$\pi_\alpha$是一个线性映射，所以它的微分只要乘以$q_\alpha$就可以。

  对每个$g\in SO(3)$，李代数$T_g SO(3)$的正交基由李代数生成元的右平移给出

$$\{(D R_g)_{I}l_i\}_{i=1}^{3}$$

因此可考虑映射$\pi_\alpha \circ \rho$的像在$T_{\rho(g)q_\alpha}F$下的正交基

$$\begin{aligned} D\left(\pi_{\alpha} \circ \rho\right)_{g}\left(D R_{g}\right)_{I} l_{i} &=\left(D \pi_{\alpha}\right)(D \rho)_{g}\left(D R_{g}\right)_{I} l_{i} \\ &=\left(D \pi_{\alpha}\right)\left(D R_{\rho(g)}\right)_{I}(D \rho)_{I} l_{i} \\ &=\left(D \pi_{\alpha}\right) L_{i} \rho(g) \\ &=L_{i} \rho(g) q_{\alpha} \end{aligned}$$

之后需要验证的是这组对象是否符合以下度量的形式?

$$<L_iq,L_jq>=\delta _{ij},\forall q\in F_{\alpha}$$

  由于$\rho(g)q_\alpha \in F_\alpha$

$$\begin{aligned} \left\langle L_{i} \rho(g) q_{\alpha}, L_{j} \rho(g) q_{\alpha}\right\rangle &=\left\langle\rho(g)^{\top} L_{i} \rho(g) q_{\alpha}, \rho(g)^{\top} L_{j} \rho(g) q_{\alpha}\right\rangle \\ &=\left\langle D \rho_{I}\left(g^{\top} l_{i} g\right) q_{\alpha}, D \rho_{I}\left(g^{\top} l_{j} g\right) q_{\alpha}\right\rangle \end{aligned}$$

其中第一个等号是因为$\rho(g) \in SO(9)$,具有旋转不变性，第二个等号是可由附录中的一个引理给出:$(D\rho)_I(g^{-1}ag)=\rho(g)^{-1}((D\rho)_Ia)\rho(g)$。

  若令$a_{ik}=a_{ik}(g)$表示$SO(3)$的伴随表示的系数，即$g^{\top}l_ig=\sum_k a_{ik}l_k$,这些系数组成了一个正交阵。根据这个定义可以线性化$D\rho$,则可得到以下

$$\begin{aligned} \left\langle L_{i} \rho(g) q_{\alpha}, L_{j} \rho(g) q_{\alpha}\right\rangle &=\left\langle D \rho_{I}\left(g^{\top} l_{i} g\right) q_{\alpha}, D \rho_{I}\left(g^{\top} l_{j} g\right) q_{\alpha}\right\rangle\\ &=\left\langle\sum_{r} a_{i r} L_{r} q_{\alpha}, \sum_{s} a_{j s} L_{s} q_{\alpha}\right\rangle \\ &=\sum_{r, s} a_{i r} a_{j s}\left\langle L_{r} q_{\alpha}, L_{s} q_{\alpha}\right\rangle \\ &=\sum_{k} a_{i k} a_{j k}=\delta_{i j} \end{aligned}$$

得证。

  因此，$F$是浸入在$\mathbb{R}^9$中的子流形，且等距同构于$\mathcal{F}=SO(3)/O$。因此，我们可在该浸入的流形上引入流形优化中的方法。