回転行列から角度を求める

先ほどの回答はアルゴリズムが複雑なのでもっと簡単な方法を考えてみました。 ｜r11 r12 r13| ｜r21 r22 r23|＝Ａ ｜r31 r32 r33| として固有ベクトル v、固有値 λに対して (Ａ－λＥ)v＝0 なので固有値λ＝1のときvは軸の方向なので、 ｜r11-1 r12 r13 | ｜r21 r22-1 r23 |・v＝0 ｜r31 r32 r33-1| なので（ri1-1 ri2 ri3） (i=1～3)は軸の方向を向いたベクトルとvと直交します。 そこで、0でないベクトルを取ります（ここではaとします）。 この軸と直交したベクトルを行列Aで回転させて、b＝Ａa とします。 もとのベクトルaとbが成す角度を求めます。 b・a ＝ |a|^2 cosθ、|b×a| ＝ |a|^2 sinθなので、 θ＝atan2(|b×a|, b・a)が求める角度になります