>>543一応かなりテキトーだが…
条件より、3点B,C,Dは直線OAに垂直な平面上にあり、中心Tの円周上にある
V=(1/3)・△BCD・AT
まず、△BCDの最大値
BT=CT=DT=√(1-t^2)=rとして、CDの中点をMとし、TM=s(0≦s<r)とおくと
△BCD=(1/2)・2√(r^2-s^2)・(r+s)
△BCDの面積の最大値(3√3/4)(1-t^2)
次に、四面体ABCDの体積
V=(1/3)・(3√3/4)(1-t^2)・(1+t)
四面体ABCDの体積の最大値8√3/27