(1) 令底面圓心為 $C(0,0,h)$。因為 $P_0$ 與 $P_4$ 為正八邊形的對角頂點，圓心 $C$ 恰為線段 $P_0P_4$ 的中點，故有 $\overset{\large\rightharpoonup}{CP_4} = -\overset{\large\rightharpoonup}{CP_0}$。 利用向量加法，將 $\overset{\large\rightharpoonup}{OP_0}$ 與 $\overset{\large\rightharpoonup}{OP_4}$ 以圓心 $C$ 為基準點拆解： $$\overset{\large\rightharpoonup}{OP_0} = \overset{\large\rightharpoonup}{OC} + \overset{\large\rightharpoonup}{CP_0}$$ $$\overset{\large\rightharpoonup}{OP_4} = \overset{\large\rightharpoonup}{OC} + \overset{\large\rightharpoonup}{CP_4} = \overset{\large\rightharpoonup}{OC} - \overset{\large\rightharpoonup}{CP_0}$$ 計算兩向量的內積： $$\overset{\large\rightharpoonup}{OP_0} \cdot \overset{\large\rightharpoonup}{OP_4} = (\overset{\large\rightharpoonup}{OC} + \overset{\large\rightharpoonup}{CP_0}) \cdot (\overset{\large\rightharpoonup}{OC} - \overset{\large\rightharpoonup}{CP_0}) = \left\|\overset{\large\rightharpoonup}{OC}\right\|^2 - \left\|\overset{\large\rightharpoonup}{CP_0}\right\|^2$$ 已知 $\left\|\overset{\large\rightharpoonup}{OC}\right\| = h$。在直角三角形 $\triangle OCP_0$ 中（因為圓在平面 $z=h$ 上，$\overline{OC}$ 物理垂直該平面）： $$\left\|\overset{\large\rightharpoonup}{CP_0}\right\|^2 = \left\|\overset{\large\rightharpoonup}{OP_0}\right\|^2 - \left\|\overset{\large\rightharpoonup}{OC}\right\|^2 = 1^2 - h^2 = 1 - h^2$$ 將此結果代回內積式中： $$\overset{\large\rightharpoonup}{OP_0} \cdot \overset{\large\rightharpoonup}{OP_4} = h^2 - (1 - h^2) = 2h^2 - 1$$ 故以 $h$ 表示的向量內積為 $2h^2 - 1$。 (2) 底面圓的半徑為 $r = \left\|\overset{\large\rightharpoonup}{CP_0}\right\| = \sqrt{1 - h^2}$。 底面的正八邊形可以分割為 $8$ 個全等的等腰三角形，每個等腰三角形的兩腰長為半徑 $r$，頂角為 $360^\circ / 8 = 45^\circ$。 每個小三角形的面積為： $$\text{面積} = \dfrac{1}{2} r^2 \sin 45^\circ = \dfrac{1}{2} r^2 \times \dfrac{\sqrt{2}}{2} = \dfrac{\sqrt{2}}{4} r^2$$ 將 $8$ 個小三角形面積相加，得底面正八邊形總面積為： $$\text{底面積} = 8 \times \left(\dfrac{\sqrt{2}}{4} r^2\right) = 2\sqrt{2} r^2 = 2\sqrt{2} (1 - h^2)$$ 正八角錐的高為 $h$，故體積 $V(h)$ 為： $$V(h) = \dfrac{1}{3} \times \text{底面積} \times \text{高} = \dfrac{1}{3} \times 2\sqrt{2} (1 - h^2) \times h = \dfrac{2\sqrt{2}}{3} h(1 - h^2)$$ 故 $V(h) = \dfrac{2\sqrt{2}}{3}h(1-h^2)$。 (3) $\overset{\large\rightharpoonup}{OP_0}$ 與 $\overset{\large\rightharpoonup}{OP_4}$ 的夾角不超過 $90^\circ$ ，代表其餘弦值大於或等於零。因為兩向量長度皆為 $1$，故： $$\cos \theta = \overset{\large\rightharpoonup}{OP_0} \cdot \overset{\large\rightharpoonup}{OP_4} \ge 0 \implies 2h^2 - 1 \ge 0 \implies h^2 \ge \dfrac{1}{2}$$ 又已知 $0 \le h \le 1$，得 $h$ 的範圍為 $\dfrac{\sqrt{2}}{2} \le h \le 1$。 我們要求 $V(h) = \dfrac{2\sqrt{2}}{3} (h - h^3)$ 在區間 $\left[\dfrac{\sqrt{2}}{2}, 1\right]$ 上的最大值。 設 $f(h) = h - h^3$，對其微分得： $$f'(h) = 1 - 3h^2$$ 令 $f'(h) = 0$ 得 $h = \dfrac{1}{\sqrt{3}} = \dfrac{\sqrt{3}}{3} \approx 0.577$。 因為 $\dfrac{\sqrt{3}}{3} < \dfrac{\sqrt{2}}{2} \approx 0.707$，此一階導數為零的點落在定義域 $\left[\dfrac{\sqrt{2}}{2}, 1\right]$ 之外。 當 $h > \dfrac{\sqrt{3}}{3}$ 時，$f'(h) = 1 - 3h^2 < 0$，因此 $f(h)$ 在區間 $\left[\dfrac{\sqrt{2}}{2}, 1\right]$ 上為嚴格單調遞減。 所以體積 $V(h)$ 在定義域的左端點 $h = \dfrac{\sqrt{2}}{2}$ 處取得最大值： $$\text{最大體積} = V\left(\dfrac{\sqrt{2}}{2}\right) = \dfrac{2\sqrt{2}}{3} \times \dfrac{\sqrt{2}}{2} \times \left(1 - \left(\dfrac{\sqrt{2}}{2} ight)^2\right) = \dfrac{2}{3} \times \left(1 - \dfrac{1}{2}\right) = \dfrac{2}{3} \times \dfrac{1}{2} = \dfrac{1}{3}$$ 故正八角錐體積的最大值為 $\dfrac{1}{3}$。