4. (3)
根据函数的表达式, 自变量 $x$ 需满足 $\frac{x(x^2+1)}{(x^2-1)^3}\geqslant 0$. 这等价于 $\frac{x}{x^2-1}\geqslant 0$. 即 $x=0$ 或 $x(x^2-1) > 0$.
\[
x(x^2-1) > 0\quad\Leftrightarrow\quad x(x-1)(x+1) > 0\quad\Leftrightarrow\quad x\in(-1,0)\cup(1,+\infty)
\]
因此, 函数的定义域为 $x\in(-1,0]\cup(1,+\infty)$.
对于 $x\in(-1,0)\cup(1,+\infty)$
\[
\begin{split}
\ln y&=\ln\sqrt{\frac{x(x^2+1)}{(x^2-1)^3}}=\frac{1}{2}\ln\frac{x(x^2+1)}{(x^2-1)^3}\\
&=\frac{1}{2}\Bigl[\ln|x|+\ln(x^2+1)-3\ln|x^2-1|\Bigr]\\
\end{split}
\]
两边对 $x$ 求导, $y$ 看成 $x$ 的函数.
\[
\begin{split}
\frac{1}{y}\cdot y'&=\frac{1}{2}\Bigl[\frac{1}{x}+\frac{2x}{x^2+1}-3\cdot\frac{2x}{x^2-1}\Bigr]\\
&=\frac{1}{2x}+\frac{x}{x^2+1}-\frac{3x}{x^2-1}\\
&=\frac{1}{2x}+\frac{x(x^2-1)-3x(x^2+1)}{(x^2+1)(x^2-1)}\\
&=\frac{1}{2x}+\frac{-2x^3-4x}{x^4-1}\\
&=\frac{x^4-1+2x(-2x^3-4x)}{2x(x^4-1)}\\
&=\frac{-3x^4-8x^2-1}{2x(x^4-1)}
\end{split}
\]
推出
\[
\begin{split}
y'&=y\cdot\frac{1}{2}\Bigl[\frac{1}{x}+\frac{2x}{x^2+1}-3\cdot\frac{2x}{x^2-1}\Bigr]\\
&=\sqrt{\frac{x(x^2+1)}{(x^2-1)^3}}\cdot\Bigl[\frac{1}{2x}+\frac{x}{x^2+1}-\frac{3x}{x^2-1}\Bigr]\\
&=\sqrt{\frac{x(x^2+1)}{(x^2-1)^3}}\cdot\frac{-3x^4-8x^2-1}{2x(x^4-1)}
\end{split}
\]