Chọn D

Đặt: $t=\cot x(t\in R)$.

Với $x\in \left[\frac{\pi }{4};\pi \right)$ thì $t\in \left(0;2\right]$.

Ta được:$y=t^3+(m-3)t+3m-2$$\Rightarrow y\text{'}=3t^2+m-3$.

Để hàm số $y=8^{\cot x}+(m-3)2^{\cot x}+3m-2$ nghịch biến trên $\left[\frac{\pi }{4};\pi \right)$thì hàm số $y=f\left(t\right)=t^3+(m-3)t+3m-2$ nghịch biến trên

$\left(0;2\right]\iff f^{\text{'}}\left(t\right)=3t^2+m-3\le 0,\forall x\in \left(0;2\right]\iff m\le -3t^2+3=g\left(t\right)\iff m\le \underset{\left(0;2\right]}{\min }g\left(t\right)$.

Ta có: $g^{\text{'}}\left(t\right)=-6t=0\iff t=0$.

              Bảng biến thiên:

              Giá trị nhỏ nhất của g(t)là: $-9$.

              Vậy: $m\le -9$.