Tìm hệ số của \({x^4}\) trong khai triển \(P\left( x \right) = {\left( {1 - x - 3{x^3}} \right)^n}\) với n là số tự nhiên thỏa mãn hệ thức \(C_n^{n - 2} + 6n + 5 = A_{n + 1}^2\)

\(\begin{array}{l}C_n^{n - 2} + 6n + 5 = A_{n + 1}^2\\ \Leftrightarrow \dfrac{{n!}}{{2!\left( {n - 2} \right)!}} + 6n + 5 = \dfrac{{\left( {n + 1} \right)!}}{{\left( {n - 1} \right)!}}\\ \Leftrightarrow \dfrac{{n\left( {n - 1} \right)}}{2} + 6n + 5 = n\left( {n + 1} \right)\\ \Leftrightarrow  - {n^2} + 9n + 10 = 0\\ \Leftrightarrow \left[ \begin{array}{l}n =  - 1\,\,\,\left( {ktm} \right)\\n = 10\,\,\,\,\left( {tm} \right)\end{array} \right.\end{array}\)

+ Tìm hệ số \({x^4}\) trong khai triển \(P\left( x \right) = {\left( {1 - x - 3{x^3}} \right)^{10}}\)

+ Số hạng tổng quát \(T_{k + 1}^{} = C_{10}^k{.1^{10 - k}}.{\left( { - x - 3{x^3}} \right)^k}\)

                                    \( = C_{10}^k.{\left( { - 1} \right)^k}.{\left( {x + 3{x^3}} \right)^k}\)

                                    \( = C_{10}^k.{\left( { - 1} \right)^k}.C_k^p.{x^{k - p}}.{\left( {3{{\rm{x}}^3}} \right)^p}\)

                                    \( = C_{10}^k.{\left( { - 1} \right)^k}.C_k^p.{x^{k - p}}.{\left( {3{{\rm{x}}^3}} \right)^p}\)

                                    \( = C_{10}^k.C_k^p.{\left( { - 1} \right)^k}{.3^p}.{x^{k + 2p}}\)

+ Số hạng chứa \({x^4}\) ứng với: \(k + 2p = 4\) (\(0 \le p \le k \le 10\)) 

k =4 => p=0;

k =2 => p=1;

k =0=> p=2 (loại);

+ Hệ số cần tìm là \(C_{10}^4.C_4^0{\left( { - 1} \right)^4}{3^0} + C_{10}^2C_2^1{\left( { - 1} \right)^2}{3^1} = 480\).

Chọn C.