I=∫x2(xsinx+cosx)2dx
=∫x2cosxcosx(xsinx+cosx)2
=∫xcosx⋅xcosx(xsinx+cosx)2dx
Let xcosx=I function xcosx(xsinx+cosx)2=II function
Now,
∫xcosxdx(xsinx+cosx)2
Let xsinx+cosx=t
⇒(xcosx+sinx−sinx)=dt/dx
∴∫xcosxdx(xsinx+cosx)2=∫dtt2=−tt=−1xsinx+cosx
Now,
I=xcosx∫xcosx(xsinx+cosx)2+∫(cosx1+xsinx)(cosx)2×1(xsinx+cosx)dx
=xcosx∫xcosx(xsinx+cosx)2dx+∫sec2xdx
=xcosx×(−1xsinx+cosx)+tanx+c
=−xcosx(xsinx+cosx)+tanx+c.