The correct option is
D 4−π4+πLet
I=∫x2(xsinx+cosx)2dx=∫(xsecx)(xcosx(xsinx+cosx)2)dx=(xsecx)(−1xsinx+cosx)−∫(secx+xsecxtanx)(−1xsinx+cosx)dx=−xsecxxsinx+cosx+∫sec2xdx=−xsecxxsinx+cosx+tanx=−xcosx(xsinx+cosx)+tanx=−x+sin2x(xsinx+cosx)cosx(xsinx+cosx)=−xcos2x+sinxcosxcosx(xsinx+cosx)=sinx−xcosxxsinx+cosx
Therefore,
∫π40x2(xsinx+cosx)2dx=[sinx−xcosxxsinx+cosx]π40=4−π4+π