The correct option is B x−secx
∫esin x(xcos3x−sinxcos2x)dx=∫esinx(xcosx−tanxsecx)dx=∫xesinxcosxdx−∫esinxtanxsecxdx
Let
I1=∫xesinxcosxdxI2=∫esinxtanxsecxdx
So using by parts,
⇒I1=xesinx−∫esinx.1dx
And,
⇒I2=esinxsecx−∫secx⋅esinxcosxdx⇒I2=esinxsecx−∫esinxdx
Therefore,
I1−I2=esinx(x−secx)+c
Hence f(x)=x−secx