Given I=∫e−3xcos3xdx
∴I=∫e−3x(cos3x+3cosx4)dx
∴I=14∫e−3x(cos3x+3cosx)dx
∴I=14[∫e−3xcos3xdx+3∫e−3xcosxdx] (1)
Let I1=∫e−3xcos3xdx
∴I1=cos3x∫e−3xdx−∫[ddx(cos3x)∫e−3xdx]dx
∴I1=cos3xe−3x−3−∫[−3sin3x(e−3x−3)]dx
∴I1=e−3xcos3x−3−∫[e−3xsin3x]dx
∴I1=e−3xcos3x−3−{sin3x∫e−3xdx−∫ddx(sin3x)∫e−3xdx}
∴I1=e−3xcos3x−3−{sin3xe−3x−3−∫3cos3xe−3x−3dx}
∴I1=e−3xcos3x−3−{e−3xsin3x−3+∫e−3xcos3xdx}
∴I1=e−3xcos3x−3−{e−3xsin3x−3+I1}
∴I1=e−3xcos3x−3+e−3xsin3x3−I1
∴2I1=e−3x3[sin3x−cos3x]
∴I1=e−3x6[sin3x−cos3x]
Now, let I2=∫e−3xcosxdx
∴I2=cosx∫e−3xdx−∫[ddx(cosx)∫e−3xdx]dx
∴I2=cosxe−3x−3−∫[−sinx(e−3x−3)]dx
∴I2=e−3xcosx−3−13∫e−3xsinxdx
∴I2=e−3xcosx−3−13{sinx∫e−3xdx−∫[ddx(sinx)∫e−3xdx]dx}
∴I2=e−3xcosx−3−13{sinxe−3x−3−∫[cosx(e−3x−3)]dx}
∴I2=e−3xcosx−3−13{sinxe−3x−3+13∫e−3xcosxdx}
∴I2=e−3xcosx−3+19e−3xsinx−19I2
∴I2+19I2=e−3xcosx−3+19e−3xsinx
∴109I2=e−3xcosx−3+19e−3xsinx
∴I2=910[e−3xcosx−3+19e−3xsinx]
∴I2=−310e−3xcosx+110e−3xsinx
∴I2=e−3x10[sinx−3cosx]
Thus, from (1),
I=14[e−3x6[sin3x−cos3x]+3e−3x10[sinx−3cosx]]
∴I=e−3x24[sin3x−cos3x]+3e−3x40[sinx−3cosx]