The correct option is A (3−18x)e−6x
d2ydx2+12dydx+36y=0;
y(0)=3 & dydx∣∣∣x=0=−36
⇒ D2+12D+36=0
⇒ (D+6)(D+6)=0
⇒ D=−6,−6
∴ y=(C1+C2x)e−6x ....(i)
at x=0,y=3
⇒ 3=c1e0+C2(0)e0
⇒ c1=3
also, dydx=−36 at x=0
⇒ dydx=c2e−6x+(c1+c2x)e−6x(−6)
[using (i)]
⇒ −36=c2e0+(c1+c2(0))e0(−6)
⇒ −36=c2+(3+0)(−6)
⇒ c2=−18
Hence, y=(3−18x)e−6x