The correct option is C −1(secx+tanx)11/2{111+17(secx+tanx)2}+C
Let I=∫sec2x(secx+tanx)9/2dx
Put secx+tanx=t
⇒secx−tanx=1t
⇒secx=12(t+1t)
Also, secx(secx+tanx)dx=dt
⇒secxdx=dtt
∴I=12∫(t+1t)dtt9/2.t
⇒I=12∫(t−9/2+t−13/2)dt
⇒I=12[−27⋅t−7/2−211⋅t−11/2]+C
⇒I=−17⋅t7/2−111⋅t11/2+C
⇒I=−1t11/2(111+t27)+C
∴I=−1(secx+tanx)11/2{111+17(secx+tanx)2}+C