The correct option is A tanx−cotx−3x+C
∫sin6x+cos6xsin2xcos2xdx∫(sin2x)3+(cos2)3xsin2xcos2xdx
{∵a3+b3=(a+b)(a2+b2−ab)}
=∫(sin2x+cos2x)(sin4x+cos4x−cos2xsin2x)sin2xcos2xdx=∫(1)((sin2x)2+(cos2x)2+2cos2xsin2x−3cos2xsin2x)sin2xcos2xdx=∫(sin2x+cos2x)2−3cos2xsin2xsin2xcos2xdx=∫1−3cos2xsin2xsin2xcos2xdx=∫(sin2x+cos2x)sin2xcos2xdx−3∫sin2xcos2xsin2xcos2xdx
{∵1=sin2x+cos2x}
=∫sec2x dx+∫cosec2x dx−∫3dx=tanx−cotx−3x+C