The correct option is C (−10)
Assuming θ=π4
Q=(cosθ−sinθsinθcosθ)
⇒Q2=(cosθ−sinθsinθcosθ)(cosθ−sinθsinθcosθ)⇒Q2=(cos2θ−sin2θsin2θcos2θ)
Similarly,
⇒Q3=(cos3θ−sin3θsin3θcos3θ)⇒Q3=⎛⎜
⎜⎝cos3π4−sin3π4sin3π4cos3π4⎞⎟
⎟⎠⇒Q3x=⎛⎜
⎜
⎜
⎜⎝−1√2−1√21√2−1√2⎞⎟
⎟
⎟
⎟⎠⎛⎜
⎜
⎜
⎜⎝1√21√2⎞⎟
⎟
⎟
⎟⎠⇒Q3x=(−10)