cos5x+cos5(x+2π3)+cos5(x+4π3)=0⇒(eix+e−ix)5+(ωeix+ω2e−ix)5+(ω2eix+ωe−ix)5=0⇒ 5C0 ei5x+ 5C1 ei3x+ 5C2 eix+… 5C5 e−i5x+ 5C0 ω2 ei5x+ 5C1 ei3x+ 5C2 ω eix+… 5C5 ω e−i5x+ 5C0 ω ei5x+ 5C1 ei3x+ 5C2 ω2 eix+… 5C5 ω2 e−i5x=0⇒ 5C1 ei3x+ 5C4 e−i3x=0⇒2cos3x=0⇒cos3x=0⇒3x=(2n+1)π2, n∈Ix={π6, π2, 5π6 7π6, 3π2, 11π6}
Total number of solutions 6.