Rozwiązanie
Korzystając ze wzorów skróconego mnożenia otrzymamy:
$$(\cosα-\sinα)^2+2=cos^2α-2\cdot cosα\cdot sinα+sin^2α+2$$
Z jedynki trygonometrycznej wiemy, że \(sin^2α+cos^2=1\). Dodatkowo z treści zadania wynika, że \(sinα\cdot cosα=-\frac{3}{8}\), zatem całość możemy rozpisać następująco:
$$cos^2α-2\cdot cosα\cdot sinα+sin^2α+2 \\
sin^2α+cos^2α-2\cdot cosα\cdot sinα+2 \\
1-2\cdot\left(-\frac{3}{8}\right)+2 \\
1-\left(-\frac{3}{4}\right)+2 \\
3+\frac{3}{4}=3\frac{3}{4}=\frac{15}{4}$$