Rozwiązanie
Krok 1. Sporządzenie rysunku pomocniczego.
Wprowadźmy dodatkowe oznaczenia do naszego rysunku, które umożliwią nam dalsze rozwiązywanie:

Krok 2. Dostrzeżenie trójkątów podobnych i zapisanie równań.
Powinniśmy zauważyć, że prostokąt wydzielił nam na rysunku także dwa mniejsze trójkąty prostokątne, czyli \(DBE\) oraz \(FEC\). Wszystkie te trójkąty (łącznie z głównym \(ABC\)) mają jednakowe kąty, więc możemy uznać je za podobne (na podstawie cechy kąt-kąt-kąt). To pozwoli nam ułożyć proporcję dotyczącą długości boków w tych trójkątach. Przykładowo, stosunek długości przyprostokątnych górnego trójkąta prostokątnego \(FEC\) o długościach \(3-x\) oraz \(y\) musi być taki sam, jak stosunek długości przyprostokątnych głównego trójkąta prostokątnego \(ABC\) o bokach \(3\) i \(4\). Możemy więc zapisać, że:
$$\frac{3-x}{y}=\frac{3}{4}$$
Mnożąc teraz na krzyż, otrzymamy:
$$(3-x)\cdot4=y\cdot3 \\
12-4x=3y \\
y=4-\frac{4}{3}x$$
Dodatkowo możemy od razu zapisać, że pole prostokąta wyznaczymy ze wzoru:
$$P=x\cdot y$$
Krok 3. Zapisanie wzoru funkcji \(P(x)\).
Kluczem do sukcesu przy tego typu zadaniach jest poprawne zapisanie pola powierzchni w postaci funkcji z jedną zmienną, czyli zmienną \(x\). Podstawiając \(y=4-\frac{4}{3}x\) do równania \(P=x\cdot y\), otrzymamy:
$$P=x\cdot(4-\frac{4}{3}x) \\
P=4x-\frac{4}{3}x^2 \\
P=-\frac{4}{3}x^2+4x$$
Otrzymaliśmy informację, że pole powierzchni prostokąta można opisać wzorem \(-\frac{4}{3}x^2+4x\). W ten sposób udało nam się zapisać wzór na pole z użyciem tylko jednej niewiadomej. Teraz całość możemy potraktować jak funkcję kwadratową (dla jakiejś wartości \(x\) otrzymamy konkretne pole \(P\)). Zapisalibyśmy więc, że \(P(x)=-\frac{4}{3}x^2+4x\).
Krok 4. Wyznaczenie współrzędnych wierzchołka paraboli.
Wykresem funkcji kwadratowej jest parabola. Tutaj parabola będzie mieć ramiona skierowane do dołu (bo współczynnik \(a=-\frac{4}{3}\)). Sytuacja będzie więc wyglądać następująco (zwróć uwagę, że na pionowej osi nie mamy \(y\), tylko pole \(P\)):

Chcemy się dowiedzieć, dla jakiego \(x\) osiągniemy jak największe pole \(P\). Z własności parabol wiemy, że parabola skierowana ramionami do dołu osiągnie swoją największą wartość w wierzchołku. Obliczmy zatem dla jakiej długości \(x\) to największe pole jest przyjmowana, a pomoże nam w tym wzór na współrzędną \(x_{W}\) wierzchołka paraboli:
$$x_{W}=\frac{-b}{2a} \\
x_{W}=\frac{-4}{2\cdot\left(-\frac{4}{3}\right)} \\
x_{W}=\frac{-4}{-\frac{8}{3}} \\
x_{W}=(-4):\left(-\frac{8}{3}\right) \\
x_{W}=(-4)\cdot\left(-\frac{3}{8}\right) \\
x_{W}=\frac{12}{8}=\frac{3}{2}$$
Krok 5. Wyznaczenie długości drugiego boku prostokąta i obliczenie pola powierzchni.
Wyliczyliśmy, że pole powierzchni będzie największe gdy jeden z boków prostokąta będzie miał długość \(x=\frac{3}{2}\). Zgodnie z treścią zadania, musimy jeszcze obliczyć długość drugiego boku, zatem korzystając z wcześniej zapisanego równania \(y=4-\frac{4}{3}x\), otrzymamy:
$$y=4-\frac{4}{3}\cdot\frac{3}{2} \\
y=4-\frac{12}{6} \\
y=2$$
To oznacza, że pole naszego prostokąta będzie równe:
$$P=\frac{3}{2}\cdot2 \\
P=3$$