Первый вариант отрицательный - он не подходит сразу.

Как сравнивать два числа (дроби или обычные числа) подробно написано на странице 20 (рекомендую ещё раз прочитать :)
В нашем случае:

сравним 5/3 и 7/4

Разделим 5/3:7/4 = 5/3 * 4/7 = 20/21
20/21 меньше 1, значит 5/3 < 7/4 и следовательно 7/4 не может находиться между 2/9 и 5/3

Возьмём 7/9.
7/9>2/9
сравним теперь 7/9 и 5/3
5/3 = 15/9 (умножили на 3 числитель и знаменатель), следовательно 7/9<15/9, а значит это искомый ответ.