Объясните почему не принимает последний пункт решения в моем коде? А также если поставить int x = a-10; то в таком случае метод abs возвращает отрицательное число

Чтобы было яснее, abs принимая отрицательное число, преобразует его в положительное. А если было передано положительное, то оно таким и возвращается :)

Ты никуда не записываешь результат метода abs. Примитивы (int - примитив) хранят значения, а не ссылки, а это значит, что метод не может "преобразовать" переданное в аргументе число: он может только посчитать новый результат и вернуть его. Сохрани результаты вызовов метода в переменную, и тогда сможешь их сравнить.

abs не может вернуть отрицательное число. abs это "по модулю", модуль всегда положительный.