3 пункт

Привет! Давай сделаем тебе небольшое код-ревью. Ты сортируешь массив arrayByte, который хранит количество повторов каждого байта (индекс массива - это значение байта, а значение по индексу - это количество повторов). После сортировки ты выводишь значение из массива arrayByte[i], которые представляют количество повторов, а не сами байты, а по условию тебе нужно вывести значение байтов (например, 65 66 67), а не количество их повторов. Например, если байт 65 встречается 10 раз, а байт 66 - 8 раз, то после Arrays.sort(arrayByte) в arrayByte[255] будет 10 (максимальное количество повторов), но ты должен вывести 65 (значение байта), а не 10. Далее, бросается в глаза лишний try-catch. Ты используешь try-catch для обработки IndexOutOfBoundException, но он не нужен, так как твой цикл уже ограничен i > -1. Это усложняет код и не решает проблему. Пойдем далее. Ты пытаешься найти максимальное колчество повторов, сравнивая соседние элементы в отсортированном массиве (arrayByte[i] != arrayByte[i-1]). Это не сработает корректно определить все байты, которые имеют максимальное количество повторов ,так как ты не сохраняешь связь между количеством повторов и исходным значением байтов.

Это количество повторов, а какой это байт не известно после сортировки

System.out.print(arrayByte[i] + " ");

int[] arrayByte = new int[256];
while (input.available() > 0) {
    arrayByte[input.read()]++;
}

try(Scanner scanner = new Scanner(System.in); FileInputStream input = new FileInputStream(scanner.nextLine())) {
            int[] arrayByte = new int[256];
            int max = -1;
            while (input.available() > 0) {
                int tempByte = input.read();
                arrayByte[tempByte]++;
                if (arrayByte[tempByte] > max) {
                    max = arrayByte[tempByte];
                }
            }

            for (int i = 0 ; i < 256; i++){
                if (arrayByte[i] == max){
                    System.out.print(i + " ");
                }
            }
        }

int aByte;
while ((aByte = input.read()) != -1) {
    max = max < ++arrayByte[aByte] ? arrayByte[aByte] : max;
}