Задачу конечно решил, используя коллекции (Который ранее были рассмотрены в курсе), но кажется что можно было решить проще. Особенно не нравится эта строка, где подсчитывается кол-во повторений каждого байта (почему то map.get(b)++ - не прошло)
map.put(b, map.get(b) == null ? 1 : map.get(b) + 1);
что скажете?
int max = 0;
HashMap<Byte, Integer> map = new HashMap<>();
BufferedReader reader = new BufferedReader(new InputStreamReader(System.in));
FileInputStream fileReader = new FileInputStream(reader.readLine());

while (fileReader.available() > 0) {
     byte b = (byte) fileReader.read();
     map.put(b, map.get(b) == null ? 1 : map.get(b) + 1);
     if(map.get(b) > max) max = map.get(b);
}

reader.close();
fileReader.close();

for (Map.Entry<Byte, Integer> mapIter : map.entrySet()) {
     if(mapIter.getValue() == max) {
         System.out.print(mapIter.getKey() + " ");
     }
}