С выводом максимальных повторов такое решение прошло. Подредактировал для минимального - не проходит.
package com.javarush.task.task18.task1804;
import java.io.BufferedReader;
import java.io.File;
import java.io.FileInputStream;
import java.io.InputStreamReader;
import java.util.*;
/*
Самые редкие байты
*/
public class Solution {
public static void main(String[] args) throws Exception {
BufferedReader reader = new BufferedReader(new InputStreamReader(System.in));
File file = new File(reader.readLine());
FileInputStream inputStream = new FileInputStream(file);
List<Integer> list = new ArrayList<>();
Map<Integer, Integer> map = new HashMap<>();
while (inputStream.available()>0){
int data = inputStream.read();
list.add(data);
}
inputStream.close();
int min = list.size();
for (int i = 0; i < list.size(); i++) {
int count = 0;
for (int j = 0; j < list.size(); j++) {
if (list.get(i).equals(list.get(j)))
count++;
if (count < min){
min = count;
}
map.put(list.get(i),count);
}
}
Iterator i = map.entrySet().iterator();
while (i.hasNext()){
Map.Entry me = (Map.Entry)i.next();
if(me.getValue().equals(min)){
System.out.print(me.getKey() + " ");
}
}
}
}