Вроде бы всё верно. Сама добавляла в set и всё хорошо...
package com.javarush.task.task18.task1805;
import java.io.FileInputStream;
import java.util.*;
/*
Сортировка байт
*/
public class Solution {
final static LinkedHashSet<Integer> set = new LinkedHashSet<>();
public static void main(String[] args) throws Exception {
Scanner sc = new Scanner(System.in);
String name = sc.nextLine();
FileInputStream input = new FileInputStream(name);
if (input.available() != 0) {
set.add(input.read());
}
input.close();
List<Integer> list = new ArrayList<>(set);
Collections.sort(list);
StringBuilder s = new StringBuilder();
for (int i : list) {
s.append(i + " ");
}
System.out.print(s);
sc.close();
}
}