В помощи видел решения через коллекции. Но не совсем понимаю, почему нужно использовать именно коллекции. Мой принцип заключается в том, что байты добавляем в ArrayList после проверки, что такие байты еще не были добавлены в этот массив. Предполагается, что минимальное количество повторений будет "1" и, следовательно, все байты, встречающиеся один раз, и будут являться самыми редкими.