Где ошибся, помогите советом.

А не все решил :)

Убери абстрактный класс класс, переопредели метод next(), который будет возвращать результат работы метода getIterator внутри анонимного класса и будет тебе счастье

public Iterator getIterator(final String name) {
        abstract class LocalIterator implements Iterator {
            public Iterator next() {
                return new LocalIterator() {
                    {
                        countItems++;
                        System.out.println(name + " item " + countItems);
                    }
                };
            }
        }
        return new LocalIterator(){};
    }

Можно и так но в таком варианте ошибка только : "Логика поведения программы должна остаться прежней."