Правильное решение ведь не работает

При вычислении относительного пути при помощи метода relativize() имеет значение порядок использования объектов исходных путей: на каком объекте вызывается метод, и какой объект передаётся в качестве аргумента метода. Приведенный Вами пример можно читать так: "Чтобы получить путь C:\windows из пути C:\windows\projects\note.txt необходимо подняться на 1 уровень вверх". Вывод в консоль двух точек означает "выйти из текущего каталога в родительский". При этом другими двумя точками обозначается сам файл:

..\..

Если изменить третью строку следующим образом

Path result = path2.relativize(path1);

то вывод в консоль будет таким:

projects\note.txt

То есть получаем относительный путь, по которому нужно проследовать из текущего места path2 до файла, находящегося по пути path1.

Path result = path2.relativize(path1);

Path result = path1.relativize(path2);

try {
    Path path3 = path1.relativize(path2);
    Path path4 = path2.relativize(path1);

    if (path3.toString().matches("(\\.\\.)(\\\\\\.\\.)*")) {
        System.out.println(path4);
    } else {
        System.out.println(path3);
    }
} catch (IllegalArgumentException e) {

}

"(..)(\\\\..)*"