подскажите по строчке

Если значение newBalance будет больше 0, то результат "newBalance.compareTo(BigDecimal.Zero)" будет положительным. Следовательно, исключение не сгенерируется. Если же значение newBalance будет меньше 0, то результат "<выражение>" будет отрицательным, поэтому исключение будет выброшено. Советую прочитать про метод compareTo.

В описание метода: Following is the declaration for java.math.BigDecimal.compareTo() method. public int compareTo(BigDecimal val) Parameters val − Value to which this BigDecimal is to be compared. Return Value This method returns -1 if the BigDecimal is less than val, 1 if the BigDecimal is greater than val and 0 if the BigDecimal is equal to val т.е. это типа if (newBalance < 0 ) {...}, но т.к. тип BigDecimal не примитивный, поэтому надо вот так изварачиваться: newBalance.compareTo(BigDecimal.ZERO), как видно из описания метода compareTo, в качестве аргумента мы можем передавать любое число типа BigDecimal , например compareTo(new BigDecimal("0")). Также есть BigDecimal.ONE и BigDecimal.TEN для удобства.. Как результат функция вернет либо -1 либо 0 либо 1 (выше это написано)...

как понимаю: проверяется, не является ли баланс отрицательным

на сколько я вижу он бросает исключение если if (newBalance.compareTo(BigDecimal.ZERO) это вернет -1.