Объект a ссылается на экземпляр Dog, поэтому a instanceof Dog и a instanceof Animal оба возвращают true. Оператор instanceof проверяет фактический тип объекта. Код компилируется и работает правильно.