Weil Aliase in der WHERE-Klausel derselben Abfrage nicht unterstützt werden. Schreiben Sie Ihre Abfrage also stattdessen wie folgt:
SELECT instmax
FROM
(SELECT instmax ,rownum r
FROM
( SELECT instmax FROM pswlinstmax ORDER BY instmax DESC NULLS LAST
)
) WHERE r = 2;