JOIN hat eine höhere Priorität als ein KOMMA, daher wird Ihre zweite Anweisung interpretiert als (beachten Sie die von mir hinzugefügten Klammern):
select sched.id, max(txn.dttm), acc.id
from PaymentSchedulePeriod sched
,(PaymentSchedulePayment pay
right outer join AccountTransaction txn on pay.accountTransactionFk=txn.id
right outer join Account acc on txn.accountFk=acc.id)
where sched.accountFk=acc.id
group by sched.id, acc.id
Siehe auch:JOIN-Vorrangregeln per SQL-99