Der jtds-Treiber hat nicht dieselbe Syntax wie der ms-Treiber. Sie sollten den Instanznamen als Eigenschaft senden, also etwa so:
"jdbc:jtds:sqlserver://localhost/master;instance=TESTDATA;..."
Beachten Sie auch, dass der Datenbankname als /master
gesendet wird statt als Eigentum. Viel Glück!