Offensichtlich müssen schließende Klammern nicht maskiert werden:
SELECT
PATINDEX('%[[]SQLSERV].DBNAME.DBO.[[][0-9a-zA-Z _-]%','ert[SQLSERV].DBNAME.DBO.[Table name]asdadsf')
das Obige gibt 4 zurück.
Außerdem können wir kein mit PATINDEX gekoppeltes Fluchtzeichen anpassen, wie wir es mit LIKE tun können.