Wie wäre es damit:
SELECT *
FROM users
ORDER BY RAND()
HAVING RAND() * 1000 < 10
Die Klausel WHERE RAND() * 1000 < 10 wählt zufällig jede Zeile mit einer Wahrscheinlichkeit von 1 % aus. Es ist nicht wirklich eine LIMIT variable -Klausel, wird aber ungefähr dasselbe tun.