Ich habe herausgefunden, dass die Hamming-Distanz nur die Anzahl der verschiedenen Bits zwischen den beiden Hashes ist. Zuerst xor die beiden Hashes und dann die Anzahl der binären Einsen:
SELECT product_id, BIT_COUNT(phash1 ^ phash2) as hd from A ORDER BY hd ASC;