max() funktioniert nicht so, wie Sie es in SQL für Mongo erwarten würden. Dies wird sich vielleicht in zukünftigen Versionen ändern, aber ab sofort werden max,min mit indizierten Schlüsseln hauptsächlich intern zum Sharding verwendet.
siehe http://www.mongodb.org/display/DOCS/min+and+max+Query+Specifiers
Leider ist die einzige Möglichkeit, den maximalen Wert zu erhalten, die Auflistung desc nach diesem Wert zu sortieren und den ersten zu nehmen.
transactions.find("id" => x).sort({"sellprice" => -1}).limit(1).first()