Sie haben wahrscheinlich den falschen Pfad für --with-pg-config , überprüfen Sie, ob es tatsächlich vorhanden ist.
Den richtigen Pfad finden Sie unter pg_config mit:
find /Applications -name pg_config
In der neuesten Postgres.app-Version lautet der Pfad:
gem install pg -- --with-pg-config=/Applications/Postgres.app/Contents/Versions/9.5/bin/pg_config