Wenn dieser Fehler nach dem Upgrade auf 12.04 erneut auftritt (oder für Leute, die hierher kommen, nachdem sie den Titel dieser Seite nach dem Upgrade auf 12.04 gegoogelt haben), hat Folgendes für mich funktioniert:
gem uninstall mysql2
gem install mysql2
Dies wird das Juwel mit libmysqlclient18 neu kompilieren und hat bei mir funktioniert.
Hoffe, das hilft jemandem da draußen.