Keine der vorhandenen Antworten funktionierte für mich auf Ubuntu Server 16.04, also lief ich:
sudo apt-get install libmysqlclient-dev
sudo -H pip3 install mysqlclient
Der erste Befehl liefert mir die mysql-Konfiguration, die vom zweiten Befehl benötigt wird.