Ich hatte ein ähnliches Problem. Ich verwende Spring Boot 1.5.9 und Postgres 9.6, data.sql mit Einfügungen. Die Codierung auf data.sql war UTF-8, aber nach dem Start der Anwendung waren in DB Sonderzeichen anstelle von russischen Buchstaben.
spring.datasource.sql-script-encoding= UTF-8
Diese Eigenschaft in application.properties hat geholfen.
Alle Eigenschaften, die für DB verantwortlich sind:
spring.datasource.jndi-name=java:/PostgresDS
spring.jpa.properties.hibernate.default_schema=my_scheme_name
spring.jpa.hibernate.ddl-auto = update
spring.jpa.show-sql = false
spring.jpa.properties.hibernate.dialect = org.hibernate.dialect.PostgreSQLDialect
spring.datasource.continue-on-error=true
spring.datasource.sql-script-encoding= UTF-8
