私も同様の問題を抱えていました。 Spring Boot1.5.9とpostgres9.6、挿入付きのdata.sqlを使用しています。 data.sqlでのエンコードはUTF-8でしたが、アプリケーションの開始後、DBではロシア文字ではなく特別な記号が使用されていました。
spring.datasource.sql-script-encoding= UTF-8
application.propertiesのこのプロパティが役立ちました。
DBを担当するすべてのプロパティ:
spring.datasource.jndi-name=java:/PostgresDS
spring.jpa.properties.hibernate.default_schema=my_scheme_name
spring.jpa.hibernate.ddl-auto = update
spring.jpa.show-sql = false
spring.jpa.properties.hibernate.dialect = org.hibernate.dialect.PostgreSQLDialect
spring.datasource.continue-on-error=true
spring.datasource.sql-script-encoding= UTF-8