マングースポピュレートはnull配列を返します

間違ったrefのようです userSchemaで 、bookを参照する必要があります userではなくスキーマ スキーマ自体。

var book = mongoose.model('Book', bookSchema);

...
books: [{type: Schema.Types.ObjectId, ref: 'book'}]