重複する値をmongodbに保存するように制限する

インデックスの一意を定義する必要があります：

var QuestionListSchema = new Schema({
    topicName: String,
    quesList: {
        quesListName: {
            type: String,
            index: {
              unique: true
            }
        },
        by: String
    }
});

http://mongoosejs.com/docs/api.html#schematype_SchemaType-in​​dex