mongooseを使用して生のmongoDBコマンドを実行する方法は？

これを試してください：

YourModel.db.db.admin().command({setParameter: 1, internalQueryExecMaxBlockingSortBytes: <limit in bytes>}, function (err,res)
{
    console.log(res);
});

更新：

YourModelなしでも実行できます 。

mongoose.connection.db.admin().command({setParameter: 1, internalQueryExecMaxBlockingSortBytes: 268435456}, function (err,result)
{
    console.log(result);
});

接続が確立された後に必ず実行してください。