不機嫌で古い学者のように聞こえるのは嫌いですが、独自のRDBMSを構築することを決意した場合、理論は実際に研究する必要があるものです。実装の詳細は、実際には、実装の詳細です。教科書とは別に、主題をより詳細にカバーする傾向がある研究論文を研究することもできます。
データベースエンジンの実装を開始するときは、既存のオープンソースの実装を調べることができますが、学習曲線が急になることを期待してください。すでにご存知のように、これらのプロジェクトは非常に複雑になる傾向があります。これらのプロジェクトについて具体的な質問がある場合は、関連するメーリングリストに投稿してみてください。独自の実装について具体的な質問がある場合は、ここに投稿してください:)