ExcelファイルをSQLサーバーに保存するデータ型は?

はい、バイナリ ファイル タイプを使用できます。 VARBINARY(MAX) 目的に最も適している可能性が高いです。

「Excelファイルをバイトに変換する」方法（実際には最初からバイトです）については、プログラミング環境について詳しく知る必要があります。 .NET を使用している場合は、次のようなことができるはずです:

var insert = new SqlCommand("INSERT INTO tbl (xls) VALUES (@xls)", conn);
insert.Parameters.AddWithValue("xls", File.ReadAllBytes("template.xls"));
insert.ExecuteNonQuery();