これはばかげた答えかもしれませんが、そうである場合はご容赦ください。
行番号はゼロベースですか? where 句を次のように変更するとどうなりますか:
WHERE rn = 0?
編集:行に「AS」が欠落している可能性があることにも気付きました:
SELECT * , ROW_NUMBER() OVER (PARTITION BY Col1 ORDER BY Col5 ASC, Col3 ASC) rn
SELECT * , ROW_NUMBER() OVER (PARTITION BY Col1 ORDER BY Col5 ASC, Col3 ASC) AS rn