ORDER BY列とRAND（）の両方を選択するにはどうすればよいですか？

ORDER BYを指定するだけです。一度。

mysql_query("SELECT id FROM tb_table ORDER BY num ASC, RAND() LIMIT 1");