文字列を16進数に、またはその逆に変換するにはどうすればよいですか？

これでうまくいくと思います

SELECT     hex(CAST("Ali" AS VARBINARY)) AS Expr1

逆の場合

select CONVERT(varbinary(max), "416C69");

これはvarbinaryに変換され、次にvarbinaryをvarcharに変換できます

SQLで文字列をHEXに変換する

http://blogs.msdn.com/b/sqltips/archive/2008/07/02/converting-from-hex-string-to-varbinary-and-vice-versa.aspx