select * from table
where column_value not like '[^0-9]'
負の整数が許可されている場合は、次のようなものが必要です
where column_value like '[+-]%'
and substring(column_value,patindex('[+-]',substring(column_value,1))+1,len(column_value))
not like '[^0-9]'
column_value が「int」型の制限を超える整数になる可能性があり、そのようなケースを除外したい場合は、さらにコードが必要です。