ORA-01797：この演算子の後にはANYまたはALLエラーが続く必要があります

dateを使用するだけです キーワードとISO定数：

select *
from file_log f
where F.DCP_SRCE_FILENM_FK in ('ABC','DEF') and
      F.TRANS_DT >= date '2017-08-25' and
      F.TRANS_DT <= date '2017-08-30';

2番目の定数にto_date()がないため、エラーが発生します 。ただし、日付定数には適切な構文を使用することをお勧めします。