セキュリティグループのIPとして必ず0.0.0.0を使用してください。これには、パブリックIPとローカルホストIPが含まれます。これが問題ではない場合は、デバッグのためにこれを試してください。
mongoがリッスンしているインターフェースまたはIP範囲を確認します：netstat -pan | grep mongod
私はそれがあなたのパブリックIPアドレス（あなたがそれを呼ぶときの他のIPアドレス）を聞いていると想像します。この場合は、bind_ipなしでmongodを起動してみてください。 bind_ip引数を指定しなかった場合は、おそらくEC2に関連するものです。
別のテスト：telnet localhost 27017を試してください （Ctrl-]を押します 、「quit」と入力します やめること）。これもmongoクライアントが行っているのと同じことなので、これも失敗するはずです。