まず、ファイアウォールの問題ではないことを確認するために、両方のサーバーでIPTABLESを停止します（後で再度有効にすることを忘れないでください）。
接続しようとしているマシンで、直接sshを実行して、MongoDBが実行されていることを確認し、ローカルに接続して、DBにアクセスできることを確認します。
MongoDbは、デフォルトでリモートホストからの接続を受け入れるように構成されていません。これらの行が、/etc/mongodb.confにあることを確認できますか？ ファイル：
bind_ip = 0.0.0.0
port = 27017
変更を加えた後は、必ずMongoDBを再起動してください。これを試して、まだ問題がある場合はコメントしてください。回答をさらに提案で更新します。
編集： バージョン2.6以降、構成ファイルの形式がYAMLに変更されました。詳細は、こちら> 、ファイルは/etc/mongod.confにある必要があります 。
net:
bindIp: 0.0.0.0
port: 27017