sql >> データベース >  >> NoSQL >> Redis

Redisを使用したSparkStructuredStreamingの動的ルックアップ

    1つのオプションは、spark-redisを使用せず、Redisで直接ルックアップすることです。これは、df.mapPartitionsで実現できます。 働き。 Spark DStreamsの例は、https://blog.codecentric.de/en/2017/07/lookup-additional-data-in-spark-streaming/にあります。構造ストリーミングの考え方も同様です。 Redis接続を適切に処理するように注意してください。



    1. 統合テストの実行時に埋め込まれたMongoDB

    2. カスタムデシリアライズ

    3. 厳密なJSON$dateをMongoDBクエリで使用できますか?

    4. Redisクラスターシャーディングの概要–利点、制限、デプロイ、クライアント接続