updateOneのmongodbドキュメントを見ましたか
?$set
などの更新演算子を指定する必要があります :
for hostname, services in dataset[0].items():
db.titleHardware.update_one({'hostname':hostname},
{'$set': {services.keys()[0]: services.values()[0]}},
upsert=True)