1億1000万件のレコードがあるので、問題のトラックIDを持つエントリがたくさんあるとは想像できません。
のようなインデックスがあります(trackID1, sim )
(trackID2, sim )
(tracksimID, sim)
ユニオンを介してPREQUERYを実行し、その結果に参加します
select STRAIGHT_JOIN
TS2.*
from
( select ts.tracksimID
from tracksim ts
where ts.trackID1 = 168123
and ts.sim > 0.5
UNION
select ts.trackSimID
from tracksim ts
where ts.trackid2 = 168123
and ts.sim > 0.5
) PreQuery
JOIN TrackSim TS2
on PreQuery.TrackSimID = TS2.TrackSimID
order by
TS2.SIM DESC
LIMIT 0, 100