MYSQLは各カテゴリからランダムに選択します

（質問のように）2つのカテゴリがある場合、MySQLで最も簡単な方法はunion allを使用することです。 ：

(select * from t_shop where category = 1 order by rand() limit 5)
union all
(select * from t_shop where category = 2 order by rand() limit 5)