サブクエリで各カテゴリの最新の日付を検索し、このサブクエリをテーブルに結合して、3つのフィールドで並べ替える必要があります。
SELECT p.* FROM products p
JOIN
( SELECT category_id, MAX(date) as category_date FROM products
GROUP BY category_id ) pg
ON p.category_id = pg.category_id
ORDER BY pg.category_date DESC, p.category_id, p.date DESC