値を列挙する必要があると思います。変数が最も簡単な方法です。次に、追加の結合により、表で最も頻繁に使用される名前で並べ替える必要のある情報が得られます。
select t.*
from (select t.*,
(@rn := if(@n = name, @rn + 1,
if(@rn := name, 1, 1)
)
) as rn
from t cross join
(select @n := '', @rn := 0
order by name
) t join
(select name, count(*) as cnt
from t
group by name
) tn
on t.name = tn.name
where rn <= 4
order by cnt desc, name;