複数の列に適用された順序の場合、計算された列に作用しないことによる順序

group byの列を囲む括弧を削除します ：

Select *, CASE WHEN age>18 then 'Adult' ELSE 'MINOR' end  as category 
from student 
order by category, name;

オンラインの例： https://rextester.com/BHQ36816