OrderID をグループ化したくないので、MAX() を使用したくないと思います。必要なのは、SELECT TOP 1 を使用した順序付きサブクエリです。
select *
from Customers
inner join Orders
on Customers.CustomerID = Orders.CustomerID
and OrderID = (
SELECT TOP 1 subOrders.OrderID
FROM Orders subOrders
WHERE subOrders.CustomerID = Orders.CustomerID
ORDER BY subOrders.OrderDate DESC
)