タイプ[java.lang.Object[]]からタイプへの変換に失敗しました

そのクエリの結果を格納するためだけにPOJOクラスを作成することをお勧めします：

package com.mypackage;

public class CustomerAmountResult{

    private String surname;
    private BigDecimal amountSum;

    public CustomerAmountResult(String surname, BigDecimal amountSum){
       this.surname = surname;
       this.amountSum = amountSum;
    }

    // getters / setters
}

次に、クエリを次のように変更します。

@Query("select NEW com.mypackage.CustomerAmountResult(
            o.customer.surname, sum(o.amount)) 
        from Order as o
        group by o.customer.surname") 
List<CustomerAmountResult> findCustomersBySumOfAmount();

そのおかげで、結果セットを手動で解析する必要がなくなります。