jarファイルを$glassfish-v3-install-root/ glassfish/libに置くのは正しいことがわかりました。
"SEVERE: RAR5111 : Error casting to javax.sql.Datasource java.lang.ClassCastException: com.mysql.jdbc.Driver cannot be cast to javax.sql.DataSource"
エラーは、Glassfishサーバーのjdbcプーリングの設定が正しくないことが原因であると考えられます。ただし、Netbeansの「サーバー」タブから利用できる管理コンソールに移動し、「JDBC」、「接続プール」に移動し、リソース・タイプとして「java.sql.driver」を選択し、「com.mysql.jdbc.driver」を選択します。ドライバーのクラス名がキャストの問題を取り除くためです。
上部にある[Ping]ボタンをクリックして、接続していることを確認します。