ライブラリも実際にリンクする必要があります（-I インクルードディレクトリを指定するだけです。
試してみてください
g++ -I/usr/include/mysql -I/usr/include/mysql++ -L/usr/local/lib -lmysqlpp -lmysqlclient test.c
個別のコンパイル手順のサンプルコマンドラインは次のとおりです（最初にオブジェクトファイルを作成してから、それらをリンクします）：
g++ -I/usr/include/mysql -I/usr/include/mysql++ -o test.o -c test.c
g++ -L/usr/local/lib -lmysqlpp -lmysqlclient -o test test.o