VB.NET で ConnectionString プロパティが初期化されていないというエラーが発生する

エラーが言っているように、接続文字列を接続オブジェクトに割り当てたことはありません。

con.open の前に接続文字列を設定する行を挿入します。

Con.connectionstring = connection
Con.Open()
  

 または、using ステートメントを次のように変更することをお勧めします
 
Dim Connection As String = "Data Source=.\SQLEXPRESS;AttachDbFilename=G:\VB Project\Library Catalog System\Library Catalog System\library.mdf;Integrated
Security=True;Connect Timeout=30;User Instance=True"

Using Con As New SqlConnection(connection)