その型のコレクションを参照する型をoracle11gで定義するにはどうすればよいですか？

タイプがItemであるため、Oracleは定義をコンパイルしません。 まだコンパイルされていません。これを試してみませんか：

これをコンパイルします：

CREATE OR REPLACE TYPE Item;

CREATE OR REPLACE TYPE items_table IS TABLE OF REF item;

次に試してください：

CREATE OR REPLACE TYPE item AS OBJECT (
   id number,
   subitems items_table
)