胡述兆先生從小學到高一，他的求學過程都很順利。在他讀高一時，正值中日戰爭，日本人侵略中國的野心及殘暴，使當時國人一致憤慨，政府號召「十萬青年十萬軍」，使當時青年學子熱血沸騰，紛紛加入戰鬥的行列，胡述兆先生也不例外，毅然投筆從戎，被編入青年軍208師，未幾，日本無條件投降，青年軍也隨之復員。當時從軍的青年，多為中學及大學在校學生，政府為安頓這些青年學生，在各地成立青年中學，胡述兆先生當時就進入嘉興青年中學自高二讀起。中學畢業後，考進國立中正大學化學系。

1949年國共和談破裂，掀起了內戰，政府遷臺，胡述兆先生隨學校來到臺灣，他雖讀化學系，但對化學卻無興趣，於1953年考上了臺大法律系，因此他比一般學生要遲了幾年。由於對化學興趣不大，乃轉考臺灣大學法律系，獲得學士學位後考取政治大學政治學研究所碩士班，獲得第一個碩士學位後再繼續攻讀博士學位。在政大政治研究所六年期間，受到恩師王雲五先生的啟發，對中國古藉與參考工具書引起極大興趣，此對他一生的治學研究與事業發展影響深遠。

胡教授在政大的博士論文是「美國參議院官員任命同意權之研究」，因為國內資料缺乏遭遇極大困難，他的指導老師王雲五教授建議他到美國去找資料。這使得胡教授的人生出現新的轉捩點。1962年他以自費留學的身份前往美國，一方面準備博士論文，同時在哥倫比亞大學攻讀碩士，主修美國政府，畢業後因為兩年休學期滿無法再回政大，原有意在哥大繼續攻讀政治學博士，然天不從人願，一為無錢支援，二因他的指導教授何斯曼（Roger Hillsman，甘迺迪總統時代的遠東助理國務卿）告訴他，以中國人身份在美國很難覓得教授美國政治的機會，只得放棄此念頭。由於在哥大上課時曾修習「參考服務」課程，引起他對圖書館學的興趣，其時他的夫人正在賓州維拉諾瓦大學攻讀圖書館學碩士，乃前往該校就讀，自此開始與圖書館學結下了不解之緣。

由於環境的因素，使得胡教授從政治學領域轉移到圖書館學界，在維拉諾瓦大學取得他的第三個碩士學位之後，便在哥倫比亞大學圖書館東亞部工作。不久，又到賓州聖佛蘭西斯大學擔任圖書館學講師兼編目組主任，並在政治系任課，一邊工作，一邊教學，逐步從講師、助理教授、副教授、升至教授。但當年到美國蒐集資料為完成博士學位之夢想仍縈繞於心中，故在教書期間胡教授仍繼續向邁進博士之路挑戰，先後又取得匹茲堡大學圖書館學與資訊科學超碩士、佛羅里達州立大學圖書館學高級碩士與博士。由於他擁有一個法律學士、二個政治學碩士、三個圖書館學碩士、以及一個圖書館學博士等七項學位，使他成為中國學位最多者的記錄保持人。