蘇薌雨，名維霖，以字行。民國前9年出生於新竹北門外沙崙（舊名蘆竹湳）。幼時就讀新竹公學校，即因性情豪爽，課業名列前茅，備受老師器重。公學校畢業後次年，入台北商公學校商科。

民國10年至東京正則補習學校，準備循序投考大學，唯因旨趣不合，遂前往大陸求學在南京暨南學校隨班補習，民國11年秋，考入北京大學預科特別生，預科兩年中，深受蔡元培、李石曾、李大釗等哲學系教授所感召，民國13年進入北大哲學系，就學期間備受五四運動之影響，積極鼓吹白話文，提倡新文學，經常在台灣民報介紹中國文學革命之作品。民國14年，孫中山先生病逝於北京，蘇氏與洪炎秋等，以北大台灣學生會名義祭悼中山先生，並約集台籍同學舉行追悼會。民國17年，北大哲學系畢業後，先後任教於暨南大學中學部、河北省第四師範學校、北平市立一中。民國24年，入日本東京帝國大學大學院進修心理學。民國26年夏，由東京返回北京，適逢七七事變，遂攜眷逃離北京。不久，投筆從戎，擔任孫連仲部隊（第一集團軍），陸軍第31師師長池逢成顧問，親自參與台兒莊之役。台兒莊大捷後，奉命陪同落軍團離魯南回漢口。不久，三十一師為日軍包圍，傷亡慘重，蘇氏倖免於難。在漢口進入中央宣傳部國際宣傳處日本科任職。