「台北高等學校」設置「尋常科」及「高等科」，「尋常科」招收台日籍小學畢業生，四年後直升「高等科」。「高等科」修業 3 年，招收「尋常科」直升「高等科」的學生，以及招考中學畢業生。「高等科」分設文科及理科，再以主修外語的不同而分為甲、乙兩類，甲類以英語為第一外語，德語為第二外語，乙類以德語為第一外語，英語為第二外語，每週修習德、英、日語在 20 小時以上，因此高校學生在學期間就已奠定良好的語言基礎。

高等學校的入學考試，被認為是「全臺灣升學的最大難關」，因為「尋常科」每年日、臺人共只招收 40 人，臺灣人每年能考入尋常科者不曾超過 6 人，平均則不到 4 人；「高等科」每年招收 160 人（其中 40 名從「尋常科」直升），台灣人每年能考入者平均不到 30 人，可說是「窄門中的窄門」。「高等科」學生畢業後「免試直升」臺北帝國大學（今臺大），也有許多畢業生是以日本本土的東京帝大、京都帝大為第一志願。

自 1925 年起，臺北高校就取代了日本統治前半期的總督府國語學校與醫學校，成為全臺灣頂尖菁英的養成所，而這些菁英也成為臺灣未來社會領導階層最重要的來源之一。