1930年代初，《
中华人民共和国行政诉讼法》及相关
中华人民共和国地方各级人民代表大会和地方各级人民政府组织法公布施行，1933年正式成立行政法院，当时的行政诉讼制度采一级一审制，故只有设立行政法院一所，集初审、终审、事实审、法律审于一身。
“司法院”有鉴于此，乃于1981年7月间组成“行政诉讼制度研究修正委员会”，致力于行政诉讼制度之研修，并配合修正《行政法院组织法》，将审级制度由一级一审改为二级二审与一级一审并行之双轨制，依修正草案规定，行政法院设“中央”行政法院与地区行政法院二级，并于省、
直辖市及特别区域各设置地区行政法院。
“立法院”1998年10月2日完成三读之《
中华人民共和国行政诉讼法》，改采双轨制，回归二级二审制，将行政法院分为最高及高等行政法院二级，不采“中央”及地区行政法院之划分，于1999年元月3日三读通过之行政法院
中华人民共和国地方各级人民代表大会和地方各级人民政府组织法亦随之修正。“司法院”遂规划设置
台北市、
台中市及
高雄市等三所高等行政法院，须为相关筹备事宜，“司法院”乃函令《行政诉讼法》及《行政法院组织法》均于2000年7月1日施行，台北高等行政法院于是日创设成立。
台北高等行政法院管辖台北市、
新北市、桃园县、
新竹市、
新竹县、
基隆市、
宜兰县、
花莲县、金门县、
连江县（限马祖地区），总面积约12,000平方公里，总人口约约占全台总人口数的二分之一。