第三师团创建于1888年，前身为1873年建立的名古屋镇台，因此编组地为日本爱知县的名古屋市，因此又被称为名古屋师团，属于甲种师团行列。该师团创建以后，相继参与了日本近代史上与中国相关的历次重大战争，也是唯一一支从开战到投降一直位于中国的甲种师团。1945年该师团在镇江市投降。

1950年，日本重建一支自卫武装——警察预备队，陆上自卫队第三师团的组织机构——第3管区总监部宣告成立。该总监部于1951年移驻伊丹市的千僧，主要负责包括大阪、平安京在内的日本关西地区防御。1960年，改编为第三师团，归中部方面队指挥，现为陆上自卫队乙种师团，下辖3个普通科联队及若干配属分队，总人数约7000人。

第3师团是日本陆军的师团之一。第三师团又名名古屋师团，编组地：名古屋。第三师团的前身为明治六年（1873年）1月成立的名古屋镇台，明治21年（1888年）日本政府对全国军制进行改革，当时全国六个镇台中，名古屋镇台改制为第三师团，就日本近代建军史而言第三师团也是日本200多个师团中最早成立的新建陆军之一；第三师团几乎参予了所有日本近代的重大战争，包括中日甲午战争、日俄战争、西伯利亚地区出兵、山东省出兵等。是唯一一支从开战到投降一直在中原地区战场作战的甲种师团，

甲午战争中，参加了登陆朝鲜，攻占平壤、海城市和营口市的战斗。日俄战争中，参加了南山会战，辽阳会战（下属下的步兵第34联队第1大队以其活跃的行动著称。参见橘周太。）还参加了沙河会战和奉天之战。西伯利亚出兵，在援救捷克军团的时候，和苏联红军交战。1928年参加出兵山东的行动。1934年起，约有两年驻扎在伪满洲国，在1936年返回日本。

1937年7月日本全面侵华战争爆发，第三师团与第十一师团作为第一批增援部队，被编入上海派遣军参与淞沪会战与南京大屠杀。8月23日，该师团在上海郊外的吴淞登陆，和中国军队激烈对抗，随后第九师团、第十三师团、第101师团和重藤支队陆续增派，最后依靠第10军的增援，击败了中国军，继续进军直至攻占南京。1938年2月14日，编入华中地区派遣军战斗序列参加徐州会战，同年8月22日编入第2军战斗序列参加武汉会战。占领武汉市后12月9日编入第11军战斗序列，此后战线胶着化，许多新设师团承担了占领地的警备，常备师团大多休整复员，只有第3师一直在华中前线驻屯。

1941年后大量甲类师团均调东南亚与美英盟军作战，唯一留在中国战场的甲类师团就是第三师团。日本统帅部给第三师团的任务是占领中国临时首都重庆，逼中国投降。第三师团在随会战中，开进到仅离重庆300公里处，但却止步在湖北宜昌。因战争的形势，一度与华中方面军后撤。

太平洋战争开战后，第三师团继续在华中方面军第11军属下作战，参加了在这个方面被进行了的各种各样的作战。1944年参加了“大陆交通线打通”作战（一号作战）。中国方面称之为豫湘桂战役。这次战役分为第一期“京汉”作战和第二期“湘桂”作战，而第三师团参加了“湘桂”作战。这个作战的宗旨是：确保从汉口到越南的铁路沿线，破坏驻扎在中国华南地区的美国军队B-29轰炸机机场。11月初先后占领桂林第1机场，永州零陵机场，柳州市北岸。作战结束后担当第11军司令部所在地的柳州方面的警备。1945年因战局变化从广西壮族自治区撤退，4月18日与第十三师团一起成为支那派遣军直辖师，把南宁方向的警备给第58师，而第三师团则向上海市方面移动。8月在江苏镇江迎来了日军无条件投降的那一天。

1888年编制

师团司令部（名古屋市）

步兵第5旅团（名古屋）

步兵第6连队（名古屋）

步兵第18连队（丰桥）

步兵第6旅团（金泽）

步兵第7连队（金泽）

步兵第19连队（名古屋）

骑兵第3大队（名古屋）

炮兵第3大队（名古屋）

工兵第3大队（名古屋）

重兵第3大队（名古屋）

1937年前后的编制

师司令部(名古屋)：师团长藤田进中将，参谋长田员利雄大佐

步兵第5旅团(名古屋)：旅团长片山里一郎少将

步兵第6联队 (名古屋)

步兵第68联队 (岐阜县)

步兵第29旅团(静冈县)：旅团长上野勘一郎少将

步兵第18联队 (丰桥市)

步兵第34联队 (静冈)

骑兵第4旅(丰桥)

骑兵第3联队(名古屋市)

骑兵第25联队(丰桥)

骑兵第26联队(丰桥)

野战重炮兵第1旅(三岛)

野战重炮兵第2联队(三岛)

野战重炮兵第3联队(三岛)

野战炮兵第3联队(名古屋)

高射炮第1联队(滨松市)

飞行第1联队(岐阜)

飞行第2联队(岐阜)

飞行第7联队(丰桥)

工兵第3联队(丰桥)

辎重兵第3联队(名古屋)

卫生队：第1至第4野战医院

兵器勤务队。

1941年时步兵第18联队被编入第29师团。第三师团解散旅团部，直辖三个联队。

1945年编制

师司令部(名古屋市):辰巳荣一中将

步兵第6联队(名古屋):松山良政大佐

步兵第34联队(静冈):井上金土大佐

步兵第68联队(岐阜):川崎贞贰大佐

骑兵第3联队(名古屋):伊藤铁雄少佐

野战炮兵第3联队(名古屋):河合征中佐

工兵第3联队(丰桥):田中益太郎大佐

第3师通讯队：伊藤新平大尉

第3师兵器工作队：出口清一大尉

第3师卫生队：山本角太郎中佐

第3师野战医院：福留英二军医少佐

第3师病马厂：原博兽医少佐

01、黑川通轨 中将：1888年（明治21年）5月14日 - 1891年（明治24年）6月1日

02、桂太郎 中将：1891年（明治24年）6月1日 - 1896年（明治29年）6月2日

03、长谷川好道 中将：1896年（明治29年）6月6日 - 1898年（明治31年）1月14日

04、儿玉源太郎 中将：1898年（明治31年）1月14日 - 1898年（明治31年）2月26日

05、大岛义昌 中将：1898年（明治31年）2月26日 - 1905年（明治38年）10月18日

06、松永正敏 中将：1905年（明治38年）10月18日 - 1906年（明治39年）7月6日

07、大久保春野 中将：1906年（明治39年）7月6日 - 1908年（明治41年）12月21日

08、渡边章中将：1908年（明治41年）12月21日 - 1913年（大正2年）3月1日

09、上原勇作 中将：1913年（大正2年）3月1日 - 1913年（大正2年）6月9日

10、冈市之助 中将：1913年（大正2年）6月9日 - 1913年（大正3年）4月17日

11、仙波太郎 中将：1914年（大正3年）4月17日 - 1915年（大正4年）2月15日

12、大庭二郎 中将：1915年（大正4年）2月15日 - 1919年（大正8年）11月25日

13、菊池慎之助 中将：1919年（大正8年）11月25日 - 1921年（大正10年）5月5日

14、武藤信义 中将：1921年（大正10年）5月5日 - 1921年（大正11年）11月24日

15、浜面又助 中将：1922年（大正11年）11月24日 - 1923年（大正12年）3月10日

16、井上几太郎 中将：1923年（大正12年）3月10日 - 1926年（大正15年）7月28日

17、安满钦一 中将：1926年（大正15年）7月28日 - 1929年（昭和4年）8月1日

18、小泉六一 中将：1929年（昭和4年）8月1日 - 1930年（昭和5年）8月1日

19、坂部十寸穗 中将：1930年（昭和5年）8月1日 - 1930年（昭和5年）11月7日

20、川岛义之 中将：1930年（昭和5年）11月7日 - 1932年（昭和7年）1月9日

21、若山善太郎 中将：1932年（昭和7年）1月9日 - 1935年（昭和10年）3月15日

22、岩越恒一 中将：1935年（昭和10年）3月15日 - 1936年（昭和11年）3月23日

23、伊东政喜 中将：1936年（昭和11年）3月23日 - 1937年（昭和12年）8月2日

24、藤田进 中将：1937年（昭和12年）8月2日 - 1939年（昭和14年）10月14日

25、山胁正隆 中将：1939年（昭和14年）10月14日 - 1940年（昭和15年）9月28日

26、丰岛房太郎 中将：1940年（昭和15年）9月28日 - 1941年（昭和16年）12月24日

27、高桥多贺二 中将：1941年（昭和16年）12月24日 - 1943年（昭和18年）3月25日

28、山本三男 中将：1943年（昭和18年）3月25日 - 1945年（昭和20年）3月1日

29、辰巳荣一 中将：1945年（昭和20年）3月1日 - 投降

1950年12月29日，日本陆上自卫队前身——警察预备队成立，同期第3管区总监部在大阪成立。

1951年5月完成所属部队的编成和集结，下辖第7，8，9三个普通科连队，并担负起日本关西地区防御。

1960年，成立第三师团，归陆上自卫队中部方面队指挥。

现下辖第3，36，37三个普通科连队（机械化步兵团），第3特车大队（装甲营），第3特科队，第3侦察队，第3高射特科大队，第3通信大队，第3后方支援连队，第3飞行队，第3施设大队（工兵营），第3特殊武器防护队，第3音乐队等，现任师团长为小林茂陆将（中将，2014年8月5日上任），总兵力7000余人。