1873年1月10日，明治维新时期的日本为建立统一的军队，下“征兵令”将全国分成6个军管区，负责征兵及地方卫戍。随着野心的膨胀，日本开始将各镇台改编为陆军师团，1888年熊本镇台改名为陆军第6师团成立，首任师团长山地元治中将，兵员一万余人。作为拥有步、骑、炮、工5个兵种的战略单位，师团拥有众多的兵员、装备和强大的独立作战能力，由此也就奠定了日军进行“大陆作战”(说穿了就是对中国侵略)的基础。包括第6师团在内的日军首批6个师团从一开始就是专为对外扩张而设立的，其侵略矛头正是直指中国！第6师团（熊本）和第二师团（仙台）并肩被称为日本陆军中最强悍最有战斗力的两支劲旅。这支部队在西南战争的时候被西乡隆盛率领的萨摩藩部队包围在熊本城内，硬是以坚强的意志顶住了西乡潮水般的进攻，一战成名！

最初的步兵连队的构成是第13、第14、第23、第24连队，后来就坚持征招来自熊本、大分、宫崎、鹿儿岛这些九州南部的部队。南九州（萨摩）给以人们“黑色的皮肤，鲜红的血”这一强烈印象。和长州（现在的山口县）一样，是明治维新的原动力，而第6师团也继承了热情勇猛、积极果断的传统。

无论是甲午战争还是日俄战争，第6师团总是打先锋。甲午战争中，在黑木为桢率领下在胶东半岛登陆后一举拿下了威海卫。而在日俄战争中，被配属在奥保巩的第2军，参加了沙河会战和奉天之战。1923年到1925年这3年中在满州驻屯，回国之后于1928年3月第二次在山东出兵，制造了“济南惨案”。“九一八事变”后于1932年年末重编参加了热河作战，在长城的冷口击败商震的32军。

1937年7月7日，第6师团驻扎在日本本土，时任师团长谷寿夫中将曾参加日俄战争，因对俄侧重点和屠杀中国人民“有功”而屡获晋升，至1935年12月 2日以中将军衔任第6师团长。此人不仅被日军吹嘘为“悍将”，据说还是位“战术家”，曾编写过《日俄机密战史》和《陆战术》。其在《陆战术》一书中写到，“在战胜之后的追击战时，掠夺、强盗、强奸为士气为旺盛这所寄”。

1937年7月28日，日本下达第6师团侵华令。8月1日，补充足额的第6师团25000余官兵在熊本市市民一片歇斯底里的鼓噪声中踏上了第六次侵华的征程，随即编入“北支”方面军第1军。9月14日强渡永定河，18日占涿洲，24日占保定，10月8日占正定。一路上，第6师团官兵在谷寿夫纵容下，烧杀奸淫，无恶不作，仅在保定、正定两地就杀害平民9000余人。

淞沪战场上，为改变中日两军胶着状态、击溃中国军队主力，日军参谋本部《临参令119号》，计划以新建第10军登陆杭州湾，切断中国军队退路。为此除原定编入第10军的第18、114师团外，将第1军编成的第6师团也编入第10 军。11月2日，接受新任务的第6师团从八浦口出发到达杭州湾。11月5日第6、18师团部队在几乎未受抵抗的情况下从金山卫以西登陆。谷寿夫不等部队上陆完毕，即令向北突击。随后，穷凶极恶的日军仗着火力优势，打退了中国军队第62师、79师的反击。8日，第6师团配合第10军主力渡过黄浦江后攻占松江，切断了沪杭铁路。上海方面的中国军队主力为免遭合围而开始撤退，不少部队在后退中秩序大乱而随即演变成了溃退。日军第6师团乘机疯狂追击，气势汹汹的第6师团成为追击的“先锋”。15日，昆山沦陷，第6师团大肆屠城，丰饶美丽的京沪杭地区被倭寇变成了腥风血雨的人间地狱。

11月7日，日参谋本部将上海派遣军和第10军组成“中支”方面军松井石根任司令。当时，日本内阁对扩大对华战争顾虑，因此日参谋部规定苏州至嘉兴一线为限制线(即苏嘉线)，日军不得越过。这样一来，南京也就被划在战线之外。但对被胜利冲昏头脑的第10军上层将领(包括谷寿夫)来说，这种限制是不能容忍的。在日本陆军中，早在日俄战争时就弥漫着“以下克上”的风气，那些敢于违抗上命、自作主张的将领，往往被视为不可多得的人才。第10军司令柳川平助及谷寿夫两人经密谋后决心挣脱“缰绳”。11月15日，这伙疯子背着参谋本部，独自向南京追击。11月20日，参谋次长多田竣接到第10军电文后才知其图谋，不禁大吃一惊。而此时，第6师团已经抵达湖州，苏嘉线成为虚设。面对即成事实，日参谋本部于24日废止了苏嘉线。12月1日，日统帅部发出《大陆令8号》：命令日军攻占南京。

南京南京南京……

大屠杀之后，1938年2月18日，第6师团参加了徐州会战。后在湖北担任侵驻任务。

太平洋战争爆发后，第6师团于11月26日脱离了第11军的编制，调向太平洋战场。第6师团于1943年1月20日被调向西南太平洋的布干维尔岛登陆，编入第8方面军第17军。1943年下半年，美、澳联军开始在西南太平洋发动反攻。10月，布干维尔岛遭到美机轰炸。狂轰乱炸之下，第6师团日军狼狈不堪，死伤惨重。11月1日，美军在布干维尔岛西南海岸中部登陆，日军匆忙组织反击。11月7日，第6师团发动了进攻。骄横惯了的日军自恃经验丰富，排着散兵线，端着刺刀冲锋，想重演攻陷南京一幕。不料美军火力强大，迫击炮群一通猛揍，不少日军被炸得粉身碎骨，尸首无存。第6师团慌忙停止进攻。到年底，布干维尔岛陷入孤立，日军的补给也告断绝，第6师团日军只得靠束紧裤腰带和美军作战。但作困兽犹斗的第6师团贼心不死，又于1944年3月8日倾巢而出发动所谓“决死”突击，结果被美军强大的火力轰上了天。一仗下来，日军就战死了7000余人。弹将药尽，残缺不全的第6师团只得龟缩于岛南、东北端进行最后的顽抗。

1944年10月，澳大利亚军队替换下美军，向第6师团发动更强大的攻势。3月，全体日军又一次疯狂反击，结果撞上了澳军的坦克，被一阵碾压，死伤无数。到了6月，末班师团长秋永力手上仅存2500余人(仅相当于第6师团全盛时兵力的1/10)。尽管如此，秋永力仍驱赶着他的那些形同要饭花子的部下发动了最后的攻击。2000多沮丧的至极的日军硬着头皮向澳军阵地冲去，结果扔下上千具尸体，剩下的人四散而逃。自此。作为一支战斗部队，第6师团已经不复存在。

1945年9月6日，日军第8方面军向澳大利亚第一军投降，包括第6师团在内的第17军几千名残部也放下了武器。成军70余年，为日本帝国主义充当侵略工具，欠下中国累累血债的日本陆军第6师团终于覆灭。