该师于1940年11月12日的第12波动员中在第6军区（威斯特伐利亚、莱茵河流域）组建，其中1/3的兵力来自第6步兵师，1/3来自第26步兵师，以及第250步兵团的2个营。该师编成后至入侵苏联前，一直隶属于德国本土的第11集团军，未参与任何作战行动。1941年9月该师的241团3营被派往北非战区改编为155团1营。
在1941年6月—1942年4月，该师在中央集团军群第2坦克集群第42军序列内参加作战行动。其中该师在1941年6月—10月间在第2坦克集群和第9集团军的第5军（下辖第5、35、129步兵师）序列内参加了斯摩棱斯克会战。7月27日，该师与第5军的其他部队一起，由斯摩棱斯克南部的Demidov出发，支援已进至斯摩棱斯克东部的第3坦克集群。接着它又在第3坦克集群的序列内参加了维亚济马的战斗，此后又在第4坦克集群序列内参加了科林地区的战斗。12月5日，该师与其左翼的第2装甲师、右翼的第35步兵师参加了Krasnaja Poljana附近地区的战斗，其当面之敌为苏军第7近卫步兵师、第28步兵旅。
在台风战役初期，11月16日,该师攻至Kuseeva南部。17日，它为了保持此后几天与第5军的联系，与该军的其他部队一起向莫斯科发动进攻，比友邻的46军提前了24小时。苏军展开反攻后，德军向西败退，该师与第2装甲师于12月16日在Solnechnogorsk被苏军第20集团军击退。12月12日，该师退至Krasnaja Poljana的突出部。此后至1942年3月，经历了激烈的战斗后，第5军和第9军的部队被撤至法国南部进行休整。
1943年4月，该师被派往苏联战区，隶属于第48军。5月，作为预备队。6月，重返前线。7月，在肯普夫集群的序列内，与第198、320步兵师参加了库尔斯克会战。该师以240团在左，241团在中，239团在右的态势，向Donets河发起进攻。7月4日，该师的拥有9个步兵营、1个侦察营和1个反坦克炮营，战斗人员6577名，36门105榴弹炮，12门150榴弹炮，60门反坦克炮。在进攻期间，该师阵亡566人，负伤2667人，失踪44人，共损失3277人。至8月25日，共伤亡147名军官和5933名士兵，其间补充60名军官和2722名士兵。该师还接收了被解散的第39步兵师—第39师部和第113、114掷弹兵团。此后其被迫撤过第聂伯河。经过了1944年激烈的防御战后，该师于8月在基什尼奥夫附近被歼灭，10月9日被正式解散，余部被用于重组第15、76步兵师。1945年3月24日，第106师被重建，并于4月8日再次改编为第106师级战斗群。