Druga generacja to czołgi mające już udoskonalone, w stosunku do poprzedników, przyrządy celownicze, wprowadzono wtedy po raz pierwszy celowniki laserowe, i pociski APFSDS. Do tej generacji należą czołgi T-55, w wersji AM (zmodernizowane, wyposażone w system kierowania ogniem MERIDA oraz dodatkowe opancerzenie kadłuba i wieży), T-62 – pierwszy w ogóle czołg II generacji, pierwszy z gładkolufową stabilizowaną armatą kalibru 115 mm i 240 mm pancerzem czołowym. Jego potencjalny przeciwnik amerykański M-60 miał armatę gwintowaną kalibru 105 mm, brytyjską L-7, produkowaną na licencji w USA pod nazwą M-68. Była ona wówczas standardową armatą we wszystkich armiach NATO. Także brytyjskie czołgi Chieftain z armatą o kalibrze 120 mm były klasycznymi przykładami czołgów drugiej generacji. W tym okresie standardem stało się montowanie bocznych ekranów przeciwkumulacyjnych, aby przeciwdziałać nasyceniu kumulacyjnymi środkami przeciwpancernymi (np. granatniki przeciwpancerne) będącymi na wyposażeniu