A banda é formada em 1964, em New Jersey, Estados Unidos, com o nome inicial de Jazziacs. Robert "Kool" Bell, seu irmão Ronald Bell e jovens amigos de Robert, tocavam jazz em bares da região. Do jazz inicial o som do grupo mudou com o passar dos anos e incorporou a energia do Funk de James Brown, Sly and the Family Stone e elementos pop.
Robert “Kool” Bell e Ronald (ou Khalis Bayyan) cresceram em Jersey City, New Jersey. Seu pai, um boxeador profissional, era também um amante de jazz e amigo íntimo de Thelonious Monk. Impulsionados pelo pai, os irmãos recrutaram um equipe para formar o Kool & The Gang em 1969. O grupo contava com Robert no baixo, Ronald nos metais, Clifford Adams no trombone, Charles Smith e Woody Sparrow nas guitarras, Robert “Spike” Michens no trompete, Dennis Thomas no saxofone, Ricky West no teclado e Funky George Brown na bateria. Com exceção de Michens e West, o restante dos integrantes permaneceu com a banda por mais de 30 anos.
Originally formed as a quartet, the Jazziacs, by:
Robert 'Kool' Bell (b. 8th October 1950, Youngstown, Ohio, U.S.A.; bass) - later known by his Muslim name Amir Bayyan, Robert 'Spike' Mickens (b. Jersey City, New Jersey, U.S.A.; trumpet), Ronald 'The Captain' Bell - later known by his Muslim name Khalis Bayyan (b. 1st November 1951, Youngstown, Ohio, U.S.A.; saxophone, keyboards) and Dennis 'D.T.' Thomas (b. 9th February 1951, Jersey City, New Jersey, U.S.A.; saxophone).