Kobzon se rodio 11. septembra 1937. godine u Ukrajini, u gradu Časov Jar u Donjeckoj oblasti, a pevanjem je počeo da se bavi još u detinjstvu.
Kao devetogodišnjak je nastupio u Kremlju pred Josifom Staljinom. Solo-pevanje je pohađao na Državnom muzičko-pedagoškom institutu „Gnjesini“.
Po okončanju akademije, počeo je da nastupa u duetu s kolegom Viktorom Kohnom na Svesaveznom radiju. Pobeda na Sveruskom takmičenju estradnih umetnika i na festivalu u poljskom Sopotu 1964. godine učvrstila je njegovu poziciju na estradi.
U Sovjetskom Savezu nije bilo čoveka kome nije bio poznat njegov lirski bariton. Kobzon je više od pola veka veoma aktivno nastupao širom sveta. Aktivno je učestvovao u društveno-političkim procesima u Rusiji i bio poslanik Državne dume Rusije.