Jevremović je rođen 27. marta 1941. u Beogradu. Više od 50 godina je bio prisutan na muzičkoj sceni, a najveću popularnost dostigao je šezdesetih i sedamdesetih godina prošlog veka.
Njegovu pevačku karijeru obeležili su hitovi „Ako jednom vidiš Mariju“, „Osamnaest žutih ruža“, „S kim si sada kad je tužno vreme“, „Da sam tvoje zlato oko vrata“, „Narcisi plaču ljubavi“, „Kad bih znao da je sama“, „Moj mali beli pas i ja“, „Pijem“, „Pesnikova gitara“, „Grkinja“…
Sarađivao je sa Borisom Bizetićem koji je za njega komponovao 34 pesme, ali i sa slavnim grčkim kompozitorom Mikisom Teodorakisom.
Učestvovao je na prestižni muzičkim festivalima u Jugoslaviji kao što su „Vaš šlager sezone“, „Beogradsko proleće“, „Opatijski festival“, „Splitski festival“ i osvajao je značajna priznanja.
Sedamdesetih godina je pored Đorđa Marjanovića i Radmile Karaklajić bio izuzetno popularan i u SSSR-u.
U vreme najveće popularnosti postojalo je rivalstvo između obožavalaca Mikija Jevremovića i Đorđa Marjanovića, pa su tako postojali klubovi „đokisti“ i „mikisti“.
Pored muzike, Jevremovićeva velika ljubav bila je šah, te je učestvovao na više turnira u zemlji i inostranstvu, a najveći uspeh mu je remi sa svetskim prvakom Anatolijem Karpovom.
Njegova ćerka Jelena takođe se jedno vreme bavila pevanjem, ali se brzo povukla sa scene.