Üst düzey bürokrat Mehmet Cemal Bey ile Nesibe Hanım'ın çocuğu olarak 1906'da İstanbul'da dünyaya geldi. Piyano çalan annesi ve kendisinden büyük erkek kardeşinin keman dersleri alması dolayısıyla henüz çocukken müziğe ilgi duymaya başladı. İlk müzik eğitimini küçük yaşta annesinden aldı, henüz 7 yaşındayken o tarihlerde İstanbul'da ünlü olan İtalyan müzik öğretmeni Adinolfi'den, 8 yaşına geldiğinde ise Fransız öğretmen Mercenier'den piyano dersleri aldı. 19 yaşında Galatasaray Lisesinden mezun olduktan sonra Milli Eğitim Bakanlığının yurt dışı eğitimi için açtığı sınavı kazanarak 1925'te Paris'e gitti. Paris Konservatuvarında Isidor Philip ve Camille Decreus ile piyano, Jean Gallon ile armoni, Noel Gallon ile kontrpuan çalışan Erkin, Ecole Normale de Musique de Paris adlı müzik okulunda Nadia Boulanger'nin kompozisyon öğrencisi oldu. Türkiye'ye döndüğünde, Ankara Musiki Muallim Mektebi’ne armoni ve piyano öğretmeni olarak atandı. Devlet konservatuvarında, hayatını kaybedene kadar müdür, piyano bölümü şefi ve piyano öğretmeni olarak çalıştı. 1971 yılında "devlet sanatçısı" unvanı aldı. Sanat yaşamındaki başarıları nedeniyle Fransız ve İtalyan devletlerinin onur ve liyakat nişanlarıyla ödüllendirildi. Anısına, 1985'te pul bastırıldı, 1991'de Sevda-Cenap Ant Müzik Vakfı tarafından onur ödülü altın madalyası verildi. 15 Eylül 1972'de, 66 yaşında iken, kalbine yenik düşerek Ankara'da hayata veda etti.
