İlçemiz, M.S.395 yılında Roma İmparatorluğu’nun ikiye ayrılmasından sonra Bizans egemenliğine girmiştir. Bölgeye, 639 tarihinde bölgeye hâkim olan Araplar, Hozat ilçesini merkez yapmıştır. 1200’lerin başında Mengüç Beylerinden Ahmet Gazi, Erzincan yöresine hâkim olmuş ve Ovacık bölgesinde etkili olmuştur.1340 yılında Mengücekler’in yenilmesi ile Erzincan Beyi Mutahharte yöreyi kendi beyliğine bağlamıştır. Moğollar’ın, Anadolu Selçuklu Devleti’ni yenmesiyle yöre Moğol denetimi altına girer. 1514 yılında Çaldıran’ da Safevi Hükümdarı Şah İsmail’i yenen Yavuz Sultan Selim, Ovacık’ı Osmanlı topraklarına katar. 1500-1800 yılları arasındaki dönem, Osmanlı evleti’nin gerileme ve duraklama dönemi olup bu dönemde yöre, beyliklerle yönetilmiştir. Ovacık yaşanan aşiret çatışmaları nedeniyle merkezi denetimden uzak kalır. Ovacık, Tanzimat Fermanı’nın ilanından sonra, 1879 yılında Hozat ilçesi merkez olmak üzere Dersim vilayetine bağlanmıştır. Dersim vilayeti 1886 yılında mutasarrıflığa indirilince, Pülümür hariç, Tunceli’nin diğer ilçeleriyle beraber Mamuret-ül Aziz (Elazığ) vilayetine bağlanır.

Ovacık ilçesi 1908 yılında Hozat mutasarrıflığından ayrılarak halen bucak merkezi olan Yeşilyazı’da ayrı bir ilçe olarak teşkil edilmiştir. Birinci Dünya Savaşı’nda Rusların bölgeyi işgal tehlikesi üzerine ilçe geçici olarak Hozat ilçesinden idare edilmiş, tehlike geçtikten sonra merkez yine Yeşilyazı ucağına, 1935 yılında Tunceli iline bağlanmıştır. İlçe merkezi 1938 yılında Yeşilyazı’dan alınarak bugünkü yeri olan Pulur (Mareşal Çakmak) Mahallesi’ne nakledilmiş ve aynı yıllarda blediyelik olarak tarihteki yerini almıştır.