Rus ordusunda görev alan Ermeni askerleri Erzincan bölgesindeki kontrolü ellerinde tutuyorlardı. Bunlar görünürde, Rus ordusunda görev yapmış olan Albay Morel adında bir Fransız’ın emrindeydiler. Bu birliklere ilave olarak, aslen Sivaslı olan “Murat” adında bir çete reisinin emrinde bulunan Ermeni çeteleri bulunmaktaydı. Müslüman halkın kıyımı esas olarak bu Ermeni çetelerin eliyle gerçekleştirildi. Erzincan’da olaylar, 1918 Ocak ayı sonunda başladı. Erzincan’dakiler işlenen vahşetlere örnek teşkil eder.
Ermeniler ilk iş olarak Müslüman toplumunun önde gelen erkeklerini toplayıp, bir kısmını şehrin içinde ve diğerlerini çevrede astılar. Ondan sonra, geriye kalan Müslümanlar kesildi, birçokları evlerinde, şehir meydanlarında veya büyük binalarda yakılarak öldürüldüler. Çevredeki köylüler toplanarak şehre getirildi ve onlar da orada öldürüldüler. Ermeniler kendilerinin bir daha geri gelemeyeceklerini biliyorlardı ve Türklere de bir şey bırakmak istemediler. Osmanlı’nın veya İslamiyet dininin sembolü olan bütün binaları ve tahminen 1.000 evi yıktılar. Kıyımın başlamasından on gün sonra bölgeye yetişen Osmanlı askerleri sokak ortalarında saçılmış ve kuyulara yuvarlanmış 900’den fazla insan vücudu buldular. Parçalara ayrılmış cesetler kollar, bacaklar, kafalar hâlâ evlerin bahçelerinde darmadağınık vaziyette duruyordu. Ermeni çetelerin önlerine katarak şehirden çıkardığı 600 kişinin ise akıbeti bilinmedi.
Osmanlı’nın Üçüncü Ordusunun kumandanı Mehmet Vehib Paşa Erzincan hakkındaki izlenimlerini merkeze rapor etti:
Çardaklı Boğazından Erzincan’a, bütün köylerin o kadar harap edildiğini gördüm ki hiçbir köylünün kulübesi sağlam kalmamıştır. Tarlalardaki bütün ağaçlar kesilmiş ve bütün köylüler ölmüş. Ermenilerin Erzincan’da işlediği kadar katliama tarih şahit olmadı. Üç gün boyunca, Ermenilerin katledip kenara attıkları Müslümanların cesetlerini toplamaktan başka bir şey yapmadık. Bu masum kurbanların arasında memeden kesilmemiş bebekler, 90 yaşlarında ihtiyarlar ve parçalara doğranmış kadınlar var.
Vehib Paşa, 1.000’den fazla evin yıkıldığını tahmini hesapladı.