Diyarbakır’da dünyaya geldi. Bölgenin kültür hayatında önemli bir yeri olan Emîrîzâdeler ailesine mensuptur. Babası tüccar Seyyid Mehmed Şerif Efendi, annesi Zübeyde Hanım’dır. Tahsiline Diyarbakır Sulukiye Medresesi Sıbyan Mektebi’nde başladı. Küçük yaşlarından itibaren Diyarbakır’ın tarihî yapılarıyla ilgili yazıları okumaya başladı, ünlü şairlerin divanları vasıtasıyla edebiyat ve şiirle tanıştı. Daha sonra Siirt Şirvan’da ve Mardin’de eğitimine devam etti. Bu arada divan edebiyatı geleneği doğrultusunda şiirler yazmaya başladı. İlim tahsili ve edebiyatla ilişkisi sebebiyle hocaları başta olmak üzere çevresinin takdirini kazanan Ali Emîrî, hatıralarında sabahlara kadar kitaplarla meşgul olduğunu ifade etmektedir. Medrese merkezli eğitimin yanında 1875’te Diyarbakır Telgrafhanesi’nde telgraf eğitimi almıştır. Modern eğitimin revaçta olduğu bir dönemde rüştiye, idâdîye, Dârülfünun gibi resmî eğitim kurumlarının hiçbirine devam etmediğini belirten Ali Emîrî klasik eğitim sisteminden geçtikten sonra memuriyete adım atmıştır.

1878 yılında kendisindeki şiir kabiliyetini ve ilim arzusunu farkeden Said Paşa onu Mardin Tahrirat Kalemi kâtipliğine tayin etti. Aynı yıl Diyarbakır’a giderek Hey’et-i Islâhiye’de ve şehre gelen Âbidin Paşa’nın yanında müsevvid olarak çalışmaya başladı. Hayatının bundan sonraki kısmının önemli bir dönemi Âbidin Paşa’nın maiyetinde geçti. Âbidin Paşa’nın Hariciye nazırı olması üzerine onunla birlikte ilk defa İstanbul’a geldi, üç ay sonra paşanın Adana valisi olması üzerine orada beş yıl görev yaptı. Bu süre zarfında, Ankara vilayeti merkez sancağı, İçel sancağı ve Adana vilayeti merkez sancağı âşâr müdürlükleri, Adana vilayeti merkez sancağı âşâr nezareti başkitabeti memurluğu, Yanya vilayeti (Arnavutluk) Leskovik sancağı, Kırşehir sancağı ve Trablusşam sancağı muhasebecilikleri, Ma‘mûretülazîz (Elazığ) ve Erzurum vilayetleri defterdarlıkları, Yanya ve İşkodra maliye müfettişliği görevlerinde bulundu. Yemen vilayeti müfettişliğine tayin edilmişse de mazeret beyan ederek affını isteyince Halep defterdarı olarak tayin edildi. Ancak görevini gereği gibi yapmasına müdahale edildiği gerekçesiyle vazifesinden ayrıldı. Bir süre sonra Hey’et-i Islâhiye ve Teftîşiye azası olarak Yemen’e gönderildi. Bir sene Yemen’de çalıştıktan sonra İstanbul’a dönüp 25 Kasım 1909 tarihinde, “mücerret kitap mütalaasıyla meşgul olmak” için, sert eleştiriler yönelttiği İttihat ve Terakkî yönetiminin hoşnutsuzluğunun da etkisiyle emekliye ayrıldı.

Ali Emîrî Efendi, emekliye ayrıldıktan sonra da çeşitli müesseselerde hizmetlerini sürdürdü. Millî Tetebbular Encümeni, Tasnîf-i Vesâik-i Târîhiye Encümeni ve Âsâr-ı İslâmiye ve Milliye Encümeni başkanlığı, Târîh-i Osmânî Encümeni üyeliği görevlerinde bulundu.  Başbakanlık Arşiv Vekâleti’nde (bugünkü Cumhurbaşkanlığı Devlet Arşivleri Başkanlığı) Tasnif Komisyonu’nun başında yer alarak ismiyle anılan “Ali Emîrî Tasnifi”ni meydana getirdi. Yine Vakıflar Nezareti’nde önemli vazifeler yaptı. Onun en çok bilinen ve anılmasını sağlayan görevi ise Millet Kütüphanesi müdürlüğüdür.

23 Ocak 1924 tarihinde vefat eden Ali Emîrî Efendi Fatih Camii haziresine defnedilmiştir. Ahmed Cevdet Paşa’nın medfun olduğu bu hazireye daha sonra Halil İnalcık, Semavi Eyice, Kemal Karpat ve Mehmet Genç gibi tarihçiler de defnedildiğinden Ali Emîrî’nin kabrinin yer aldığı ada “Hadîkatü’l-müverrihîn” olarak isimlendirilmiştir (bk. Ahmed Cevdet Paşa; İnalcık, Halil; Eyice, Semavi).

Meslek hayatında ve görev yaptığı yerlerde çok seçkin bir kitap koleksiyonu oluşturmuş, belge değerinde eserler telif etmiş, tarih ve kültür hayatımız için önemli dergilerin yayınına öncülük yapmıştır. Erken sayılabilecek bir dönemde kaynak neşrinin kıymetini tespit etmiş, önemli projeleri planlamış ve hayata geçirmiş biri olarak takdir edilen Ali Emîrî Efendi, hemen herkesin ittifakıyla “nevi şahsına münhasır” bir şahsiyet olarak görülmüştür. Kendi değerlerine sırtını dönen döneminin aydınlarına karşı doğruluğuna inandığı değerleri güçlü bir şekilde savunmuş ve temsil etmeye çalışmıştır. Aynı şekilde kendi döneminde var olduğunu ifade ettiği ahlakî zafiyetleri, rüşvet ve yolsuzluğu, tembelliği ve sorumsuzluğu sert bir dille eleştirmekten çekinmemiştir. Tenkitlerini ve takdirlerini yüksek sesle dile getirmekten kaçınmamış, yaptıklarının da takdir edilmesini önemsemiştir.

Memuriyet hayatı otuz bir sene devam eden Ali Emîrî Efendi, bu süre zarfında pek çok sıkıntı çektiğini, fakat her zaman gece gündüz çalışarak görevlerini vatan sevgisi ve şuuruyla, hakkıyla yerine getirdiğini, her zaman takdir edilen ve iyilikle anılan bir memur olduğunu ve bu vasıflarıyla tanındığını belirtmektedir. Ali Emîrî Efendi’nin çeşitli dereceden sekiz nişan ve liyakat madalyası ile taltif edilmesi de takdir edilen bir memur olduğunu göstermektedir.

Faaliyetlerinde vatan sevgisi önde gelen unsurlardandır. Onun “Benim nazarımda vatan aynıyla insan, insan aynıyla vatandır. Vatan olmazsa insan olmaz, insan bulunmazsa vatan bulunmaz” (Ali Emîrî Efendi, 1918: 74) sözleriyle vatan ve insan arasında kurduğu bağ bu temel yaklaşımını da ortaya koymaktadır. Şiirlerinde ve eserlerinde bu duygusunu güçlü bir şekilde dile getiren Ali Emîrî, ülkenin içinde bulunduğu kötü şartları, olumsuz insan ve davranış şekillerini tasvir etmiş, bu hususta neler yapılması gerektiğini belirtmiştir.

Şiir ve eserlerinde ilme büyük önem vererek, ilim tahsilinin kıymetini vurgulamıştır. Çalışmanın, ilmî yolda ilerlemenin ve bu uğurda gayret etmenin önemini sık sık ifade etmiş, aynı zamanda Batı’daki bilimsel ve teknolojik gelişmelerin takibini ve ilgililerinin bu alanda teşvik edilmesini savunmuştur.

Telif, tercüme, neşir, dergi gibi çok sayıda eseri bulunmaktadır. Meraklı bir araştırmacı kişiliğe sahip Ali Emîrî Efendi, çocukluğundan itibaren sürekli malzeme toplamıştır.  Onun eserleriyle ilgili en hacimli çalışma ve geniş liste, Ali Emîrî Dîvânı’nın başında, divanı yayına hazırlayanlar tarafından kaleme alınan ve yeni bilgiler ihtiva eden “Ali Emîrî Efendi’nin Hayatı, Şahsiyeti ve Eserleri” bölümünde yayımlanmıştır (Ali Emîrî Efendi, 2020: 83-129).

Ali Emîrî Efendi’nin Telif/Tercümeleri: 1. Levâmiu’l-Hamîdiye (1896); 2. Cevâhirü’l-Mülûk (1903); 3. Tezkire-i Şuarâ-yı Âmid (1911); 4. İlmiye Salnâmesi’ndeki Tercümeihaller (1918); 5. Ezhâr-ı Hakîkat (1918); 6. Osmanlı Vilâyât-ı Şarkıyesi (1918); 7. Esâmî-i Şuarâ-yı Âmid (2003); 8. Yemen Hâtırâtı (2007); 9. İşkodra Vilayeti Osmanlı Şairleri (2013); 10. Mir’âtü’l-Fevâid fî Terâcim-i Meşâhîr-i Âmid (2014); 11. Ali Emîrî Dîvânı (2020); Derleme: Mecmau’n-Nezâir/Vesâiku’l-Âsâr (1922). Tenkitleri: 1. Tenkîdât-ı Edebiye (1916); 2. Vicdannâmeler. Çıkardığı Dergiler: 1. Âmid-i Sevdâ (1908-1909); 2. Osmanlı Târih ve Edebiyat Mecmuası (OTEM) (1918-1920); 3. Tarih ve Edebiyat Mecmuası (TEM) (2015). Neşrettiği Eserler: 1. Âsafnâme (1910); 2. Câm-ı Cem-Âyîn/Silsilenâme-i Osmânî (1915); 3. Mardin Mülûk-i Artukiye Tarihi: Kitabeleri ve Sâir Vesâik-i Mühimme (1915); 4. Acâibül-Letâif (Hıtay Sefaretnâmesi) (1915); 5. Bardahî’nin Câmiul-Fürs diye bilinen eserinin beşinci bölümü (2006).

Münevverliği ve araştırmacılığı açısından projeleri de büyük önem taşımaktadır. Millî Tetebbûlar Mecmuası’nın (1915) ilk sayısında yayımlanmak üzere dokuz ana başlık belirleyip malzemelerini ve yazılarını da büyük ölçüde tamamlamış, ancak Mehmet Fuat Köprülü’nün müdahalesiyle bunları dergide yayımlama imkânı bulamamıştır.

Ali Emîrî Efendi’nin biyografi başta olmak üzere kaleme aldığı eserlerin önemli bir kısmı belge ve yok olmak üzere olan maddi ve manevi kültür değerleri açısından kaynak çalışmalardır. Bazı eserlerinin telifinde Osmanlı hanedanına duyduğu derin ve samimi muhabbetin rolü bulunduğu, neşir çalışmalarının önemini de erken bir dönemde kavradığı ve bu vadide çalışmalar yaptığı belirtilmiştir.

Müellif, mütercim ve nâşirliği yanında, Ali Emîrî Efendi’nin iki büyük hizmeti daha bulunmaktadır ki bu hizmetleri Türk kültür ve maarif tarihi açısından çok büyük bir öneme sahiptir. Bunlardan biri muhteşem bir kültür hazinesi değerindeki Kâşgarlı Mahmud’un  Dîvânü Lügati’t-Türk isimli eserini borç para ile satın alarak yurt dışına kaçırılmaktan kurtarmasıdır. Bu eseri satın alma şartları (Ali Emîrî Efendi’nin anlatımı için bk. Ali Emîrî Efendi, 2020: 81-82) ve sonrasındaki tavrı Ali Emîrî’nin konumunu değerlendirmek için çok önemlidir. Bir diğer hizmeti ise kendi imkânlarıyla hayatı boyunca büyük meşakkatlere, uzun yolculuklara ve maddi sıkıntılara katlanarak  topladığı, içlerinde  Dîvânü Lügati’t-Türk’ün de bulunduğu, fermanlar, beratlar, padişah divanları, tezhipli, minyatür tek nüsha veyahut nadir eserler, dil, edebiyat, tarih, coğrafya, tıp, sanat, pozitif bilimlerle ilgili çoğu tek nüshadan oluşan 16.000 eserin yer aldığı paha biçilmez koleksiyonunu bağışlamasıdır. Bu koleksiyonu ile Şeyhulislam Feyzullah Efendi’nin kitaplığından oluşan, 16 Nisan 1916 tarihinde ismini kendisinin verdiği ve vefatına kadar müdürlüğünü yaptığı Millet Kütüphanesi de (Fatih’teki Feyzullah Efendi Medresesi) onun maarif tarihimizdeki çok önemli hizmetlerindendir.