Ahmet Haşim, Bağdat'ta doğdu. Babası, yüksek rütbeli bir memur ve Bağdat'ın eski ve bilinen sülalelerinden biri olan Alusizade sülalesinden Arif Hikmet Bey; annesi ise yine Bağdat'ın ileri gelenlerinden Kethudâzadelerin kızı Sara Hanım'dır. Meşhur tefsir alimi Mahmûd El-Âlûsî, Ahmet Haşim'in babasının dedesidir. Haşim, babasının Arabistan vilayetlerindeki memuriyetleri sebebiyle düzensiz bir ilkokul tahsili gördü. Aynı sebepten ötürü dil olarak da sadece Arapça ve Farsça öğrendi. Annesinin ölümü üzerine 12 yaşında babasıyla birlikte İstanbul'a geldi. 1897'de Galatasaray Sultanisi'ne yatılı olarak kaydoldu. Haşim'in sanat ve edebiyata ilgisi, Galatasaray Sultanisi'nde başlamıştır. Haşim 1933 yılında Kadıköy'deki evindeki yardımcısı Zarife Özgünlü ile evlendi. Evlendikten 18 gün sonra 4 Haziran 1933 tarihinde 46 yaşındayken öldü. Ahmet Haşim, Eyüp Sultan Camii'nin yanına defnedilmiştir.