Haziran 1850 tarihinde Arnavutluk'un Frasher köyünde dünyaya geldi. Frasher'deki Bektaşi Tekkesi'nde ve Kalkandelenli Mahmut Efendi'den doğu kültürü ve dilleri eğitimi aldı.  1859 senesinde babası, 1861 senesinde de annesini kaybedince, kardeşleriyle birlikte Yanya’ya göçtü. Gençlik yılları burada geçen Sami Bey, bölgenin en iyi okullarından olan Zassimaia Skoli adlı Rum okulunda modern bilim ve kültürünün yanı sıra Avrupa dilleri (Eski ve Yeni Yunanca, Latince, Fransızca ve İtalyanca) eğitimine devam ederken aynı zamanda Yakub Efendi gibi önemli müderrislerden eğitim aldı.

Normal şartlarda sekiz senede bitirilmesi gereken okulu yedi senede tamamlayarak 1868 senesinde mezun oldu. Üç yıl sonra Dersaadet’e gelerek Matbuat Kalemi’nde çalışmaya başladı. İstanbul’a geldiği ilk zamanlarda hem memur olarak çalıştı hem de “Genel Tarih” kitabını kaleme yazdı.  Yazmış olduğu bu kitap yayınlanmamıştır. Madame de Saint Oune'den çevirdiği ve kendisinin ilk eseri olan “Tarih-i Mücbel-i Fransa" 1872 senesinde yayınlandı.  1872 senesinin sonunda "Hadika" gazetesinde bir roman yayınlamaya başladı. 1873 senesinde biten bu roman, Türk tarihinin ilk romanı olan "Taaşuk-ı Tal'at ve Fitnat" eseri idi.  Yanında çalıştığı Ebuzziya Tevfik'in sürgüne gönderilmesinin ardından Hadika gazetesinin yönetimini eline aldı. 1874 senesinde Trablusgarb'a gitti. Buraya gelirken gönlü var mıydı, yoksa sürgüne mi gönderildi, bu konu ihtilaflıdır. Burada sekiz senedir yayında olan Türkçe - Arapça Vilayet gazetesinin idaresi verilir.  Dokuz ay bu gazetenin idaresinde bulundu, İstanbul'a döndüğünde çeşitli birçok gazetede çalıştı. 

İlk Türkçe roman yazarı unvanına sahip olan Şemseddin Sami, "Kamus-i Arabi" ve  "Kamus-i Türki" eserlerini hazırladığı evde rahatsızlandı. Hastalığı git gide kötüleşen yazar, 5 Haziran 1904 tarihinde hayatını kaybetti.