1970'li yıllarda, eski SSCB topraklarına dahil olan Azerbaycan'ın bağımsızlığı için mücadele etmeye başlayan Elçibey 1976 senesinde Sovyetler'e karşı propaganda yaptığı gerekçesiyle tutuklanmıştır. 1978 senesinde şartlı olarak serbest bırakılmıştır.

1988-1989 seneleri arasında Azerbaycan halkına bağımsızlık mücadelesi yolunda öncülük etmiş ve halkından büyük destek görmüştür. Aktif siyasi hayatına 1989 senesinde, Azerbaycan Halk Cephesi Partisi'nin (AHCP) başına geçerek başlamıştır.

Azerbaycan, SSCB'nin 1990 yılında dağılmasının ardından 18 Ekim 1991 tarihinde bağımsızlığını resmen ilan etmiş ve Ayaz Muttalibov'un kısa süren cumhurbaşkanlığının ardından, Ebulfez Elçibey 7 Haziran 1992 tarihinde bağımsız Azerbaycan Cumhuriyeti'nin ikinci cumhurbaşkanı olmuştur.

Daha önce "Milli Kahramanlık Ödülü"nü verdiği Suret Hüseyinov'un Haziran 1993 senesinde ayaklanmasından sonra cumhurbaşkanlığı görevini terk ederek doğum yeri olan Keleki'ye geri dönmüştür.

31 Ekim 1997 tarihinde Keleki'den Bakü'ye dönmüş ve AHCP'nin başında aktif siyasi hayatına devam etmiştir. Elçibey, 1998 senesinde yapılan cumhurbaşkanlığı seçimlerine, "demokratik ve adil olmadığı" gerekçesiyle boykot ederek katılmamıştır.

Elçibey, zaman zaman Haydar Aliyev iktidarına karşı verdiği sert demeçlerle kamuoyunun dikkatlerini üzerine çekmiştir.

Azerbaycan'da 5 Kasım'da yapılacak olan 2. dönem parlamento seçimlerine katılma kararı alan Elçibey, bağımsız Azerbaycan Cumhuriyeti'nin parlamentosuna girebilmek için ilk defa milletvekilliğine adaylığını koymuştur.

Yaşamı boyunca, Türk dünyasının birleşmesi ve kardeşliği için mücadele etmiş ve bu yönde "Bütün Azerbaycan Yolunda" isimli bir kitap çıkarmıştır.

İki çocuk babası olan Ebulfez Elçibey, 22 Ağustos 2000'de tedavi için bulunduğu Ankara'da 62 yaşında yaşamını yitirmiştir.