Doğu Anadolu Bölgesinin güneybatısında, Yukarı Fırat Bölümünde yer alan Elazığ, doğu ve kuzeydoğusunda Bingöl, güneyde Diyarbakır, batı ve güneybatı Malatya, kuzeybatı Erzincan, kuzeyde de Tunceli ili ile çevrilidir. Genellikle dağlık ve engebeli bir arazisi olan Elazığ’ın güneyinde Hazar ve Maden Dağları ile Akdağ, doğusunda Güneydoğu Torosların uzantılarından Karaboğa Dağları bulunmaktadır. Güneydoğu Toroslar, Malatya ili sınırları içinde doğuya doğru uzanarak Elazığ’dan geçer ve Van gölünün güneyine doğru kıvrımlar halinde devam ederek ülke sınırları dışına çıkar. Elazığ’ın batısındaki Hasan Dağları (2.118 m.) ulaşır. Hasan Dağı’nın güneyinde Bulutlu Dağı (2.004 m.) , Karga Dağı (1.925 m.) ve Kamışlık Dağı (2.016 m.) yer alır. Elazığ (Harput) Ovasının güneyinde bulunan Meryem Dağının yüksekliği 1.490 m.dir. Sıra dağlar Elazığ ovasının kuzeyinde , yeniden yükselir, Beydoğmuş yöresinde 1.724 m.ye çıkarak, Keban
Barajı çöküntü alanına kadar devam eder. Çöküntü alanından sonra doğuya doğru, önce Asker Dağını, sonra Palu İlçesinin doğusundaki Gökdere Dağını oluşturur. Kuzeye doğru yönelerek Bingöl ile olan doğal sınırı çizer. Burada bulunan Karaboğa dağlarının en yüksek noktaları, Elazığ’ın sınırları içinde kalır. Hazar Gölünün kuzeyinde 2.140 m. yüksekliğindeki Mastar Dağı, güneyinde de en yüksek dağ silsileleri Hazarbaba (2.230 m.) Dağını meydana getirir. Bunların dışında Elazığ’ın çevresinde sıralanmış küçük tepeler de bulunmaktadır. Bunlar; Boztepe, Rıdvantepe, Yalavuz Tepeleridir.
Kuzeyde Peri Suyu ve Keban Barajı Gölü, batı ve güneybatıda Fırat nehri doğal sınırlarını oluşturur. İlin en yüksek noktası Palu Dağı’nın güneydoğusundaki 2.620 m.lik yüksekliği ile Akdağ’dır. Elazığ, yer altı su kaynakları bakımından çok zengindir. İl topraklarını Fırat ve Murat Nehirleri, güneyde de Dicle’nin küçük bir kısmı sulamaktadır. Murat Nehri’nin önemli kollarından Peri Çayı, Elazığ’a 27 km. uzaklıktaki Haringet Çayı ilin diğer akasurlarıdır.

Elazığ’ın güneydoğusunda il merkezine 25 km. uzaklıktaki Hazar Gölü (Gölcük), tektonik bir göl olup, denizden 1.250 m. yüksekliğinde ve 22 km. uzunluğunda, 86 km2. lik alanı kaplamaktadır. Türkiye’nin en büyük yapay gölü olan Keban Baraj Gölü, 675 km2.lik bir alanı kaplar. Murat Vadisi boyunca 125 km. uzunluğunda olup, burada elektrik üretiminin yanı sıra balık üretimi ve su sporları da yapılmaktadır. Elazığ’ın 10 km. batısında bulunan Cip Çayı üzerindeki Cip Baraj Gölü, 800 hektarlık bir alanı sulamaktadır. Ayrıca Keban, Kralkızı, Karakaya ve Özlüce gibi baraj gölleri de il sınırları içerisindedir.