Karaman'dan Antalya'ya taşınmış bir ailenin çocuğu olarak 1 Mart 1949'da Antalya Konyaaltı Doyran Köyünde doğmuştur. Konyalı olmadığı söylemlerine karşı, eşinin Konyalı olduğunu belirtiyor.
Yüksek tahsilini, İstanbul Yüksek İslam Enstitüsü'nde tamamlamıştır.
979 da Almanya'da lisan eğitimi ve Bochum Üniversitesinde iki dönem Şarkıyat tahsili yaptı.
2006 yılında Türkiye'de yeniden memuriyete, Bağcılar Belediyesi'nde Başkan Muşaviri oldu.
3 kadınla evli olan Yüksel Evli ve 8 çocuk babasıdır.
Konya'yı ve Konyalıların kendisi için çok değerli bulduğunu belirten Ali Yüksel, Konya Kent gazetesine verdiği röportajda kendisi hakkındaki yolsuzluk iddialarını yalanladı ve bunlar hakkında kanuni süreç başlatacağını kaydetti.
Cumhuriyet'ten Gökhan Kam'ın haberine göre; Yüksel’in üçüncü eşi Dilber Yüksel, bir kitap çalışması için verdiği röportajda, eşine 11 yaşındayken âşık olduğunu söylemiş, 4. evliliği de “hakkı” olarak değerlendirmişti. Yüksel’in parlamentoya girmesine kadın hakları savunucuları tepkili. Tepkilerin odağında 3 eşle birlikte olmanın Medeni Hukuk'a aykırı olması yer alıyor. Sadece 1 eşi ile resmi nikahlı olan Yüksel, diğer eşleriyle imam nikahlı durumundadır. Ali Yüksel Medeni Kanun'a göre suç işlemektedir.