Köyün tarihi hakkında kesin bir bilgi bulunmamasına rağmen çeşitli tarihi kaynaklardan köy halkının Oğuzların Kayı boyuna bağlı Elbeyli aşiretinden mütevellit olduğu ve köy adınında Osmanlıların Yeniçeri ordusunda görev yapan ve çeşitli savaşlarda kahramanlıklar göstermiş olduğu belirtilen Karaali adında Kahraman bir yeniçeriden aldığı rivayet edilmektedir.
Köyün halkının eski adet,gelenek ve görenekleri aynı şekilde devam etmektedir.Köy halkı bir birleriyle dayanışma işersinde yaşamaktadırlar,buna örnek verecek olursak köy halkından bir aile düğün etmeğe başladığı zaman komşu hanımlar düğün evinde on onbeş gün önceden toplanır ve düğünde verilecek yemek için yufka açar daha sonra düğün hazırlıklarına yardım eder, düğün yemeklerini hazırlalar. Eskiden düğünler bir hafta sürer ve düğün törenleri Perşembe günü Bayrak kaldırma denen küçük bir törenle başlardı.Bayrak oğlan evinin uygun bir yerine beş-sekiz metre yükseklikte bir direğin zirvesine al bayrağımız ve alt kısımlarına çeşitli süslemelerden oluşan düğün evini belirten işaretten oluşurdu.
Sivas merkezine 46 km uzaklıktadır.iç anadolu bölgesi.Arazi olarak cok genistir,komsu koyler Durdulu,Akkuzulu,Haydarli,Yaramis,Sarikaya,Direkli,Cavuslu,bedirli ye kadar genis arazisi vardir.Bu arazinin Büyük bölümü Kızılırmağın yatağında bulunduğundan sulamaya elverişli olup,özellikle patates ve seker pancarı yetiştirilmektedir, buda köy ekonomisinin iyileşmesinde büyük katkı sağlamaktadır. Devlet tarafindan orman köy olarak ilan edilmiş olup, özellikle Yaramış köyü sınırında bulunan ve köy halkı tarafından haramı olarak adlandırılan meşelik gerçekten övgüye değer bir mesire yeridir.Burada bulunan buz gibi pelit tadında insana zindelik veren övgüye değer sularındanda bahsetmeden geçmemek lazımdır.Muhtarligin calismasiyla fidan dikme islemleri yapilacaktir. Son zamanlarda koye yatirim artmistir.Cevre koylerdende yeşillik bakimindan zengindir.Sivas selvisi bu köyde çok miktarda yetistirilmektedir.