Altınyayla eski bir yerleşim merkezi olmasına rağmen ne zaman ve kimler tarafından kurulduğuna dair kesin bilgiler mevcut değildir. İlçe sınırları içerisinde yer alan Başören Köyünde yapılan arkeolojik kazılar l994 yılından itibaren, Almanya Marburg Üniversitesi adına Prof. Dr. Andreas MÜLLER başkanlığındaki bir ekip tarafından yapılmış ve edinilen bilgiler bulunan höyük ve eski şehir harabeleri buradaki yerleşimin tarihin ilk dönemlerinden itibaren başladığın göstermektedir. Eski adı Tonus olan Altınyayla tarihin ilk çağlarında Anadolu´daki hâkimiyet kuran Mezopotamya- Hitit, Roma ile Bizans imparatorluğuna beşiklik ettiği M.Ö.550 yıllarında Perslerin hâkimiyetine girdiği ve 600 yıl önce Selçuklu ve Osmanlı Devletlerinde de yerleşim yeri olduğu rivayet edilmektedir. Hâkimiyetinin M.Ö.l200 yıllarında Balkanlar üzerinden gelen Frigyalılar tarafından ortadan kaldırılması ile Tonus, Frigoya lığların hâkimiyetine girmiştir. Frigoya nın yıkılması üzerine bu devletin yerine kurulan Lidyalılar devrinde devletin kudretli komutanı Giges Mezopotamya ve İran ticaretini Ege denizine bağlıyabilmek için, yaptırdığı meşhur “Kral Yolu´nun” Tonus´un (Altınyayla) güneyinden geçtiği gezilip incelendiğinde görülen kalıntılardan anlaşılmaktadır. Kral Yolu; Sard-Uşak-Gordion-Ankara-Çorum-Mecitözü-Tokat-Zile-Sivas-Tonus-Malatya-Harput- Dıyarbakır- Ninova-Erbil- Suda yörelerinden geçmektedir. Kale Beldesindeki Toprakkale ve Taşkale kalıntıları Kral Yolunun güvenliğini sağlamak için yapıldığı anlaşılmaktadır. M.Ö.7l0 tarihinde Asur Hükümdarı Sargon´nun Anadolu´ya yaptığı akınlar sonucunda, Altınyayla M.Ö.676 yılına kadar Asur egemenliğine girmiştir. M.Ö.5854´te Medler ve Lidyalılar arasındaki antlaşma gereğince Sivas´ın doğusu Medlerin Altınyayla ve batısı ise Lidyalıların egemenliği altına girdi. Persler M.Ö.550 yılında Med egemenliğine son vererek Sivas çevresindeki yerleşim merkezlerini ele geçirdiler. Daha sonra Makedonya Kralı Büyük İskender M.Ö.334 ve M.Ö.332´de Anadolu´ya iki akın düzenlemiş bu seferler sonucunda Altınyayla´ da Pers egemenliğini ortadan kaldırmıştır. Roma kralı Tiperius M.S.l7 de Sivas´ı ele geçirince Altınyayla Roma yönetimine tabi olarak Eyalet-i Rum´un bir birimi halini almıştır.395´te Roma imparatorluğunun parçalanarak Doğu ve Batı olmak üzere ikiye ayrılması nedeniyle Altınyayla´ da Doğu Roma imparatorluğunun yani Bizans imparatorluğunun içerisinde kalmıştır. Altınyayla VII-yüzyılda bir süre Sasani egemenliğine girmiş sonra tekrar Bizans egemenliğine geçmiştir.658 yılından itibaren Altınyayla Emevi ordularının akınlarına uğramıştır. Tarihin başlangıcından, Anadolu´nun ilk büyük devleti, Büyük Hatti Krallığı buralarda kurulmuştur. Proto Hititlerin başkenti Hattuşaş´ tır. Sarissa kenti bugünkü Altınyayla ilçesindeki Kuşaklı ile isimlendirilmektedir.