五胡十六國時代的漢國，由匈奴貴族劉淵建立。劉淵出生年月不詳，新興(今山西忻縣)人，字元海。祖父名於扶羅，是南匈奴的單于。父親名豹，封左賢王。晉武帝司馬炎時期，劉淵被封為北部都尉。因漢高祖劉邦以宗室女為公主，與匈奴王冒頓聯姻，劉淵等便自認為是西漢皇室的外孫，故冒姓劉氏。
東漢末年，劉淵的祖父因幫助漢朝討伐黃巾軍，而進入黃河流域的太原地區；劉淵的父親劉豹，被漢丞相曹操封為左賢王，居於汾水、澗水之濱，與漢族雜居，促進了民族融合。為此，劉淵從小便接受了漢族的文化教育，尤愛讀《春秋左氏傳》、《孫吳兵法》。
晉武帝當政時期，曾詔見劉淵，聽其論治國安民之策，認為他很有遠見卓識，便要重用。但由於近臣孔恂、楊珧的堅決反對，說劉淵「非我族類，其心必異」，不但沒被重用，還差一點被殺，使得劉淵心中很是苦惱。直到紀元289年，晉武帝才任命劉淵為北部都尉；290年8月，又由晉惠帝任其為五部大都督。304年8月，劉淵的堂祖父、右賢王劉宣，看到晉廷大亂，互相殘殺，以為反叛時機已到，便對族人說：「自從漢朝滅亡以來，我們的單于都是徒有虛名，沒有一寸土地；雖然是富貴的王侯，但地位都降到與百姓一樣。現在，我們雖然衰落，但也有兩萬人以上，怎能俯首帖耳地充當役夫？現已匆匆地過了一百年!左賢王(指劉淵)英俊威武，超凡絕倫，上天如果不想使匈奴興盛，也就一定不會白白地生出這樣一個人來！現在司馬氏骨肉相殘，四海動亂，光復呼韓邪的事業，這正是時候。」經過謀劃，同推劉淵為大單于。劉淵知道後，十分高興，當時他正在鄴城，便以會葬為藉口北歸。但晉皇太弟司馬穎不允，劉淵只好密令呼延攸先回去，通知劉宣等人，讓他們召集五部匈奴以及各小民族，積蓄力量，加緊準備，伺機反晉。304年8月初，劉淵找了個理由，瞞過司馬穎，回到左國城(今山西離石)，劉宣等人立即給他上封大單于稱號，二十多天的時間，召集了五萬人馬，建都離石縣。10月，劉淵又將都城遷到左國城。劉淵對臣下們說：「過去漢朝能長久地擁有天下，是因為用恩德維繫百姓。我們為漢朝劉氏的外甥，相約為兄弟。現在哥哥亡故(指漢朝滅亡)而弟弟繼承，不也可以嗎?」大家覺得很有道理，於是稱國號為漢。接著，劉宣等人請求劉淵定一個尊號，劉淵說：「現在四方都沒有平定，暫且按照漢高祖那樣稱漢王吧。」
於是，劉淵祭天於南郊，登上漢王王位，宣布大赦，改年號為元熙，追尊安樂公劉禪為孝懷皇帝，製作漢高祖、世祖、昭烈皇帝和漢太宗、世宗、中宗、顯宗、肅宗五宗的神位，來祭祀他們。從此，正式打起了立漢滅晉的大旗。308年7月2日，漢王劉淵遷都平陽(今山西臨汾)；10月3日，漢王劉淵即皇帝位，改年號永風。11月，任命他的兒子劉和為大將軍，劉聰為車騎大將軍，同族侄劉曜，為龍驤大將軍。爾後，劉淵連續三次，組織大軍南下滅晉，但都失敗了。310年6月9日，劉淵突然臥床不起；16日，看看不久人世，劉淵便安排後事，將太宰劉歡樂等人召到皇宮，讓他們接受遺詔，輔佐朝政；18日，劉淵去世，在位6年。劉淵死後，太子劉和繼承皇位。
劉淵在中國少數民族首領中，是一個很有才幹的人物。在中國的帝王中，之所以能佔一席之地，是因為他有獨到之處。首先，他力戒民族偏見，竭力促進漢、匈兩族的團結，這是他力量迅速壯大的主要因素。其次，他十分重視軍紀和民心。他的軍隊所到之處，「老少安居如故」，「軍無私掠，百姓懷之！」他對雖然立了大功、但殘害百姓三萬的劉景照，嚴厲懲處，對霸佔和殺死敵將妻子的冠軍將軍喬唏，大罵不止，降職四級。再次，他建漢後的第二年，遇上天災，離石地區糧食所收無幾，劉淵帶頭躬行節儉，馬不餵糧谷。
他稱帝后，仍然身著布衣，不穿龍袍、華服。后妃不衣錦綺。故深得民眾的擁護。
（事據清代《淵鑒類函》）
