唐初官修史书、宰相监修制度的确立，表明皇帝对修史的控制大大加强，史官要受到皇帝和监修大臣的严格监督。史馆监修往往把如何记载史事作为打击政敌的工具，一些才德不高但善于逢迎的人担任了史官。刘知幾是有独立见解的人，自然对史官所受的束缚更加敏感。

　　刘知幾在史馆无法充分发挥才能，渐渐产生了脱离史馆的念头。唐中宗神龙二年（706），中宗李显率百官护送武则天灵柩由洛阳回长安，刘知幾请求留在洛阳，在那里闭门治学。过了三年，有人报告朝廷，说刘知幾身为史官，不为国事尽力，取乐于园林，私自著述。于是他又被石回京城。这时史馆的情况更复杂了，竟同时有五个宰相监修国史。长官多，意见又不一致。如记载某件史事，监修杨再思说必须如实书写。另一监修宗楚客说应该隐讳真情。这使刘知幾无所适从，难以下笔。这时，又有一个监修萧至忠几次责备他编写史书没有成绩。刘知幾再也忍受不下去了，愤然写出辞职信交给萧至忠。信中，刘知幾尖锐批评了史馆现存的五大弊病：其一，人多观望。史官多而不精，又都妄自尊大，每记一件事、一句话，都互相观望，迟迟不写，所以等到头发变白也写不出史书。

　　其二，资料不足。前代是把天下各种史料汇送史官，可是如今史官只能自己采集史料，而且得不到各部门支持，困难重重。

　　其三，权贵干涉。史馆人多嘴杂，保密很难。一个史官要是记载某人恶事，著述未完，内容已传遍朝野上下。因此史官畏惧权贵的干涉报复。

　　其四，监修牵制。史官修史要处处秉承监修意见，而监修多，意见分歧，好比十羊九牧，史官无所适从。

　　其五，职责不明。监修不定具体章程，史官各自分工不明，使得写作无所遵循，遇事互相推诿，坐等时光流逝。

　　由于刘知幾久居史职，对史馆里的弊病洞若观火，因而所言皆击中要害。萧至忠见信后大为惭愧，实在无言以对，但又舍不得刘知幾这个人才，于是不批准他辞职。而其他监修则对刘知幾的批评大为恼怒，这样一来，刘知幾受到的排挤更加严重，处境愈发艰难。

　　发愤著作《史通》刘知幾在史馆里郁郁不得志，满腹才华无所寄托，他又担心后世没有人能够理解自己，“故退而私撰《史通》，以见其志”。《史通》初次成书是在唐中宗景龙四年（710），后又作修改。他写此书时，就有人嘲笑他愚。书成后，由于臧否了许多古今人物和史书，因而又引来各种指责。唯独集贤院学士徐坚深知此书的价值，说：“居史职者，宜置此书于座右。”

　　刘知幾的著作很多，如《刘氏家史》15 卷，《刘氏谱考》3 卷，《刘子玄集》30 卷，但最重要的而又流传至今的，只有《史通》。

　　唐玄宗开元九年（721），刘知幾的大儿子刘贶因罪流放。刘知幾感到不平，上书辩解，惹得唐玄宗发怒，将他贬职为安州（今湖北安陆）都督府别驾。六十一岁的老人，经不住长途跋涉，加之心情悲愤，很快就病逝了。刘知幾的一生虽抑郁不得志，但《史通》却为他树立起一座永远的丰碑。《史通》的基本宗旨是对过去的史学作出批判性的、建设性的全面总结。刘知幾依照流派和体例，将众多史书概括为“六家”和“二体”。所谓六家，即《尚书》家、《春秋》家、《左传》家、《国语》家、《史记》家、《汉书》家。所谓二体，即纪传体和编年体。由于当时二体中，纪传体占优势，其编纂技术也更为复杂，所以《史通》对纪传体的分析较多。如《本纪》、《世家》、《列传》、《表历》、《书志》五篇，专门探讨纪传体各个组成部分，《论赞》、《序例》、《序传》则兼论纪传体与编年体共有的部分。刘知幾评析史书体例的通常方法是，先追溯该体例之渊源，然后述其流变，再归纳一个简洁的定义，接着便用此定义去检讨相关史书的违例之处。

　　例如，关于世家，《史通》中的《世家》篇首先指出：“案世家之为义也，岂不以开国承家，世代相续？”以此衡量，《史记》就有毛病，因为陈胜起义称王仅六个月就兵败身死，子孙未嗣，封地亦无，“无世可传，无家可宅”。因而《史记》列陈胜于世家，是“名实无准”。另外，世家之作应区别诸侯和大夫，“家国本别”，但《史记》竟将一些大夫记入世家，“使君臣相杂，升降失序”。刘知幾还认为，世家应记“专制一国，绵绵瓜瓞，卜世长久”者，而汉代的诸侯王和古代诸侯有很大不同，“或传国唯止一身，或袭爵才经数世”，应入列传。而《史记》将汉代诸侯与先秦诸侯并列世家，“虽得画一之宜，讵识随时之义？”

　　刘知幾对列传、表历、书志、论赞、序例等，均用类似方法评论。其优点是严整了史书体例，循名责实，促进了历史编纂技术的提高。但缺点是有时过于拘泥体例，不免有一些迂腐之见。如指责《史记》将项羽列入本纪，陈胜列入世家，既表现出比司马迁浓厚的封建正统观念，又未通史书变例之义。

　　刘知幾对于史书编写方法的探讨是相当细致的。如关于史书结构编排，《载言》篇谈到如何处置辞章、诰令、章表的问题。《断限》篇谈到收载史事的起讫时间问题。《编次》篇谈到纪、传区分和纪元采用等问题。《品藻》篇谈到对史书所记人物的品评分类问题。

　　关于史书内容取舍，《书事》篇谈到取舍的标准，即在荀悦所说的“立典有五志”外，增加叙沿革、明罪恶、旌怪异三科。《人物》篇谈到史书应记“恶可以惩世”，“善可以示后”之人，舍去“才非拔萃”、“行不逸群”之人。