《论语》成书于战国初期。因秦始皇焚书坑儒（古时称为方术士，擅长祭祀，算命等），到西汉时期仅有口头传授及从孔子住宅夹壁中所得的本子，计有三种不同的本子：鲁人口头传授的《鲁论语》二十篇；齐人口头传授的《齐论语》二十二篇，其中二十篇的章句很多和《鲁论语》相同，但是多出《问王》和《知道》两篇；从孔子住宅夹壁中发现的《古文论语》（即《古论语》）二十一篇，也没有《问王》和《知道》两篇，但是把《尧曰篇》的“子张问”另分为一篇，于是有了两个《子张篇》，篇次也和《齐论》《鲁论》不一样，文字不同的计四百多字。

《鲁论语》和《齐论语》最初各有师传，到西汉末年，安昌侯张禹先学习了《鲁论语》，后来又讲习《齐论语》，于是把两个本子融合为一，但是篇目以《鲁论语》为根据，“采获所安”，另成一论，称为《张侯论》。张禹是汉成帝的师傅，其时极为尊贵，所以他的这一个本子便为当时一般儒生所尊奉，后汉灵帝时所刻的《熹平石经》就是用的《张侯论》。此本成为当时的权威读本，据《汉书·张禹传》记载：“诸儒为之语曰：‘欲为《论》，念张文。’由是学者多从张氏，馀家寝微。”《齐论语》《古论语》不久亡佚。东汉末郑玄又以“张侯论”为底本，参照《齐论》《古论》作《论语注》，遂为《论语》定本。

孔壁中书本《论语》由孔安国定。当孔安国向汉武帝献书时，正值“巫蛊事件”，朝廷将这批书退还给孔氏，“其学于是在孔家流传”。 丁晏的《论语孔注证伪》又认为出于王肃之手。

东汉末年，大学者郑玄以《张侯论》为依据，参照《齐论》《古论》，作了《论语注》。在残存的郑玄《论语注》中还可以窥见鲁、齐、古三种《论语》本子的异同，然而，今天所用的《论语》本子，基本上就是《张侯论》。张禹这个人实际上够不上说是一位“经师”，只是一个无耻的政客，附会王氏，保全富贵，当时便被斥为“佞臣”，所以崔述在《论语源流附考》中竟说：“《公山》《佛肸》两章安知非其有意采之以入《鲁论》为己解嘲乎？”但是，崔述的话纵然不为无理，而《论语》的篇章仍然不能说有后人所杜撰的东西在内，顶多只是说有掺杂着孔门弟子以及再传弟子之中的不同传说而已。

《论语》的版本之争实际上就是真伪之辩。1973年河北定县八角廊出土有竹简《论语》。2016年江西南昌西汉海昏侯刘贺墓出土了约五千枚竹简，考古人员在这些竹简中发现了失传已久的《论语·知道》篇，并初步断定属《论语》的《齐论》版本。