咬文嚼字這個成語的來源是一個古代的小故事。話說，有一個人平時喜歡咬文嚼字，對語言非常較真，讀到一句詩總會一字不落地把它翻譯出來。有一次，他讀到一句詩：“讀書破萬卷，下筆如有神。” 覺得“破”字用得特別傳神，於是他反覆咀嚼，認為這裡的“破”字是說書讀得很透，紙張破了大洞，裡面的內容卻吸收進去了。於是他大為得意，認為自己讀書讀得很好，甚至比那些書讀破萬卷的人還好。
後來有人問他：“你讀了很多書，有什麼收穫？”他便把剛才說的“破”字理論講了一遍。那人笑了：“你並沒有讀破萬卷書啊，只是咬文嚼字罷了。” 他這才恍然大悟，原來自己還只是停留在文字表面，並沒有真正理解其中的內涵。從那以後，他便不再咬文嚼字，而是努力去理解書中的真正含義。這個故事流傳下來，就成了“咬文嚼字”這個成語的來源。
這個成語比喻過分地斟酌字句而忽視全文的大意，多用來諷刺死摳字眼兒、不認真理解全文意思的行為。