Bài thơ ra đời khi ông đồ đã trở thành cái di tích của một thời tàn. Nho học đã bị thất sủng, người ta đua nhau chạy theo thời đại với chữ Pháp chữ Tây.
Hai đoạn đầu bài thơ, tác giả giới thiệu những ngày huy hoàng của ông đồ:
Bao nhiêu người thuê viết
Tấm tắc ngợi khen tài
Hoa tay thảo những nét
Như phượng múa rồng bay.
Những lời khen thật hào phóng, nhưng nghĩ kĩ đó chỉ là lời khen của những người ngoài giới bút nghiên. Đi viết câu đối thuê, bản thân việc ấy đã là nỗi lận đận, là bước thất thế của người theo nghiệp khoa bảng. Đỗ các thành quan nghè, quan thám, đỗ thấp thì cũng ông cử, ông tú, chứ ông đó là chưa đỗ đạt gì, công chưa thành, danh chưa toại, đành về quê dạy học, bốc thuốc, hay xem lí số ở nơi đô hội như có lần Tản Đà đã làm. Ngày tết, mài mực bán chữ ngoài vỉa hè chắc cũng là việc bất đắc dĩ của nho gia. Chữ thì cho chứ ai lại bán. Bán chữ là cái cực của kẻ sĩ ở mọi thời. Bà con yêu quý và cũng thán phục cái thú chữ mà bà con không biết, hay chỉ võ vẽ, nên mới khen lao đến vậy. Lời khen này không mang lại vinh quang cho ông đồ, có thể ông còn tủi nữa, nhưng nó an ủi ông nhiều, nó là cái tình của người đời vào hồi vận mạt của ông. Tác giả giới thiệu: cùng với hoa đào, mỗi năm mới có một lần chứ nhiều nhặn gì đâu, giấy đỏ mực tàu, chữ nghĩa thánh hiền bày trên hè phố. Đừng nghĩ đến chuyện khoa bảng, hãy nghĩ trên cương vị người bán, thì đây là hai đoạn thơ vui vì nó nói được sự đắt hàng, ông đồ còn sống được, có thể tồn tại trong cái xã hội đang biến động này. Nhưng cuộc đời đã không như thế mãi, cái ý thích của người ta cũng thay đổi theo thời cuộc. Lớp người mới lớn không có liên hệ gì để mà quyến luyến cái thứ chữ tượng hình kia. Cái tài viết chân, thảo, triện, lệ của ông đồ chữ tốt kia, họ không cần biết đến:
Nhưng mỗi năm mỗi vắng
Người thuê viết nay đâu?
Giấy đỏ buồn không thắm
Mực đọng trong nghiên sầu...
Ông đồ vẫn ngồi đấy
Qua đường không ai hay
Lá vàng rơi trên giấy
Ngoài giời mưa bụi bay
Ông đồ rơi vào tình cảnh một nghệ sĩ hết công chúng, một cô gái hết nhan sắc. Còn duyên kể đón người đưa, Hết duyên đi sớm về trưa một mình. Ông đồ vẫn ngồi đấy mà không ai hay. Cái hiện thực ngoài đời là thế và chỉ có thế, nó là sự ế hàng. Nhưng ở thơ, cùng với cái hiện thực ấy còn là nỗi lòng tác giả nên giấy đỏ như nhạt đi và nghiên mực hóa sầu tủi, Hay nhất là cộng hưởng vào nỗi sầu thảm này là cảnh mưa phùn gió bấc. Hiện thực trong thơ là hiện thực của nỗi lòng, nỗi lòng đang vui như những năm ông đồ "đắt khách" nào có thấy gió mưa. Gió thổi lá bay, lá vàng cuối mùa rơi trên mặt giấy, nó rơi và nằm tại đấy vì mặt giấy chưa được dùng ỉến, chẳng có nhu cầu gì phải nhặt cái lá ấy đi. Cái lá bất động trên cái chỗ không phải của nó cho thấy cả một dáng bó gối bất động của ông đồ rồi nhìn mưa bụi bay. Văn tả thật ít lời mà cảnh hiện ra như vẽ, không chỉ bóng dáng ông đồ mà cả cái tiêu điều của xã hội qua mắt của ông đồ. Tác giả đã có những chi tiết thật đắt: nơi ông đồ là bút mực, nơi trời đất là gió mưa, nơi xã hội là sự thờ ơ không ai hay. Thể thơ năm chữ vốn có sức biểu hiện những chuyện dâu bể, hoài niệm, đã tỏ ra rất đắc địa, nhịp điệu khơi gợi một nỗi buồn nhẹ mà thấm. Màn mưa bụi khép lại đoạn thơ thật ảm đạm, lạnh, buồn, vắng. Như vậy cũng chỉ với tám câu, bốn mươi chữ, đủ nói hết những bước chót của một thời tàn. Sự đối chiếu chi tiết ở đoạn này tới đoạn trên: mực với mực, giấy với giấy, người với người, càng cho ta cái ấn tượng thảng thốt, xót xa của sự biến thiên.
Có một khoảng thời gian trôi qua, khoảng trống của đoạn thơ trước khi vào bốn câu kết:
Năm nay đào lại nở
Không thấy ông đồ xưa
Những người muôn năm cũ
Hồn ở đâu bây giờ?
Hãy trở lại câu thơ đầu bài Mỗi năm hoa đào nở để thấy quy luật cũ không còn đúng nữa. Ông đồ đã kiên nhẫn vẫn ngồi đấy, nhưng năm nay ông không còn kiên nhẫn được nữa: Không thấy ông đồ xưa. Ông đã cố bám lấy xã hội hiện đại, lũ người hiện đại chúng ta đã nhìn thấy sự cố sức của ông, đã thấy ông chới với, nhưng chúng ta đã không làm gì, để đến bây giờ quay nhìn lại, mới biết ông đã bị buông rơi tự bao giờ. Bóng dáng ông đâu phải bóng dáng của một người, của một nghề, mà là dáng của cả một thời đại, bóng dáng kí ức của chính tâm hồn chúng ta. Đến bây giờ chúng ta mới thấy luyến tiếc, nhưng quá muộn rồi. Chúng ta hỏi nhau hay tự hỏi mình? Hỏi hay khấn khứa tưởng niệm, hay ân hận sám hối. Hai câu thơ hàm súc nhất của bài, chúng ta đọc ở đấy số phận của ông đồ và nhất là đọc được thái độ, tình cảm của cả một lớp người đối với những gì thuộc về dân tộc, về ngữ pháp câu thơ này rất lạ, nhưng không ai thấy cộm: Những người muôn năm cũ. Muôn năm, thật ra chỉ là vài ba năm, nhưng nói muôn năm mới đúng, thời ông đồ đã xa lắc rồi, đã lẫn vào với những bút, những nghiên rất xa trong lịch sử. Chữ muôn năm cũ của câu trên dội xuống chữ bây giờ của câu dưới càng gợi bâng khuâng luyến nhớ. Câu thơ không phải là nỗi đau nức nở, nó chỉ như một tiếng thở dài cảm thương, nuối tiếc khôn nguôi.