Vùng đất Khe Mo được hình thành từ xa xưa, tên gọi Khe Mo bắt đầu từ bao giờ cũng không có ghi chép cụ thể, theo sách tên làng xã Việt Nam đầu thế kỷ 19 thì vùng đất xã Khe Mo khi xưa nằm trong tổng là Hoá Thượng và Huống Thượng, huyện Đồng Hỷ, phủ Phú Bình sứ Thái Nguyên. Theo sách tên làng xã và địa dư các tỉnh Bắc Kỳ của tác giả Ngô Vi Liễn xã Khe Mo gồm 2 xóm La Nưa và La Dẫy.

Ngày nay xã Khe Mo nằm ở vùng Đông Bắc huyện Đồng Hỷ, phía bắc giáp xã Quang Sơn huyện Đồng hỷ, xã La Hiên huyện Võ Nhai. Phía Tây giáp thị trấn Sông Cầu và các xã Hoá Trung, Hoá Thượng. Phía nam giáp xã Linh Sơn, Nam Hòa. Phía Đông giáp xã Văn Hán.

Từ đường tròn trung tâm thành phố Thái Nguyên đi theo hướng Đông Bắc 500 mét đến cầu Gia Bẩy đi theo quốc lộ 1B khoảng 3km, đến đường tròn Chùa Hang. Từ đường tròn Chùa Hang rẽ phải, đi qua cầu Linh Nham đến trung tâm Ủy ban xã Khe Mo là tới khu di tích. Đình Khe Mo nằm tại xóm Khe Mo 2, cách trụ sở Uỷ ban nhân dân xã Khe Mo khoảng 500 mét trên cùng trục đường. Du khách đến thăm di tích có thể đi bằng ô tô xe máy xe đạp đều rất thuận tiện.

Về lịch sử hình thành: Trước cách mạng tháng 8 năm 1945 xã Khe Mo có hai xóm La Nưa, La Dẫy mỗi xóm có một ngôi đình thờ thần hoàng Cao Sơn, Quý Minh và các vị sơn thần thổ địa ở địa phương hiển linh có công hộ Quốc an dân. Theo lời kể của các cụ cao tuổi và tài liệu Hán Nôm sắc phong hiện còn lưu giữ tại đình cho biết đình Khe Mo thờ Cao Sơn và Quý Minh tôn thần.

Đình Khe Mo là công trình tín ngưỡng văn hóa là nơi thờ 2 vị thánh Cao Sơn và Quý Minh (hai thuộc tướng thời Hùng Vương Duệ) truyền tích về hai Đức thánh vẫn được nhân dân địa phương lưu truyền lại qua nhiều thế hệ.

Về sau, do ảnh hưởng của tín ngưỡng thờ Dương Tự Minh theo dọc vùng Sông Cầu và thể theo nguyện vọng của cộng đồng dân cư xã Khe Mo, đình Khe Mo thờ thần Dương Tự Minh đã được các vua triều đại phong kiến ban sắc.

Trong kháng chiến chống thực dân Pháp xâm lược, xã Khe Mo nằm ở vị trí chiến lược quan trọng, có đường quốc lộ 1 B nối từ Thái Nguyên qua La Hiên huyện Võ Nhai, lên Lạng Sơn chạy qua đất Khe Mo có chiều dài 9,7km chạy dọc theo xã. Một con đường nối từ xóm Khe Mo qua Phả Lý, Văn Hán qua Đèo Nhâu sang Tràng Xá nay là các xã liên minh, tràng xá, Dân Tiến huyện Võ Nhai,

 Như vậy, Khe Mo thường hay trở thành điểm tập kết, dừng chân và trung chuyển binh lính địch đi càn quét, đàn áp cách mạng. Ngày 15 tháng 10 năm 1947 ban thường vụ Trung ương Đảng ta họp ra chỉ thị “Phải phá tan cuộc tấn công mùa đông của giặc Pháp” thực hiện chỉ thị của Trung ương Đảng, trên khắp mặt trận thuộc căn cứ kháng chiến Việt Bắc, quân và dân ta chiến đấu vô cùng anh dũng.

Đến năm 2010, được sự đồng ý của ủy ban nhân dân xã Khe Mo, dân làng quyên góp tiền công vật liệu để phục dựng lại ngôi đình làm nơi sinh hoạt văn hóa tín ngưỡng. Ngôi đình được dựng trong khu đất nhà cụ Đạo, đình gồm 3 gian.

Đình được xây theo kiểu hình chữ nhật gồm 3 gian, hệ thống các cột được làm bằng bê tông giả gỗ, hai cột to có đường kính là 65cm, 2 cột nhỏ có đường kính là 35cm, hệ thống vì kèo đơn giản bào trơn, đình được xây bằng gạch lập ngói, đầu hồi bít đố, Sân đình được lát gạch đỏ.

Trải qua nhiều lần tu sửa với sự đóng góp công đức của nhân dân địa phương, nay cộng đồng đã có một công trình sinh hoạt văn hóa tín ngưỡng. Hằng năm, Đình Khe Mo tổ chức lễ hội vào ngày 12 tháng Giêng âm lịch.

Với ý nghĩa về văn hoá và lịch sử đó, năm 2017, Đình Khe Mo được Ủy ban Nhân dân tỉnh cấp bằng công nhận là Di tích lịch sử văn hóa cấp tỉnh tại Quyết định số 4161/QĐ-UBND, ngày 29 tháng 12 năm 2017 của Ủy ban nhân dân tỉnh Thái Nguyên.