Xã Hòa Sơn là một vùng đất cổ có lịch sử hình thành và phát triển từ lâu đời. Trước Cách mạng tháng 8/1945, xã Hòa Sơn có tên gọi là xã Thù Sơn và Thù Cốc thuộc tổng Quế Trạo, huyện Hiệp Hòa, phủ Bắc Hà, xứ Kinh Bắc. Sau Cách mạng tháng Tám đơn vị hành chính (cấp trung gian giữa huyện và xã) bị xóa bỏ. Nhà nước thành lập đơn vị hành chính cấp xã, dưới xã là thôn. Ở huyện Hiệp Hòa, từ 51 xã cũ được sáp nhập thành 18 xã mới; Ủy ban cách mạng lâm thời cấp xã được thay bằng Ủy ban hành chính để quản lý công việc của thôn xóm. Tháng 4/1946 xã Thù Sơn và Thù Cốc sáp nhập thành xã Hòa Phong. Tháng 4/1949 hợp nhất 03 xã Hòa Phong, Mai Sơn và Quế Trạo thành xã Hòa Sơn; Tháng 11/1953, xã Hòa Sơn được chia tách thành 03 xã là xã Hòa Sơn, Hùng Sơn và xã Thái Sơn.

Xã Hòa Sơn hiện nay nằm ở phía Tây của huyện Hiệp Hòa, tỉnh Bắc Giang, địa giới hành chính xã được xác định:

Hòa Sơn cách trung tâm huyện (thị trấn Thắng) 7 km về phía Tây. Phía Đông giáp xã Thái Sơn; phía Tây giáp xã Quang Minh; phía Nam giáp xã Hùng Sơn; phía Bắc giáp sông Cầu (bờ bên kia là phường Tiên Phong và phường Đông Cao, thành phố Phổ Yên, tỉnh Thái Nguyên).

Xã có núi Y Sơn xanh ngát bóng thông, được xếp vào bậc danh lam thắng địa, đầy chất thi ca, trữ tình và lung linh huyền thoại về đức thánh Hùng Linh Công. Trên núi có Đền thờ Sơn thần. Đỉnh núi có Đền Thượng, giếng Tiên.

Ng n núi Y Sơn nổi lên cao nhất vùng, cao trên 100 m so với mực nước biển. Xung quanh ng n núi Y Sơn đều là đất phù sa của dòng sông Cầu tạo nên những cánh đồng mầu mỡ, phì nhiêu. Tổng diện tích đất tự nhiên của xã là 495,28 ha, trong đó đất trồng tr t 330,93 ha.

Với vị trí địa lý, điều kiện tự nhiên như trên, Hòa Sơn có cả những thuận lợi và khó khăn trong phát triển kinh tế - xã hội. Có thể coi đây là một đặc thù để tạo ra những nét riêng trên các mặt kinh tế, văn hoá, xã hội của một vùng đất cũng như tạo nên những phẩm chất đặc biệt của người dân Hòa Sơn trong quá trình dựng nước và giữ nước.