Ngôi chùa được xây dựng trên một gò đất cao, rộng, có nhiều câu dầu, sao cổ thụ có tuổi trên 100 năm. Khuôn viên chùa được tạo bởi khúc quanh, lượn của sông Vàm Cỏ Đông tạo thành như một bán đảo. Cùng với ngôi đình cổ Phước Trạch và cảnh quan nơi đây đã trở thành nơi chiêm ngưỡng, du lịch của nhân dân trong vùng.
Cao Sơn Tự mặt nhìn ra sông Vàm Cỏ Đông - hướng Tây Nam. Kiến trúc theo hình chữ Nhị. Dài 22m, rộng 10m, cao 5,8m. Sự khác biệt của Cao Sơn Tự với các ngôi chùa khác trong tỉnh Tây Ninh là sự bài trí thờ phượng. Cao Sơn Tự thờ cả Phật và Thần. Tương truyền thế kỷ XVIII có một bộ phận nghĩa quân Tây Sơn truy đuổi Nguyễn Ánh tại đây; và có một số quan đàng cựu đánh giặc, di dân lập ấp, nhân dân lập Miếu đền rồi đưa vào chùa thờ.
Từ ngoài nhìn vào, phía Đông thờ thần - Quan Đàng cựu. Ở giữa là bàn thờ Tổ quốc, phía sau thờ tượng Phật chẩn đề, tổ đạt ma – gian trung tâm có các tượng di đà, quan âm bồ tát, hộ pháp. Tất cả đều là tượng cổ có giá trị mỹ thuật cao.
Cao Sơn Tự trên khu gò đất cao - một thắng cảnh hữu tình, có nhiều cây cổ thụ sân mát – nơi đây còn là một di chỉ khảo cổ thuộc thời tiền sử (đá mới Đồng Nai). Trong tương lai nơi này sẽ là một trong những địa điểm tham quan du lịch hấp dẫn.
