วัดธาตุประสิทธิ์ เดิมชื่อ วัดธาตุ เนื่องจากมีเจดีย์เก่าแก่ที่ไม่ปรากฏหลักฐานว่าสร้างมาในสมัยใด ครั้งแรกที่พบอยู่ใน สภาพชำรุดทรุดโทรมมีเถาวัลย์ปกคลุมไปทั้งองค์พระธาตุ พบโดยชนเผ่าญ้อ ต่อมาพระเจ้าไชยเชษฐาได้เข้ามาบูรณะใหม่ มีลักษณะ คล้ายกับเจดีย์วัดศรีบุญเรือง นครหลวงเวียงจันทน์ สันนิษฐานว่าอาจสร้างรุ่นราวคราวเดียวกัน ต่อมาเมื่อปี พ.ศ.๒๔๕๔ พระครู ประสิทธิ์ศึกษากร เจ้าอาวาสวัดธาตุประสิทธิ์ ได้ค่าเป็นการก่อสร้างพระธาตุเจดีย์องค์ใหม่ได้สร้างเลียนแบบพระธาตุพนมบางส่วน สวดสายต่างๆจะเป็นลวดลายใหม่ มักษะนะรูปทรง สี่เหลี่ยมจัตุรัส กว้างด้านละ ๗.๒๐ เมตร วัดโดยรอบฐาน ๒๔.๕๐ เมตร สูง ๒๔.๕๒ เมตร มีประตูเปิด-ปิด  สร้างเสร็จสมบูรณ์ในปี พ.ศ. ๒๕๐๖ ได้อัญเชิญพระบรมสารีริกธาตุ พระอรหันต์ตธาตุรวม ๒๔ พระองค์ และดินจากสังเวชนียสถาน ๔ แห่งคือ ที่ประสูติ ตรัสรู้แสดงพระธรรมเทศนา ปรินิพพาน และพระพุทธรูปที่พบใน เจดีย์องค์ที่เก่ามาบรรจุไว้ในองค์พระธาตุ และเมื่อปี พ.ศ.๒๕๐๐ ได้อัญเชิญพระพุทธบาทจำลองที่อัญเชิญมาจากกรุงเทพฯ พร้อม ตั้งชื่อพระธาตุใหม่ว่า พระธาตุประสิทธิ์ ตามรายในนามของพระครูประสิทธิ์ศึกษากร เจ้าอาวาสผู้ก่อสร้างองค์พระธาตุ ที่ศาลา ๑๐๘ พระอรหันต์ ครั้งหนึ่งเคยเป็นที่ประทับของพระบาทสมเด็จพระเจ้าอยู่หัว ครั้งเสด็จมาเยือนเมืองนครพนม
ด้วยอานิสงส์ พระสารีริกธาตุ และพระอรหันต์ธาตุ ได้แก่ พระมหากัสสปะ พระโมคคัลลานะ พระสารีบุตร พระอานนท์ พระอนุรุทธเถระ และดินจาก ๔ สังเวยชนียสถาน ถือว่ามีความศักดิ์สิทธิ์มาก มีพระอรหันต์มาก ผนวกกับเทวาปะจําวันเกิดที่ กําเนิดจากพระฤๅษี ๑๙ ตน ทําให้ผู้ที่กราบสักการะได้รับผลบุญอันยิ่งใหญ่ เป็นผู้รอบรู้ในเรื่องราวต่างๆ รู้แจ้งเห็นจริงในสิ่งที่เกิดขึ้น ไม่ว่าจะทําการอันโตก็จะพบแต่ความสําเร็จ เปรียบดังพระอรหันต์ประจํา “ทิศตะวันตก" ผู้ได้ชื่อว่า พุทธอุปัฏฐากของพระพุทธเจ้า อย่าง “พระอานนท์” ซึ่งติดตามพระองค์ไปทุกที่ ทําให้มีโอกาสได้รับฟังธรรมะจากพระพุทธเจ้าเสมอ จึงเป็นผู้ที่มีความรอบรู้ดัง นักปราชญ์จากอิทธพลอานิสงส์พระธาตุและเทวดาประจําวัน แผลให้ผู้ที่ถือกําเนิดขึ้นในวันพฤหัสบดี เป็นผู้ชอนการศึกษา เล่าเรียน ขอบธรรมะ เป็นคนเจ้าระเบียบ เป็นคนเข้มงวด มีจิตใจเอื้ออาทรต่อคนรอบข้าง รักสงบ ชอบความมั่นคง และยึดถือ ความถูกต้อง เที่ยงธรรม