จุดกำเนิดของมัสยิดแห่งนี้ไม่ปรากฏแน่ชัด ท่านที่รู้บอกแต่เพียงว่า เริ่มแรกก็เห็นมีเสาไม้กลมตั้งอยู่ 6 ต้นและใบจากอีก 6 ตับอยู่ก่อนแล้ว โต๊ะอิหม่ามคนแรกชื่อ ปือดีกา การีม หลังจากท่านถึงแก่กรรม ก็ได้ย้ายมัสยิดไปยังหมู่บ้านกำปงปือตอ กำปงตือเมาะ และกำปงยูรอตามลำดับ กระทั่งเมื่อประมาณเกือบร้อยปีที่แล้ว จึงได้ย้ายมัสยิดมายังตำแหน่งปัจจุบัน ในช่วงสงครามโลกครั้งที่ 2 ญี่ปุ่นเข้ามาทำลายตำราศาสนาคัมภีร์อัลกุรอ่านในมัสยิดและงัดเอาไม้กระดานไปจนหมด เหลือไว้แต่เพียงโครงอาคารเท่านั้น แต่ก็ยังใช้เป็นสถานที่ปฏิบัตศาสนกิจได้เช่นเดิม

จนกระทั่งท่านฮัจยี ฮามะ ดาเต๊ะเดินทางกลับจากเมืองเมกกะและเห็นสภาพความทรุดโทรมของมัสยิด จึงชักชวนพี่น้องชาวมุสลิมร่วมกันบูรณะ ต่อมาในสมัยจอมพล ป. พิบูลสงครามเป็นนายกรัฐมนตรี ท่านฮัจยี ฮามะ ดาเต๊ะได้ทำการก่อสร้างเพิ่มเติมจนแล้วเสร็จและกลายเป็นมัสยิดกลางดังที่เห็นอยู่ในปัจจุบัน

วันนี้เดินเที่ยวจากตลาดรถไฟตามฟุตบาทมา ตลอดทางมีของกินของใช้จำหน่ายไม่ขาดสาย หลังจากผ่านคิวรถบัสพัดลมยะลา-ปัตตานีและคิวรถบัสพัดลมยะลา-ปานาเระมาไม่นาน ก็เจอมัสยิดกลางอยู่ริมถนนพอดี แถบนี้เป็นชุมชนด้วย บ้านเรือนเต็มไปหมด ชาวมุสลิมเลยแวะเวียนมาไม่ขาดสาย แถมอยู่ใกล้หอนาฬิกาเก่าอีก
บน – ภาพอาคารด้านหน้ามัสยิดกลางจากบันไดกลางนอกอาคาร

นับจากนี้ เรามาเริ่มจากภายนอกอาคารเข้าสู่โถงละหมาดด้านใน
ซ้ายบน – ภาพด้านข้างของมัสยิดกลาง มีทางเดินข้างบันไดกลางทั้งสองฟาก เราสามารถจอดรถบริเวณข้างบันไดกลาง แล้วเดินเข้าอาคารก็ได้เพราะมีบันไดขึ้นชั้นบนเช่นกัน
ขวาบน – บันไดกลาง(นอกอาคาร)ขึ้นสู่ชั้นสองจากหน้ามัสยิด เราต้องถอดรองเท้าบริเวณนี้ก่อนขึ้นบันได
ขวากลาง – ที่อาบน้ำละหมาดจะอยู่ชั้นสองบริเวณด้านนอกโถงละหมาดสำหรับชำระล้างส่วนต่างๆของร่างกายก่อนทำการละหมาด เช่น หน้า มือ เท้า ฯลฯ
ซ้ายกลาง – ภายในโถงละหมาดชั้นสองเป็นเพดานสูงและมีชั้นลอยเป็นชั้นสาม(ซึ่งสามารถขึ้นบันไดสู่ชั้นสามได้จากชั้นสองด้านนอก)
ซ้ายล่าง – ตำแหน่ง(ที่หันหน้าไปทางทิศกิบละห์)สำหรับทำละหมาดของผู้หญิง จุดนี้มีฉากกั้นมิดชิด
ขวาล่าง – และโซนนี้ก็คือตำแหน่งทำละหมาดของผู้ชาย ซึ่งเบื้องหน้าเป็นมิห์รอบ(ที่หันไปทางทิศกิบละห์สำหรับชาวมุสลิมเวลาทำละหมาด) โดยมีมิมบัรหรือแท่นยืนที่มีบันไดให้อิหม่ามเดินขึ้นไปแจ้งข่าวหรือกล่าวปราศรัยกับทุกคนบนแท่น