น่าเสียดายที่แชปแมนเสียชีวิตอย่างกะทันหันด้วยโรคปอดบวมเมื่อต้นปี 1934 แต่หลังจากนั้น โจ ชอว์ และ จอร์จ อัลลิสัน ที่เข้ามารับตำแหน่งก็ประสบความสำเร็จไม่แพ้กัน พวกเขาพาอาร์เซนอลคว้าแชมป์ลีกสูงสุดได้อีก 3 สมัย (ฤดูกาล 1933-34, 1934-35 และ 1937-38) และเอฟเอคัพ 1 สมัย (1935-36) อย่างไรก็ตาม อาร์เซนอลก็เริ่มถดถอยลงเรื่อยๆในช่วงปลายทศวรรษเนื่องจากสงครามโลกครั้งที่ 2 การแข่งขันฟุตบอลอาชีพทุกรายการในอังกฤษต้องยุติลง

หลังจากสงครามสิ้นสุดลง ทอม วิทเทคเกอร์ ผู้สืบทอดตำแหน่งของอัลลิสันได้เข้ามาบริหารทีม อาร์เซนอลจึงกลับมาประสบความสำเร็จได้อีก 2 ครั้งคือฤดูกาล 1947-48 และ 1952-53 ที่ได้แชมป์ลีก และ 1949-50 ที่ได้แชมป์เอฟเอคัพ อย่างไรก็ตาม หลังจากนั้น โชคก็เหมือนจะไม่เข้าข้างอาร์เซนอลเท่าไรนัก สโมสรไม่สามารถดึงดูดความสนใจของนักเตะชุดเดียวกับที่เคยอยู่ในทีมช่วงทศวรรษ 1930 ให้กลับเข้าสู่ทีมได้ ในช่วงทศวรรษที่ 1950 และ 1960 นั้น อาร์เซนอลกลายเป็นทีมระดับธรรมดาๆที่ไม่สามารถคว้าแชมป์อะไรได้เลย แม้ แต่บิลลี ไรท์ อดีตกัปตันทีมชาติอังกฤษที่ผันตัวเองมาเป็นผู้จัดการทีมนั้นก็ไม่สามารถนำความสำเร็จมาสู่สโมสรได้เลยในช่วงปี 1962-1966 ที่เข้ามาคุมทีม