합천읍 남쪽 황강변 절벽 아래에 위치한 신라시대의 사찰로서, 전하는 기록에 따르면 선덕여왕 12년(643)에 창건되었다고 한다.(565년 대야주가 설치되고 합천지역에 대야성이 군사적 요충지로 중요 시 되면서 연호사는 성내에 호국을 기원하는 사찰로서 창건되었을 가능성이 있다.)
신라 이후의 기록은 남아있지 않고 조선 영조 31년(1755)에 인조대사가 증수하였다고 한다.
전통사찰 제94호로 지정되었으며, 경상남도 유형문화재 제448호 합천 연호사 신중탱화를 비롯해 다수의 지정·비지정 문화재를 소장하고 있다. 사찰 주변에는 합천 팔경의 하나인 함벽루, 합천 대야성 등을 비롯한 문화유적이 산재하고 있어 많은 관광객이 찾아오고 있다.
함벽루는 옛 선비들이 풍류를 즐기던 곳이며 진주 촉석루나 밀양 영남루보다 더 오래된 정자로 누각 처마의 빗물이 황강으로 바로 떨어지게끔 지어져 누마루에 앉으면 배를 타고 있는 느낌마저 든다.