김영삼 의원은 국회에 등원 즉시 유망한 청년 정치가로 자유당 내에서 주목받기 시작하였습니다. 그러나 이승만 대통령이 3선 연임을 위한 개헌을 추진하자 그는 자유당을 탈당하고 말았습니다.

54년 11월 27일, 3선 개헌안은 그를 포함한 자유당 소속 소장파 의원들이 반대표를 던진 결과, 국회 본회의에서 부결되고 말았습니다. 그러나 자유당은 '사사오입'이라는 논리를 동원해 3선 개헌안의 가결을 선포하였습니다.

3선 개헌의 부당성에 항의하던 김영삼 의원을 비롯한 자유당 소장파 의원 12명은 12월 9일 자유당을 집단 탈당하였습니다.

1955년, 신익희, 조병옥, 장면, 윤보선 등이 중심이 되어 민주당이 창당되었고, 김의원은 중앙당 청년부장 겸 경남도당 부위원장을 맡았습니다.

1958년 4대 총선을 앞두고 부산 지역의 기반이 약하다는 중앙당의 요청으로 김영삼 의원은 이후 자신의 정치적 고향이 된 부산 서구로 지역구를 옮겼습니다.

그러나 4대 총선에서 자유당은 전국 도처에서 등록방해, 불법선거, 환표 등 유례 없는 부정 선거를 강행, 선거후 수많은 당선 및 선거무효 소송이 제기되는 등 혼탁상의 극치를 보여 주었습니다.

김영삼 의원 역시 선거에서 낙선하는 쓰라림을 맛보았습니다. 자유당을 탈당하고 야당으로 출마한데 대한 보복이었으며 투표에서 이기고 개표에서 진, 정치입문 이래 최초로 닥쳤던 시련이었습니다.

4대 국회는 야당과 언론 탄압으로 일관된 국회였습니다. 종신 집권을 의도한 이승만 정권은 급기야 59년, 유력한 야당지였던 경향 신문을 폐간 조치하기까지 하였습니다.

김영삼은 원외에서 활발한 정치활동을 벌이며, 민주당의 4대 대통령 후보로 조병옥 박사를 추대, 자유당의 이승만과 대결을 벌이고자 계획하였습니다. 그러나 조병옥 박사는 대통령 선거를 불과 한달 남기고 병으로 급서하였습니다.

1960년, 4대 정.부통령으로 자유당의 이승만과 이기붕이 당선되었습니다. 그러나 자유당의 부정선거는 스스로 몰락의 길을 자초하고 말았습니다. 부정선거를 규탄하는 학생, 시민들의 시위가 계속되었고 급기야는 정권교체의 구호로 바뀌었습니다. 4.19 혁명이 일 어난 것입니다. 이로 인해 자유당의 12년 독재정권은 붕괴되고 이승만 대통령은 하와이로 망명하였습니다.

1960년 7월, 자유로운 분위기 속에서 실시된 제5대 국회의원 총선에서 김영삼은 다시 국회의원에 당선되었습니다. 그리고 같은 해 8월의 민.참의원 합동회의에서 제4대 대통령으로 윤보선 대통령이 취임하였습니다.

7.29총선을 통해 민주당은 원내 2/3이상의 의석을 확보한 여당으로 자리잡지만, 곧 한계에 봉착하였습니다. 신·구파의 갈등과 무기력, 그리고 지도력의 부재는 혁명 뒤의 다양한 요구를 제대로 수용하지 못하였습니다. 과도기적 상황 속에서, 혼란을 빌미로 한 5.16 군사 쿠데타가 일어나 2공화국은 불과 1년만에 끝나고 말았습니다.

5.16이 일어났을 당시, 그는 고향인 거제에 있었습니다. 해남에서 실시된 보궐선거에 지원을 나왔다가 고향에 들른 사이 쿠데타 소식을 듣게 된 것이었습니다.

민주주의의 기나긴 암흑기가 시작되었습니다. 비상계엄 아래 국회는 해산되고, 모든 정치 활동은 중단되었습니다. 세대 교체와 체질 개선이라는 명목 아래 4천명이 넘는 정치인들이 수난을 당하였습니다.

김의원 역시 예외는 아니었습니다. 급히 서울로 올라온 그도 수사당국에 불려가 조사를 받은 뒤 자택에서 감시를 받는 몸이 되었습니다.

권력을 장악한 쿠데타 주도 세력은 정치정화법을 만들어 4,374명의 정치인을 묶어둔 채 민주공화당을 창당, 김영삼을 포함한 민주당 인사들의 참여를 강권해왔습니다. 그러나 그는 공화당의 회유를 거부하고, 야당의 재건과 민정 이양 촉구에 나섰습니다.

1963년, 재야 세력과 청년 당원을 동원, 군정 연장 반대 데모를 주도하다 서울구치소에 수감되기도 했던 그는, 석방 직후 '민정 이양을 통해 민주회복이 될 때까지 계속 투쟁할 것'을 선언하였습니다.

그리고 김병로, 윤보선씨가 주도해 창당한 민정당에서 그는 초대 대변인으로 선임되었습니다.

63년 10월, 5대 대통령 선거에서 그가 소속된 민정당은 윤보선씨를 후보로 내세웠으나, 군복을 벗고 공화당으로 출마한 박정희 후보에게 패배하였습니다.

이어 11월에 실시된 제6대 총선에서, 야당 후보로는 전국 최다 득표를 기록하면서 그는 3선 의원이 되었습니다. 그러나 '정치 군인'의 시대가 열리며 민주화의 길은 저만큼 멀어지고 있었습니다.