제도 시행 당시 여성, 장애인, 미필자를 차별한다는 비판이 제기되었다. 당시 공무원 시험은 변별력이 떨어지고 마침 공무원 시험의 경쟁률이 점점 높아지고 있던 시기라 소수점차로 당락이 결정되곤 했는데, 가산점이 5%였기에 시험 성적으로 차석을 받은 장애인이 자기보다 5점이나 낮은 응시자에게 밀려 탈락하기도 했다. 당시 합격자의 70% 이상이 가산점을 받은 군필자였을 정도로 그 영향력은 절대적이었다.
# 그래서 1990년대에 군가산점제도를 폐지하자는 여론이 생기기 시작했다.
그 결과 이 법은 1998년 여성과 장애인에 대한 공무담임권 침해로 위헌 결정을 받아 2001년 최종적으로 폐지되었다. 헌재의 주요 논거는 가산점의 폭이 너무 커서 여성과 장애인의 공직 진출 기회를 사실상 박탈한다는 것이었다. 위헌결정문에는 제대군인 지원은 군 가산점 말고 다른 방법으로 할 것을 권유했고, 심지어 위헌결정 이후 여성 국회의원들에 의해 군가산점보다 실질적이고 강력한 제대군인 지원 법안들이 여러 건 대표발의 되기도 했으나 국방부의 반대로 모두 무산되었다. 그도 그럴 것이 제대군인 지원은 당연히 국방부의 책무인데, 군가산점 제도는 생색은 낼 대로 내면서 예산도 별로 들지 않고 지원 책무는 다른 기관에 죄다 넘겨버릴 수 있는, 국방부 입장에서는 편하기 그지없는 제도였기 때문이다. 그래서 사실상 국가가 줄 돈을 수험생들의 합격권으로 퉁치려 했다는 비판에서 자유롭지 못했다.
그리고 군가산점이 없어지더라도 채용 기준을 마음대로 설정할 수 있는 사기업에서는 군필자 우대라는 이름으로 사실상의 군가산점이 남아있는 경우가 많고, 오히려 제도상의 군 가산점은 전체 제대군인의 0.0004%만 혜택을 받을 수 있는 제도였다.
# 이는 공무원 시험 준비생(공시생)에게만 국한된 혜택이었기 때문에, 대다수의 제대군인들에게는 실질적인 보상이 돌아가지 않는다는 맹점이 있었다.
