テレビアニメ作品においては『機動戦士ガンダム』（宇宙世紀0079年）から『機動戦士Vガンダム』（宇宙世紀0153年）までの時代に登場する。

全人類の統一政府である地球連邦において、その国内治安を担うべく設立されたやや特殊な武装集団であり、かつ創隊当時は世界唯一にして最大の軍隊であった。またその設立にあたっては、在来の国家が保有していた軍事組織、兵器体系を、最も進歩し最も優秀な軍である旧アメリカ合衆国軍のそれに規格統一する形で編成が進められたとされる。また、設立時期については一部の資料では西暦2009年と記載されている。

地球、及び宇宙空間の全て（のスペースコロニー群）をもその勢力下に置く。劇中ではしばしば連邦軍ないし連邦と略称される。

シリーズに登場する諸勢力の中では最大の規模であり、また最も長期に渡り存続した。反面、劇中では非常に巨体な組織ゆえの官僚主義、縦割り行政や事なかれ主義が蔓延した組織として描かれることも多かった。宇宙世紀0080年代には、地球至上主義を掲げる地球連邦軍の特殊部隊ティターンズが連邦軍の実権を掌握したが、反ティターンズの連邦軍人を中心に結成されたエゥーゴとの内部抗争[注 1](グリプス戦役)に敗れてティターンズは崩壊し、その後連邦軍はエゥーゴ主導の元に再編される。

グリプス戦役ではティターンズの傘下に置かれたこともあった連邦軍であったが、連邦軍としては一連の抗争には積極的に参加しなかった。しかし、連邦軍からエゥーゴに参加した将兵もいたためその分戦力を低下させることとなった。直後の第一次ネオ・ジオン抗争では正規軍はまともに動かず、正規軍に代わってエゥーゴのガンダムチームの少年達やカラバがネオ・ジオンと戦った。第一次ネオ・ジオン抗争時の連邦軍の高官達はエゥーゴやカラバを疎ましく思っており、ハマーン・カーンの主催するネオ・ジオンのパーティーに参加する、地球の人口が減らせるという理由でダブリンへのコロニー落としを放置する、停戦条約と引き換えにサイド3をハマーンに譲渡するなど、一見すると和平路線だが腐敗の象徴として描かれていた。

そのエゥーゴも第一次ネオ・ジオン抗争後に崩壊し、人員は連邦軍に編入される形で消滅した。なお、連邦軍の政治派閥はティターンズにもエゥーゴにも与しなかったゴップの派閥が中心になった。