Trước khi 1992, Armenia sẽ tham gia Thế vận hội đại diện cho Liên Xô. Là một phần của Liên Xô, Armenia đã rất thành công, giành chiến thắng rất nhiều huy chương và giúp Liên Xô giành chiến thắng huy chương tại Thế vận hội trong nhiều dịp. Huy chương đầu tiên giành chiến thắng bởi một người Armenia trong lịch sử Olympic hiện đại là bởi Hrant Shahinyan (đôi khi được đánh vần là Grant Shaginyan), người đã giành được hai vàng và hai silvers trong thể dục tại Thế vận hội Mùa hè 1952 ở Helsinki. Để làm nổi bật mức độ thành công của Armenia trong Thế vận hội, Shahinyan được trích dẫn như câu nói:
Hrant Shahinyan đã thi đấu ở Olympic thể thao nào?
thể dục