Ngày 23/9/1954, Thể Công được thành lập, theo chỉ định của Chủ nhiệm Tổng cục Chính trị Nguyễn Chí Thanh. Bóng đá là một nhiệm vụ chính trị vô cùng quan trọng, mà cụ thể ở đây là mặt trận tuyên truyền, dân vận trong bối cảnh đất nước ở thời điểm lúc bấy giờ. Thể Công và bóng đá không chỉ đóng nhiệm vụ là cầu nối tăng thêm tính đoàn kết dân tộc, mà còn là một trong những biểu trưng cho niềm tự hào khi ra đấu trường quốc tế.
Cái tên Thể Công bắt đầu lừng lẫy bắt đầu từ giai đoạn này với những trận đấu đình cao với những đội bóng thuộc khối XHCN gồm Liên Xô, Trung Quốc, CHDC Đức, Tiệp Khắc, Cuba… Mỗi trận đấu hay, mỗi một thắng lợi của Thể Công đều khiến cho dân quân cả nước nức lòng phấn khởi. Có thể kể đến như thắng lợi 4-1 trước Bát Nhất (Trung Quốc) trước sự chứng kiến của 100.0