Vào thập niên 1920, dưới sự thống trị và đàn áp của thực dân Pháp với phong trào chống Pháp, Nguyễn Thái Học, một sinh viên trường Cao đẳng Thương mại Hà Nội, đã cùng một số người Việt yêu nước khác như Nhượng Tống, Phạm Tuấn Tài, Phạm Tuấn Lâm, Hồ Văn Mịch, Phó Đức Chính, Nguyễn Ngọc Sơn, Lê Văn Phúc… bí mật thành lập một tổ chức đấu tranh cách mạng nhằm đánh đuổi thực dân giành độc lập và tự do cho dân tộc.
Hạt nhân đầu tiên là Nam Đồng Thư xã, một nhà xuất bản tiến bộ do Phạm Tuấn Tài, Nhượng Tống, và Phạm Tuấn Lâm thành lập vào cuối năm 1926. Thư xã ở số 6 đường 96, bờ hồ Trúc Bạch, gần đối diện với chùa Châu Long. Do ảnh hưởng của phong trào dân tộc dân chủ ở Trung Quốc, chủ nghĩa Tam dân của Tôn Trung Sơn (một sáng lập viên của Trung Hoa Quốc Dân Đảng), nên vào đêm 24 rạng ngày 25 tháng 12 năm 1927 (có tài liệu nói là 25 tháng 9) những thành viên của Thư xã cùng một số nhà ái quốc, đa số từ Thanh Hóa trở ra, đã tổ chức một đại hội bí mật tại làng Thể Giao, Hà Nội thành lập một đảng cách mạng đặt tên là Việt Nam Quốc dân Đảng. Mục tiêu của Đảng là:
Làm một cuộc cách mạng quốc gia, dùng võ lực đánh đổ chế độ thực dân phong kiến, để lập nên một nước Việt Nam Độc lập Cộng hòa. Đồng thời giúp đỡ các dân tộc bị áp bức trong công cuộc tranh đấu giành độc lập của họ, đặc biệt là các nước lân cận: Ai Lao, Cao Miên.
Đại hội bầu ra ban lãnh đạo gồm:
Nguyễn Thái Học: Chủ tịch Tổng bộNguyễn Thế Nghiệp: Phó Chủ tịchPhó Đức Chính: Trưởng ban Tổ chứcNhượng Tống: Trưởng ban Tuyên truyềnNguyễn Ngọc Sơn: Trưởng ban Ngoại giaoĐặng Đình Điển: Trưởng ban Tài chánhNguyễn Hữu Đạt: Trưởng ban Giám sátTưởng Dân Bảo: Trưởng ban Trinh sátHoàng Văn Tùng: Trưởng ban Ám sátRiêng Ban Binh vụ khuyết.
Đảng được tổ chức với ba đảng viên trở lên làm một “tổ”. Mười chín đảng viên trở lên thì làm một “chi bộ”. Cao hơn chi bộ là “xã bộ”, “huyện bộ” rồi cuối cùng là “tổng bộ” ở cấp quốc gia. Mỗi chi bộ có ít nhất bốn tiểu ban: tuyên truyền, tổ chức, tài chánh và tình báo.[5]
Sau khi thành lập, Việt Nam Quốc dân Đảng đẩy mạnh công tác xây dựng và phát triển cơ sở trong các tầng lớp dân chúng trên cả nước, nhất là ở Bắc Kỳ và Nam Kỳ. Đảng đã liên lạc và sáp nhập thêm tổ chức Việt Nam Dân Quốc ở Bắc Giang do Nguyễn Khắc Nhu đứng đầu. Gia nhập Việt Nam Quốc dân Đảng còn có thêm các nhóm nhân sĩ và trí thức yêu nước ở Bắc Ninh do Nguyễn Thế Nghiệp tổ chức, nhóm khác ở Thanh Hoá do Hoàng Văn Đào đứng đầu, một nhóm ở Thái Bình do Hà Đình Điển tổ chức, và một nhóm ở Sài Gòn do Trần Huy Liệu lãnh đạo. Cơ sở tổ chức của Việt Nam Quốc dân Đảng phát triển tương đối nhanh. Chỉ trong hai năm, năm 1928 và đầu năm 1929, họ đã bí mật kết nạp hàng nghìn đảng viên bao gồm các thành phần trí thức, nông dân, địa chủ, thương gia, công chức, sinh viên, học sinh, công nhân, và binh lính người Việt yêu nước trong quân đội Pháp. Việt Nam Quốc dân Đảng cũng cử người liên lạc với Việt Nam Thanh niên Cách mạng đồng chí Hội và Tân Việt Cách mạng Đảng để bàn thảo việc thống nhất về tổ chức và phối hợp hoạt động trong công cuộc giải phóng dân tộc, nhưng việc bất thành do những bất đồng trong quan điểm thực hiện. Mặc dù hoạt động bí mật, nhưng việc phát triển nhanh chóng trong một thời gian ngắn đã khiến Việt Nam Quốc dân Đảng không thể tránh khỏi sơ suất và sự theo dõi của chính quyền thuộc địa, vì vậy Pháp đã thành công cài người của họ vào tổ chức này. Mãi đến ngày 2 tháng 7 năm 1929, cả nước mới biết đến Việt Nam Quốc dân Đảng sau khi báo chí loan tin chính quyền thuộc địa sắp xét xử một số đảng viên của họ.
