Từ năm 1933 đến năm 1938, ông học luật ở Pari, đậu cử nhân luật công pháp và tư pháp quốc tế, rồi tiếp tục học bậc tiến sĩ luật. Ông đã đỗ hai bằng cao đẳng để đủ điều kiện bảo vệ tiến sĩ nhưng chưa kịp trình luận án. Thời gian này ông bắt buộc phải học và đỗ bằng huấn luyện quân sự.
Năm 1939, khi Chiến tranh thế giới thứ hai bùng nổ, ông bị điều động vào học tại Trường Sĩ quan lưu hậu của quân đội Pháp, ra trường được phong quân hàm thiếu úy và chiến đấu ở mặt trận miền Đông nước Pháp trong cuộc chiến tranh Đức - Pháp.
Tháng 6 năm 1940, nước Pháp thất thủ và bị phát xít Đức chiếm đóng. Năm 1941, luật sư Phạm Ngọc Thuần rời nước Pháp về Sài Gòn.
Đêm 09 tháng 3 năm 1945, Nhật đảo chính Pháp độc chiếm Đông Dương, bộ máy thống trị của thực dân Pháp được thay thế bởi bộ máy của phát xít Nhật. Tháng 4 năm 1945, khi đang làm luật sư thực tập ở Sài Gòn, ông được mời tham gia lập tòa án thay thế tòa án Pháp.
Cách mạng Tháng Tám 1945 bùng nổ, nhân dân ta nhanh chóng giành chính quyền trong cả nước rất nhanh gọn. Tại Sài Gòn, dưới sự lãnh đạo của Xứ ủy Nam Bộ, chính quyền cách mạng đã được thiết lập vào ngày 25 tháng 8 năm 1945. Ngay hôm sau, chính quyền cách mạng tổ chức bầu Tòa án Thượng thẩm. Luật sư trẻ tuổi Phạm Ngọc Thuần được cử làm Phó Chưởng lý của Tòa Thượng thẩm Sài Gòn.
Nhân dân Sài Gòn - Chợ Lớn - Gia Định đựợc hưởng không khí độc lập, tự do chưa lâu, thì ngày 23 tháng 9 năm 1945, quân Pháp tái chiếm Sài Gòn, cuộc kháng chiến của Nam Bộ bùng nổ. Tháng 9 năm 1945, các cơ quan Xứ bộ Nam Bộ từ Sài Gòn dời về Mỹ Tho, Phạm Ngọc Thuần được mời làm cố vấn Ủy ban kháng chiến quận An Hóa rồi làm Hội thẩm chuyên môn Tòa án quân sự tỉnh Mỹ Tho.
Sau khi đánh chiếm Sài Gòn, thực dân Pháp lần lượt đánh chiếm các tỉnh Nam Bộ. Tháng 01 năm 1946, địch đánh chiếm Cai Lậy, ông cùng các cơ quan kháng chiến chạy vào vùng Đốc Binh Kiều ở Mỹ An. Khi nghe tin bộ máy kháng chiến đang hoạt động mạnh ở miền Đông Nam Bộ, ông bí mật lên miền Đông, gặp đồng chí Thái Văn Lung - một người bạn thân thiết của ông tại Gia Định đang chuẩn bị lên đường ra Trung ương công tác. Luật sư Thái Văn Lung tiếp nhận Phạm Ngọc Thuần vào đoàn ra Bắc, nhưng do chiến tranh lan rộng, ngày càng ác liệt, cho nên hai ông ở lại Gia Định, công tác ở Đại đội bộ Đại đội 15 - Chi đội 6, còn gọi là bộ đội Thái Văn Lung tại Bình Thái - Gia Định. Ông công tác tại đây trong tháng 3 và tháng 4 năm 1946. Khi bộ đội thiếu gạo, bằng uy tín cá nhân của mình ông đi quyên tiền, quyên gạo trong dân, cùng Thái Văn Lung viết thư mượn tiền của anh em trí thức Sài Gòn ủng hộ bộ đội.
Tháng 5 và tháng 6 năm 1946, ông được chỉ định làm Phó ban Tuyên truyền tỉnh Gia Định, phải vượt qua rất nhiều khó khăn để triển khai công việc trong khi tỉnh không cấp kinh phí để hoạt động. Ngày 14 tháng 7 năm 1946, tại An Phú Đông - Gia Định, ông được kết nạp vào Đảng Cộng sản Đông Dương do đồng chí Lý Chính Thắng là một trong hai đảng viên giới thiệu. Sau khi được kết nạp vào Đảng, tổ chức điều động ông về miền Tây nhận nhiệm vụ mới. Tháng 9 năm 1946, ông được cử giữ chức Phó Chủ tịch Ủy ban Hành chính Nam Bộ. Trong khi Chủ tịch Phạm Văn Bạch ra Trung ương công tác chưa về Nam Bộ, ông được tín nhiệm phân công làm Quyền Chủ tịch Ủy ban Hành chính Nam Bộ cho đến tháng 7 năm 1948. Ông nhận nhiệm vụ quan trọng này khi mới 34 tuổi, biểu hiện sự tín nhiệm của Trung ương và Xứ ủy Nam Bộ với một trí thức trẻ tài năng và nhiệt huyết.
Trong hai năm 1947-1948, do công quỹ Nam Bộ thiếu trầm trọng, ông tán thành chủ trương của kỹ sư Kha Vạng Cân - phụ trách kinh tế và là Giám đốc Sở Kinh tế Nam Bộ tổ chức kinh tế kháng chiến, độc quyền ngoại thương giữa vùng tự do và vùng tạm chiếm, đánh thuế cao để có nguồn thu cho Chính phủ.
Ngày 15 tháng 02 năm 1948, Chủ tịch Hồ Chí Minh ký Sắc lệnh số 132/SL cử 11 ủy viên Ủy ban Kháng chiến kiêm Hành chính Nam Bộ trong đó có các đồng chí Phạm Văn Bạch, Phạm Ngọc Thuần, Nguyễn Thanh Sơn, Kha Vạng Cân, Ung Văn Khiêm và hai vị cố vấn Ủy ban. Cùng ngày 15 tháng 02 năm 1948, Chủ tịch Hồ Chí Minh ký Sắc lệnh số 133/SL chuẩn y đồng chí Phạm Văn Bạch giữ chức Chủ tịch, đồng chí Phạm Ngọc Thuần và đồng chí Nguyễn Bình giữ chức Phó Chủ tịch Ủy ban Kháng chiến kiêm Hành chính Nam Bộ.
Ngày 18 tháng 10 năm 1949, Chủ tịch Hồ Chí Minh ký Sắc lệnh số 115/SL bãi bỏ Sắc lệnh số 132/SL ngày 15 tháng 02 năm 1948 và chỉ định đồng chí Phạm Văn Bạch giữ chức Chủ tịch, đồng chí Phạm Ngọc Thuần tiếp tục giữ chức Phó Chủ tịch Ủy ban Kháng chiến - Hành chính Nam Bộ. Từ giữa năm 1949 đến năm 1953, ông được phân công giữ trách nhiệm Thường trực Ủy ban Kháng chiến - Hành chính Nam Bộ, tán thành và thực hiện chủ trương bao vây phong tỏa kinh tế địch tức là chính phủ độc quyền buôn bán lúa gạo và muối ra vùng tạm chiếm, cấm hoặc hạn chế, đánh thuế nặng các sản phẩm từ vùng tự do ra các vùng địch kiểm soát.
Trong 2 năm 1948-1949, ông còn được Chính phủ bổ nhiệm làm Chính ủy Bộ Tư lệnh Nam Bộ. Hiện thực hóa quyết định này, ngày 21 tháng 3 năm 1949, Chủ tịch Hồ Chí Minh ban hành Sắc lệnh số 20/SL “Cử ông Phạm Ngọc Thuần làm Chính trị Ủy viên Bộ Tư lệnh Nam Bộ”. Những năm 1950-1954, ông còn được phân công làm Phó Hội trưởng Công giáo Kháng chiến Nam Bộ và kiêm Bí thư Đảng đoàn Công giáo Kháng chiến (1951-1954), trực tiếp mở hai lớp huấn luyện cho cán bộ Công giáo cấp họ (cấp xã) và cấp tỉnh vào năm 1950-1951. Từ năm 1948, khi thành lập Ủy ban Kháng chiến - Hành chính cho đến tháng 9-1954, ông còn được bầu làm Ủy viên Đảng đoàn Ủy ban Kháng chiến - Hành chính Nam Bộ.
Trong cuộc kháng chiến 9 năm, lâu dài và gian khổ, trong điều kiện thiếu thốn trăm bề, mặc dù nhiều bệnh tật, đặc biệt là bệnh sốt rét kinh niên, phải nghỉ tới 17 tháng chữa bệnh, nhưng trên cương vị là nhà lãnh đạo chủ chốt của bộ máy hành chính - kháng chiến của Nam Bộ, ông luôn luôn tin tưởng vào sự lãnh đạo của Đảng, vào chính phủ Trung ương, lạc quan để học tập và công tác giữ được sự đoàn kết trên dưới một lòng để cùng Xứ ủy điều hành cuộc kháng chiến ở Nam Bộ đến ngày thắng lợi.
Sau khi hòa bình lập lại, tháng 9 năm 1954 ông được tổ chức phân công tập kết ra Bắc. Tháng 10 năm 1954, ông được phân công về Bộ Ngoại giao, giữ chức Vụ trưởng Vụ Pháp và các nước Tây Âu - sau này gọi là Vụ Tây Âu cho đến tháng 8 năm 1956. Trong thời gian này, ông được triệu tập đi học lớp chỉnh huấn khóa II (4-1956 – 8-1956) tại Trường Nguyễn Ái Quốc Trung ương. Năm 1955 ông còn tham gia Ban Thường vụ Bộ Biên tập báo Le Vietnam démocratique - một tờ báo làm nhiệm vụ thông tin đối ngoại hiếm hoi sau khi miền Bắc được giải phóng. Cũng trong năm 1955, ông được phân công đi tham quan cải cách ruộng đất. Năm 1957 ông được cử đi học 6 tháng tại Trưởng Đảng Nguyễn Ái Quốc trước khi nhận nhiệm vụ Đại sứ ở nước ngoài.
Sau khi cuộc kháng chiến chống thực dân Pháp của nhân dân ta kết thúc thắng lợi, ngày 03 tháng 02 năm 1955, Việt Nam Dân chủ Cộng hòa và Cộng hòa Dân chủ Đức thiết lập quan hệ ngoại giao. Năm 1958 ông được cử làm Đại sứ đặc mệnh toàn quyền nước Việt Nam Dân chủ Cộng hòa tại Cộng hòa Dân chủ Đức trong nhiệm kỳ 5 năm kiêm Bí thư Đảng ủy Đại sứ quán ta tại Đức, góp phần thắt chặt mối quan hệ Việt - Đức vừa được thiết lập.
Sau thời gian công tác tại Cộng hòa Dân chủ Đức, năm 1963, Trung ương bổ nhiệm ông làm Chủ nhiệm Ủy ban Liên lạc văn hóa với nước ngoài cho đến năm 1971. Từ năm 1957-1971, trên cương vị là Vụ trưởng Vụ Tây Âu - Bộ Ngoại giao, rồi Chủ nhiệm Ủy ban Liên lạc văn hóa với nước ngoài, ông được Nhà nước nhiều lần cử làm Trưởng đoàn Chính phủ, Trưởng đoàn văn hóa - nghệ thuật đi làm việc ở nhiều nước châu Á, châu Âu, châu Phi ủng hộ cuộc đấu tranh chính nghĩa của nhân dân ta chống đế quốc Mỹ xâm lược và bè lũ tay sai, tăng cường tình đoàn kết, hữu nghị giữa Việt Nam với thế giới.
Trong hai năm 1971-1972, ông được cử đi học lớp chính trị đặc biệt tại Trường Đảng cao cấp Nguyễn Ái Quốc. Mãn khóa học, ông được Trung ương phân công làm Phó Chủ nhiệm Ủy ban Thống nhất Trung ương để tăng cường chi viện cho chiến trường miền Nam ở giai đoạn cuối cùng của cuộc kháng chiến chống Mỹ, cứu nước.
Ngày 30 tháng 4 năm 1975, cuộc kháng chiến chống Mỹ, cứu nước của dân tộc ta toàn thắng, là người con của Nam Bộ sống trên miền Bắc đã 21 năm, ông lập tức xin về Nam công tác. Thể theo nguyện vọng của ông, Trung ương điều động ông về công tác tại Ban Mặt trận - Dân vận Thành phố Hồ Chí Minh và ngày 29 tháng 10 năm 1979 Trung ương đồng ý cho ông nghỉ công tác và nghỉ hưu để sang Pháp chữa bệnh. Ngày 20 tháng 02 năm 2002, đồng chí Phạm Ngọc Thuần qua đời tại Thành phố mang tên Bác.