Người mang gươm mở cõi đặt nền móng cho sự định cư lâu dài của người Việt vào những ngày tháng 2, hình thành lên vùng đất trù phú bậc nhất từng được ví như Hòn ngọc Viễn Đông, là danh tướng Nguyễn Hữu Cảnh. Ông tên thật là Nguyễn Hữu Thành, húy Kính, tộc danh là Lễ, sinh năm 1650 ở huyện Phong Lộc, tỉnh Quảng Bình (nay là huyện Quảng Ninh, Quảng Bình) và là con thứ ba của danh tướng Nguyễn Hữu Dật.
Thuộc dòng dõi con nhà tướng, tổ tiên là Đinh Quốc Công Nguyễn Bặc - người khai quốc công thần thời nhà Đinh - Nguyễn Hữu Cảnh cũng là cháu đời thứ 9 của Nguyễn Trãi - người khai quốc công thần nhà Lê. Sinh ra trong gia đình truyền thống, lớn lên ở thời kỳ Trịnh - Nguyễn phân tranh nên tài năng của Nguyễn Hữu Cảnh sớm bộc lộ.
Ở tuổi đôi mươi, Nguyễn Hữu Cảnh nổi tiếng khắp vùng bởi văn võ song toàn. Ông theo cha chinh chiến khắp nơi, lập nhiều công lao nên Chúa Nguyễn phong cho chức Cai cơ. Người có vóc dáng hùng dũng, da ngăm đen, sinh năm Dần nên dân gian gọi ông bằng biệt danh "Hắc Hổ". Lịch sử cũng ghi nhận ông từng nhiều lần đem quân dẹp nhà Chiêm Thành quấy nhiễu phương Nam.
Thời đó (thế kỷ XVII) vùng đất Nam Bộ vẫn hoang vu, như nhà truyền giáo Alexandre de Rhode mô tả là "quạnh hiu, hoang mạc" và "không có vật gì thuộc về sự sống". Còn trong cuốn Phủ biên tạp lục của Lê Quý Đôn nói rằng: "Từ các cửa biển Cần Giờ, Soài Rạp, cửa Tiểu, cửa Đại trở lên toàn là rừng rậm hàng nghìn dặm".
Giống như toàn vùng Nam Bộ, Sài Gòn là nơi bôn tẩu, ẩn nấp của những phe phái thất thế, tranh giành quyền lực. Cư dân nhiều khu vực đến sinh sống tản mát hoặc là nơi lánh nạn.
Tháng 2 năm 1698, Nguyễn Hữu Cảnh được Chúa Nguyễn tên Phúc Chu phong làm Kinh lược sứ lãnh thổ miền Đông. Vị thống soái lập ra phủ Gia Định với 2 huyện Phước Long (xứ Đồng Nai, có dinh Trấn Biên) và Tân Bình (từ sông Sài Gòn đến sông Vàm Cỏ, có dinh Phiên Trấn). Đây cũng là cột mốc được lấy làm năm khai sinh vùng Sài Gòn - TP HCM ngày nay.
Sau khi lập phủ, ông chiêu mộ lưu dân 5 tỉnh miền Trung gồm Quảng Bình, Thừa Thiên, Quảng Nam, Bình Định và Phú Yên vào khai khẩn đất hoang. Người Hoa (con dân nhà Minh) không quy phục nhà Thanh sang lánh nạn được chúa Nguyễn cho cư trú tại đây cũng góp phần gầy dựng Sài Gòn thuở ban sơ.
Về vấn đề này, trong Gia Định thành thông chí, Trịnh Hoài Đức viết rằng, đầu thế kỷ 18, đất Gia Định rộng 1.000 dặm, dân số được hơn 40.000 hộ (200.000 người). Cư dân đa số là người gốc Việt, số còn lại là người Hoa và Khmer sinh sống bằng nghề buôn bán, làm rẫy.
Để quản lý đất đai và số nhân khẩu này, Nguyễn Hữu Cảnh đặt các bộ phận trông coi mọi việc khá khoa học. Chẳng hạn như chức Ký lục (chuyên quản lý về hành chính, thuế khóa); Lưu thủ (quân sự); Cai bộ phụ trách về công tác tư pháp. Ngoài ra, giúp việc cho các quan là các Xá Ty và một số đơn vị vũ trang.
Với những người Hoa rời bỏ quê hương sang lánh nạn, Nguyễn Hữu Cảnh tập hợp họ thành những tổ chức hành chính riêng như xã Thành Hà (Trấn Biên), xã Minh Hương (Phiên Trấn). Tên gọi Minh Hương cũng thành tên gọi chung cho người Hoa ở Sài Gòn từ thời điểm đó, họ xem mảnh đất này như quê hương mới. Người Minh Hương giỏi thương thuyền đã góp phần không nhỏ trong việc hình thành các khu mua bán sầm uất như Chợ Lớn ngày nay.
Để đảm bảo thương mại phát triển, giao lưu thông suốt giữa các vùng dân cư, ông cho lập đường thủy ven các nhánh sông. Nguyễn Hữu Cảnh lấy khu chợ nổi Nhà Bè làm trung tâm giao dịch, thông thương với cù lao Phố (Đồng Nai), Bến Nghé, Cần Giờ, Rạch Cát, Vũng Cù và Gò Vấp. Nhờ vậy, tàu thuyền chở hàng hóa có thể ra vào dễ dàng. Cuộc sống của dân cư nhanh chóng ổn định và khá phát triển.
Tổ chức bộ máy chính quyền từ cấp dinh, trấn cho đến tận các thôn, xã dần được thống nhất. Nhà nước quản lý đất đai, hộ khẩu, thu thuế và trưng thu các nguồn lợi tự nhiên. Sài Gòn - Gia Định trở thành trung tâm kinh tế, văn hóa của vùng đất mới.
Sau khi gầy dựng và ổn định được vùng Sài Gòn - Gia Định, năm 1699, Nguyễn Hữu Cảnh được cử đem quân xuống ổn định khu vực Đồng bằng sông Cửu Long khi cư dân Việt ở đây thường xuyên bị cướp phá.
Tháng 4 năm 1700, Nguyễn Hữu Cảnh bị nhiễm bệnh ở cù lao Sao Mộc (chợ Mới, An Giang), hai chân tê bại, ăn uống không được. Khi quân về đến Mỹ Tho thì ông mất. Nhân dân vùng đất mới khai phá từ người Việt đến Hoa, Chăm… đều nhớ ơn, lập đền thờ, bài vị nhiều nơi. Trong đó, lớn nhất là ở An Giang, Đồng Nai và Quảng Bình. Độc đáo hơn nữa là ở Nam Vang cũng có đền thờ ông.