Địa giới của Quận 4 giống như một cù lao tam giác, xung quanh đều là kênh rạch và sông, nằm ở nội thành TPHCM. Quận 4 tiếp giáp với:
- Phía đông tiếp giáp TP Thủ Đức với ranh giới là sông Sài Gòn, tiếp giáp với Quận 7 với ranh giới là kênh Tẻ
- Phía tây tiếp giáp Quận 5 và Quận 1, ranh giới là kênh Bến Nghé
- Phía nam giáp Quận 8 và Quận 7 với ranh giới là kênh Tẻ
- Phía bắc tiếp giáp Quận 1, ranh giới là kênh Bến Nghé.