Kapitän James Cook entdeckte im Jahr 1770 die Botany Bay, heute befindet sich diese Bucht südlich vom Stadtzentrum Sydneys. Cook fertigte eine Karte von dem Gebiet an und markierte auch die Einfahrt zum natürlichen Hafen Port Jackson. 18 Jahre später, im Januar 1788, erreichte wieder eine britische Expedition die Botany Bay, um an diesem Ort eine Strafkolonie zu errichten. Zu diesem Zweck fanden mehrtägige Erkundungsfahrten durch den Port Jackson statt, und dabei wurden weitere Buchten entdeckt. Eine von ihnen wurde nach Thomas T. Sydney, dem damaligen Innenminister Groß-Britanniens, Sydney Cove benannt. In dieser Zeit wurde auch beschlossen, dort die Strafkolonie zu errichten. In dieser Kolonie wurden damals ca. 800 Häftlinge untergebracht.

Erst Gouverneur Lachlan Macquarie schuf zwischen 1810 und 1821 die Voraussetzungen, dass sich aus der Strafkolonie eine bedeutende Stadt entwickeln konnte. Er ließ Straßen, Brücken, Hafenanlagen und öffentliche Gebäude errichten. In den 1830er und 1840er Jahren entstanden die ersten Vororte, als immer mehr Einwanderer aus Großbritannien und Irland in Sydney ankamen. Nach dem ersten Goldrausch im Jahre 1851 wurde Sydney endgültig zum kulturellen, wirtschaftlichen und industriellen Mittelpunkt Australiens. Im letzten Viertel des 19. Jahrhunderts begann sich die Besiedelung des Umlandes zu verstärken.

Bereits Mitte der 1920er Jahre zählte die Stadt mehr als eine Million Einwohner. 1931 waren wegen der Weltwirtschaftskrise etwa ein Drittel der Erwerbstätigen arbeitslos. Aber schon ein Jahr später stiegen die Preise für Wolle wieder und die Bauindustrie erlebte einen neuen Aufschwung. 1932 entstand die Sydney Harbour Bridge, zuvor war die Gegend nördlich des Port Jackson nur umständlich erreichbar und deshalb dünn besiedelt gewesen.

Im Zweiten Weltkrieg erlitt die Stadt nur geringe Schäden durch drei japanische Mini-U-Boote, von denen zwei im Hafen erbeutet wurden. Das dritte konnte entkommen, fand aber nicht zum Mutterschiff zurück und gilt bis heute als verschollen. Nach Beendigung des Krieges kamen viele Migranten aus Europa nach Sydney; die Stadt wuchs weiter Richtung Westen. Ab Mitte des 20. Jahrhunderts begann die verstärkte Einwanderung aus asiatischen Ländern, was der Stadt ihr multikulturelles Flair verlieh.

Im Vietnamkrieg war Sydney ein wichtiger Erholungsort für US-amerikanische Soldaten. In den 1970er und 1980er Jahren entstanden, ausgelöst durch den wirtschaftlichen Aufschwung, im Central Business District zwischen den alten viktorianischen Gebäuden zahlreiche Hochhäuser. 2000 war Sydney Austragungsort der Olympischen Sommerspiele.