Im Jahr 1626 kamen die ersten elf Sklaven im jetzigen Financial District in New York an. Was heute ein kleiner Teil New Yorks ist, war zu jener Zeit die ganze Stadt. Sie war damals noch eine holländische Handelskolonie und hieß New Amsterdam. Die Sklaven aus Angola wurden sofort an die Arbeit geschickt, um eine schützende Mauer zu bauen. Dadurch sollte das vielleicht 300 Einwohner starke Dorf vor Eindringlingen, wie Indianern oder anderen europäischen Kolonisten – vornehmlich Engländern – geschützt werden. Diese Mauer gab der Wall Street, auf der sich heute die New Yorker Börse befindet, ihren Namen.
Wie die Stadt selbst wuchs auch der Sklavenmarkt in den nächsten 150 Jahren rasant. Die New Yorker Wirtschaft profitierte enorm von der Sklaverei. Einerseits als Umschlagplatz für aus Afrika kommende Sklaven, von denen viele im Rest der USA verteilt wurden, um vor allem in der Baumwollgewinnung zu arbeiten. Andererseits auch als Umschlaghafen für durch Sklavenarbeit, vornehmlich in anderen Teilen der USA, hergestellte Produkte in die ganze Welt. Die Sklavenauktionen fanden an der Ecke Wall Street und Pearl Street statt, ziemlich genau an der heutigen Adresse 75 Wall Street. Der Sklavenmarkt schloss 1762, aber der Sklavenhandel war in New York noch 40 Jahre danach legal.
Heute steht an der Stelle ein Luxuswohngebäude.