16 kwietnia 2020 roku Bob Dylan zapowiadał nową piosenkę na swoim koncie na Twitterze hashtagiem #IContainMultitudes. Podobnie jak jego najnowszy (wydany 27 marca 2020 roku) utwór "Murder Most Foul", który mówi o zabójstwie prezydenta J. F. Kennedy'ego, "I Contain Multitudes" zostało wydane o północy, wraz z kolejnym tweetem z różnymi fragmentami tekstu piosenki.
Tytuł piosenki pochodzi z wersu 51 wiersza Walta Whitmana zatytułowanego "Song of Myself": "'Do I contradict Myself?'/ Very well then/ I contradict myself/ I am large,/ I contain multitudes." Utwór jest drugim singlem promującym najnowsze wydawnictwo Boba Dylana. Album zatytułowany "Rough and Rowdy Days" swoją premierę odbędzie 19 czerwca. Będzie to pierwsze wydawnictwo Artysty od czasu albumu "Triplicate" z 2017 roku, gdzie znalazły się wyłącznie interpretacje klasycznych amerykańskich utworów. Ostatnim albumem na którym znalazły się autorskie utwory Boba Dylana był wydany w 2012 roku krążek zatytułowany "Tempest."
Utwór zawiera liczne odniesienia przede wszystkim do literatury. Artysta nawiązuje do słów ze słynnego monologu Makbeta, które znalazły się w sztuce Szekspira o tym samym tytule - "Today, and tomorrow, and yesterday, too/ The flowers are dyin' like all things do (...)" W oryginale brzmią one tak: "Tomorrow and tomorrow and tomorrow creeps in its petty pace from day to day ‘till the last syllable of recorded time, and all our yesterdays have lighted fools the way to dusty death."
Bob Dylan odnosi się także do poematu Antoin Ó Raifteirí’s zatytułowanego "Máire Ní Eidhin", który tłumaczony jest na język angielski jako "The Lass from Bally-na-Lee." Wspomina Edgara Alana Poe i jego opowiadania "The Tell-Tale Heart", "The Cask of Amontillado" oraz "The Black Cat." Cytuje postać Sama z filmu Wesa Andersona zatytułowanego "Moonrise Kingdom." Pojawia się tu tytuł piosenki "Red Cadillac and a Black Moustache" Boba Lumana, która popularność zyskała dzięki coverowi Warrena Smitha. Sam Bob Dylan nagrał swoją wersję tego przeboju w 2001 roku. Odwołuje się do baśni "Gabriel's Palace" Howarda Schwarza oraz napisanego przez Davida Bowiego hitu "All The Young Dudes" śpiewanego przez Mott the Hoople. Wspomina członków zespołu Rolling Stones czy postać Williama Blakea.
