El tema «All Day» está disponible para comprar en iTunes y es el nuevo rap en el que Kanye West recibe la colaboración de Paul McCartney así como de Allan Kingdom y Theophilus London. La intervención de McCartney se hace más notable hacia el final del tema, que es la base para toda la canción.
Aunque Paul no lo hace público, se trata de una melodía reciclada de los años 70s llamada «When the Wind is Blowing» que fue grabada durante las sesiones de RAM y usada en la película del oso Rupert. McCartney había incluso interpretado este tema en vivo en una entrevista televisiva en 1999.
Misteriosamente, Kanye West editaría la versión original de la canción, retirando la intervención directa de Paul McCartney (que es explícitamente similar a «When the Wind is Blowing») en sus futuras interpretaciones.