Alfredo James Pacino, New York’un Doğu Harlem'inde 25 Nisan 1940’da doğdu. İtalyan-Amerikan çift Rose Gerardi ve Salvatore Pacino’nun 4. çocuğuydu. Kendisi 2 yaşındayken ailesi boşandı. Annesi ile beraber Corleone, Sicilya, İtalya’dan gelen göçüp Bronx’a gelen aile üyeleri Kate ve James Gerardi ile beraber yaşamak için Bronx’a taşındı. Pacino’nun babası da San Fratello, Sicilya, İtalya’lıydı ve bir boşanmalarının ardından bir sigorta şirketinde çalışmak için Covina, Kaliforniya’ya taşındı.

Gençlik yıllarında arkadaşları ona “Sonny” veya “The Actor” diyordu. Kendisi bir beyzbol oyuncusu olmak istiyordu. Herman Riddler Junior Lisesi’ne gitti ama kısa süre geçmeden İngilizce dışındaki derslerini ektiği için okuldan atıldı. High School of Performing Arts’a (Performans Sanatları Lisesi) gitti. Annesi bu kararına karşı çıktı ve annesi ile bir tartışma yaşadı. Bu tartışmanın ardından evi terk etti. Oyunculuk derslerini finanse etmek için düşük ücretler ile de olsa postacı, garson, posta memuru ve temizlikçi olarak çalıştı. Bir kere de Commentary dergisinde çalıştı.

9 yaşında sigara ve alkol kullanmaya başladı. 13 yaşında marihuana kullandı. Ama diğer uyuşturuculardan uzak durdu. En yakın arkadaşları yüksek dozda uyuşturucu kullanımından 19 ve 30 yaşlarında öldü. Bronx’ta büyümek onu zaman zaman kavgalara ve okulda sürekli sorun çıkartan bir çocuk olmaya itti. New York’ta bazı tiyatro oyunlarında yer aldı ama Actors Studio okuluna katılmak istedi fakat reddedildi. Sonra HB Studio’ya katıldı. Burada ileride akıl hocası ve en yakın arkadaşı olacak Charlie Laughton ile tanıştı. Bu dönemde sık sık işsiz kaldı. Sokaklarda, tiyatrolarda ve bazen arkadaşlarının evinde uyudu.

1962 yılında 43 yaşında olan annesi öldü. Aynı yıl büyükbabası James de öldü. Al Pacino, bu dönemleri hayatının en kötü dönemleri olarak dile getirdi. Sonraları bir röportajda bu zamanları şöyle dile getirdi: “22 yaşındaydım ve beni en çok etkileyen 2 insan ölmüştü. Bu da benim hayatımı değiştirmeme sebebiyet verdi.”

4 yıl boyunca HB Studio’da çalıştıktan sonra profesyönel aktörlerin, tiyatro yönetmenlerinin ve oyun yazarlarının üye olduğu bir organizasyon olan Actors Studio’ya seçildi. Sonradan The Godfather: Part II'de ve ...And Justice For All filmlerinde beraber rol alacağı Lee Strasberg ile method acting çalıştı.

Sonradan yayınlanan biyografi kitabı olan Grobel’de Lee Strasberg’in ve Actors Studio’nun kariyerini nasıl etkilediğini şöyle anlattı: “Actors Studio benim için çok şey ifade ediyor. Bence Lee Strasberg de hak ettiği övgüyü alamıyor. Benim bütün bu oyunculuk işlerini bırakmayı düşündüğüm zamanlarda o elimden tuttu ve beni buraya getirdi. Bu, hayatımda işaretlemeye değer bir dönüm noktasıydı.” Başka bir röportajda da şunları söyledi: “Lee Strasberg ile çalışmak çok heyecan verici bir şeydi. Çünkü kendisi çok ilgi çekici bir insandı. Bir sahne veya bir karakter hakkında söyledikleri şeyleri, yorumları başka kimseden duyamazdınız. Bu sektöre ve oyuncularına gerçekten değer veren bir insandı.”