Alfredo Kraus war Sohn einer spanischen Mutter und eines österreichischen Vaters. Schon im Alter von vier Jahren bekam er Klavierunterricht, mit acht Jahren sang er im Schulchor. Er begann nach der Schulzeit zunächst ein Ingenieurstudium, entschloss sich dann aber, die Sängerlaufbahn einzuschlagen und begann eine Gesangsausbildung. Er schloss diese bei der Sängerin und Gesangspädagogin Mercedes Llopart in Mailand ab.

1956 hatte Kraus sein Bühnendebüt in Kairo als Herzog in Rigoletto, der eine seiner charakteristischen Rollen wurde. 1958 sang er in Lissabon den Alfredo in La traviata an der Seite von Maria Callas, wovon später eine Live-Aufnahme herausgebracht wurde. Seinen ersten Auftritt im Königlichen Opernhaus in Covent Garden hatte Kraus 1959 mit der Rolle des Edgardo in Lucia di Lammermoor als Partner von Joan Sutherland. An der Mailänder Scala debütierte er – ebenfalls 1959 – in der Rolle des Elvino in La sonnambula und im Fenice in Venedig mit Renata Scotto. Sein Debüt in den Vereinigten Staaten absolvierte er an der Chicago Lyric Opera (1962). Bald darauf folgte sein Debüt an der Metropolitan Opera als Herzog in Rigoletto (1966).

Kraus wurde ein herausragender Vertreter des lyrischen Tenorfaches mit Rollen wie Werther, Romeo, Faust, Arturo, Elvino, Nemorino und Tonio. Des Weiteren wurde er mit Darbietungen von leichterer Musik bekannt, vor allem mit Zarzuelas, einer spanischen Operettenform.

Er unterrichtete später an einer privaten Musikschule Gesang und hielt einige Meisterklassen in Italien ab. Ende der 1950er Jahre bis Anfang der 1960er wirkte er in einigen spanischen Kinofilmen mit, so etwa 1959 in Gayarre, einem Film über das Leben des spanischen Tenors Julián Gayarre. Kraus blieb bis in seine frühen siebziger Jahre im Vollbesitz seiner stimmlichen Mittel auf der Bühne präsent.