Il enregistre à Los Angeles son album de 1991, Let Me Raï, mais ce dernier souffre de la guerre du Golfe. Ce n'est qu'en 1994 qu'il atteint un large succès avec Saïda, dont le titre est un hommage à sa ville natale.

Cheb Mami a joué dans le film 100% Arabica de Mahmoud Zemmouri (1997). il jouait le rôle de l'élève de Karim Bouderba. Il reçoit le Prix Miroir de l'espace francophone en 1997. Il participe en 2002 au concert de Solidays.

Il est populaire dans le monde grâce à ses nombreux duos avec de grandes popstars dans son album Du Sud au Nord. On y trouve notamment des duos avec Sting pour "Desert Rose" (1999), Zucchero pour "Cosi Celest", Susheela Raman, Corneille, et Diam's pour "Non ce sera non". Il participe aussi à un duo très symbolique avec le chanteur kabyle Idir dans Azwawi.