Als Sohn eines jüdisch-griechischen Buchhändlers wurde Giuseppe Mustacchi am 3. Mai 1934 in das multikulturelle und weltoffene Alexandria hineingeboren. So war es nicht verwunderlich, dass er beizeiten mehrere Sprachen beherrschte. Doch geistig fühlte er sich vor allem im Französischen heimisch. Die Bücher, die Filme und vor allem die Chansons hatten es ihm angetan. Charles Trenet begeisterte ihn, und mit dreizehn besuchte er ein Edith Piaf-Konzert.
Vier Jahre später zog er nach Paris, wo er sich einer Gruppe junger Künstler anschloss. 1952 komponierte er sein erstes Chanson. Es dauerte nicht lange, bis George Brassens auf ihn aufmerksam wurde und ihn zum Weitermachen ermutigte.
Nach Engagements in kleineren Restaurants und Clubs steigerte ein eher zufällig zustande gekommener Auftritt mit Jacques Brel seinen Bekanntheitsgrad.
1958 begegnete er Edith Piaf, mit der ihn später eine kurze Affäre verband, und schrieb einige Chansons für sie, unter anderem ihren Hit "Milord". Im Jahr darauf konnte er sich vor Aufträgen namhafter Interpreten kaum noch retten. Seine eigenen Aufnahmen, die 1960 noch sehr orientalisch klangen, blieben unbeachtet.
1967 schrieb er ein Chanson für die Sängerin Barbara, die darauf bestand, dass er es auf der Bühne im Duett mit ihr sang.
Nach einigen Single-Schallplatten verhalf ihm 1968 sein Lied "Le Métèque" zum Schritt ins Rampenlicht. Der sehr poetische Text über den umherwandernden Juden und griechischen Hirten traf den Nerv der Zeit. Und spätestens jetzt gewann er das nötige Selbstbewusstsein, um im Vertrauen auf seine Fähigkeiten in künstlerischen Dingen immer seinen eigenen Eingebungen zu folgen. Sein lyrischer, angenehmer Gesang mit dazu passendem Gitarrenspiel, zuweilen griechische und orientalische Einflüsse in der Komposition und tiefgründige Texte, in denen weder Politisches noch die Sinnlichkeit zu kurz kamen, machten ihn unverkennbar. Seither ist Moustaki fester Bestandteil der internationalen Liedermacherszene.