Był członkiem następujących zespołów:
- Magazine (1977-1981, 2009-2011; gitara basowa, wokal wspomagający);
-
Buzzcocks (1977; gitara basowa);
- Visage (1978-1979; gitara basowa);
-
The Birthday Party (1982; gitara basowa);
-
Nick Cave and the Bad Seeds (1983-1986; gitara basowa, gitara, perkusja, instrumenty klawiszowe).
Wydał następujące albumy:
- 1988 r. - "Moss Side Story";
- 1992 r. - "Soul Murder";
- 1993 r. - "The Negro Inside Me";
- 1996 r. - "Oedipus Schmoedipus";
- 1998 r. - "As Above, So Below";
- 2002 r. - "King of Nothing Hill";
- 2006 r. - "Stranger on the Sofa";
- 2008 r. - "Back to the Cat";
- 2012 r. - "I Will Set You Free".