水谷丰1968年出道，因为崇拜岸田森，13岁进入了儿童剧团，16岁就在东宝演出。上高中时候想考大学，放弃了戏剧。结果高考失败大受打击而离家出走，接着一边打零工，一边过着求学浪人的日子。在重新回到戏剧演出后，18岁的时候和岩下志麻共演《那人是女教师》正式出道。

1974年的时候，出演日剧史上的里程碑式作品《伤痕累累的天使》走红。1976年他以《青春的杀人者》一片，获得电影最佳男主角奖，是当时史上最年轻的影帝。1977年发行第一张单曲《はーばーらいと》，1979年4月21日发行的《カリフォルニア?コネクション》取得了65万张销售的佳绩。

1978年，收视率高达46.7%的《热中时代》把他推向大红大紫，后来一起演《相棒》的寺胁康文，就是当时他那部日剧的粉丝。

作为歌手他是从77年开始发展的。他在电视剧中还有演奏过吉他和钢琴。86年，停止音乐活动了后主要演的都是各种类型的侦探。

2000年《相棒》第一次出现在电视上，是以三集小短篇的形式出现的。这次短篇的播出，反应出乎意外的好，于是正式在第二年开播至今已经是第十八季了。

《相棒》每一季的收视率都可以维持在15%到20%左右，这对于低迷的日本电视剧来说已经是很高的收视率了。其中，由水谷丰饰演的杉下右京可说是诠释到位，将如同福尔摩斯般的古怪个性演绎的栩栩如生，尤其是隐藏于眼镜底下，看似能看透案件背后真相的冷静双眸更是带动著剧情的发展与观众的心。

2008年5月，水谷丰发行自86年的《SIMPLEMAN》以来时隔22年的新专辑《TIMECAPSULE》，宣告再次回归歌坛。发行首日于单日榜中获得第4名的纪录并且持续保持着，达成史上最长30年8个月之后重返TOP10。2009年初水谷丰第一次以歌手的身份参加了第59届NHK红白歌会。2009年6月，水谷丰的全国巡演从神奈川县开始起步，并将在日本全国13个地方举行。这是他时隔23年后再次开始全国巡演。2009年，他将以演员歌手双重身份精力十足的开始活动。

在这样的狂热气氛之后水谷丰表示：“只能说非常高兴。如果一舒缓紧张就可能哭出来了”，显得相当喜悦。而这次的音乐活动也证明了《相棒》在日本的人气与水谷丰的魅力风潮。这在众多新人帅气男演员备受赞扬的日本艺坛中创下的首举，水谷丰证明了一息长存的老手演员也能夺取了日本观众的心。

2013年凭借电影《少年H》入围莫斯科电影节，在片中水谷丰饰演的少年H的父亲。

2014年10月15日，与成宫宽贵和仲间由纪惠共同出演的电视剧《相棒第十三季》播出。

2015年10月14日，与反町隆史共同主演的电视剧《相棒第14季》播出；同年出演电影《王妃的官邸》，饰演天才小说家主人公右京。

2016年10月12日，与反町隆史和仲间由纪惠共同出演的电视剧《相棒第十五季》播出。

2017年2月11日，与反町隆史和仲间由纪惠共同出演的电影《相棒剧场版4》将在日本上映；10月，与反町隆史共同主演的电视剧《相棒第十六季》播出；执导并主演的电影《踏响人生》将在上海电影节首映。

2018年10月17日，与反町隆史共同主演的电视剧《相棒第十七季》播出；11月9日，与反町隆史共同参与配音的电视动画《哆啦a梦》播出，在动画中出演电视剧《相棒》中的杉下右京这一角色。

2019年5月10日，由水谷丰担任编剧，导演，主演的电影《肇事逃逸：最好的倒霉日》上映。这是他继《最后的踢踏舞》之后，第二次执导电影。9月，主演电视剧《无用庵隐居修行3》。