在1869年的秋天，俄罗斯音乐家柴可夫斯基来到妹妹家度假。他妹妹家住基辅附近的卡明卡，她有自己的庄园。
有一天，柴可夫斯基正在庄园散步，突然被一阵歌声吸引，他停住脚步，仔细倾听起来。他觉得歌声虽然低沉，嗓音也有些沙哑，但所唱旋律却具有难以形容的魅力。其中满含忧伤，带有冥思苦想的情调。柴可夫斯基不自觉地向着传出歌声的地方走去。到那一看，原来是一位木匠在边干活边随意哼唱。一打听才知道，这首歌的名字叫《瓦尼亚坐在椅子上抽烟斗》，当即，柴可夫斯基用笔记下了这首歌曲的旋律。
1871年3月16日，柴可夫斯基创作的《第一弦乐四重奏》的演出，获得了极大的成功，尤其是其中的慢乐声，更是感人至深。原来，在谱写这一章时，他想到了两年前木匠哼唱的歌曲，并找出当时的记录，采用这首歌曲的音调作为慢乐章的主题。所以，这个乐章经常被单独演奏，渐渐成为一首独立乐曲，它的速度标记“如歌的行板”也就成为曲名了。
当文学大师列夫？托尔斯泰第一次听到这首乐曲时，激动得流下了眼泪。他说：“我从这段音乐里感到了俄罗斯人民灵魂深处的苦难。”