労働基準法において、労働時間は原則として1日につき8時間、1週につき40時間を上限として定められています（法定労働時間）。この法定労働時間を超えて働かせた場合、時間外労働として1時間あたりの賃金を25％以上の割増率で計算した割増賃金の支払が義務づけられています。また、原則として1週につき1日の休日を与えなければならないとしています（法定休日。なお、例外として4週につき4日の休日とする変形休日という制度がありますが、ここでは触れません）。この法定休日に労働させた場合、休日労働として1時間あたりの賃金を35％以上の割増率で計算した割増賃金が必要です。
　さて、週休2日の労働条件で、1日だけ休日出勤した場合、もう1日の休日は残っているので、「1週1日」の法定休日は与えていることになります。つまり、この休日出勤は、35％増しの休日割増は不要ということになります。しかし、当初の出勤日5日分合計で40時間に達しているので、休日出勤を1分でもすると、そこで40時間を超えてしまいます。つまり、この休日出勤をした日の5時間について、すべての時間を25％増しの125％で計算することになります（1日8時間を超えていなくても、1週40時間を超えているので割増が必要となることに注目してください）。
　ところが、同じ週に年次有給休暇（年休）を取ったとのことですので、当初の出勤日のうち実際に労働したのは4日分の32時間となります。割増賃金が必要な時間外労働は、実労働時間でカウントされます。この週は、法定労働時間までにあと8時間の余裕があります。したがって、ご質問のような休日出勤5時間については、25％増しの時間外労働割増さえ必要ありません。結果として、時間あたり賃金を割増無し(100%)で5時間分計算することになります。