某年4月，甲租赁公司与乙机械厂签订了融资租赁合同，合同约定由租赁公司按照的要求，从国外购买设备3台，租给乙机械厂使用，租期2年。同年6月设备抵达大连港，但由于购买人是甲租赁公司，所以运单上载明的收货人是甲租赁公司。设备到后，甲租赁公司通知乙机械厂前去提货。当乙机械厂到港口提货时被拒绝，理由是收货人是甲租赁公司。乙机械厂急忙电告甲租赁公司派人解决，但甲租赁公司以承租人为租赁物的接受人为由未及时派人前往港口提货，后来乙机械厂通过别的办法提取了设备，但由于耽误了提货期限被港口罚款2万元。乙机械厂认为是甲租赁公司延误了提货期限，向甲租赁公司索赔罚款2万元无果，遂向法院提起诉讼。试分析：这笔罚款应由谁负担？为什么？