パートでも出産のときに休める?

もちろんです。
ただし、正社員と違い無給になることが多いようです。
健康保険の被保険者であれば、「保険から分娩のために休業し賃金の全部又は一部が支払われない」という条件に当てはまれば、出産手当金(産前6週間から産後8週間の賃金相当額の60%)が保険からもらえます。利用しましょう。