Czy pomyłkowe wystawienie faktury ze stawką 23% zamiast "ZW" zobowiązuje do zapłaty wykazanego na fakturze podatku

Niedawno rozpocząłem prowadzenie działalności gospodarczej i korzystam ze zwolnienia z VAT ze względu na niskie obroty, tj. poniżej 150 000 zł. Nie zarejestrowałem się jako podatnik VAT zwolniony ani nie składam deklaracji. Na żądanie swojego kontrahenta wystawiłem fakturę z podatkiem należnym w stawce 23% (zamiast "ZW"). Czy VAT wykazany na fakturze muszę odprowadzić do urzędu skarbowego?