对方不付抚养费的，当事人一般不能去起诉撤销其监护权，只有在监护人实施严重损害被监护人身心健康的行为；或者怠于履行监护职责等情况下才可以申请撤销监护，撤销监护后由人民法院按照最有利于被监护人的原则依法指定监护人。不付抚养费是否可以起诉撤销监护权的法律依据
《中华人民共和国民法典》第三十六条第一款监护人有下列情形之一的，人民法院根据有关个人或者组织的申请，撤销其监护人资格，安排必要的临时监护措施，并按照最有利于被监护人的原则依法指定监护人：（一）实施严重损害被监护人身心健康的行为；（二）怠于履行监护职责，或者无法履行监护职责且拒绝将监护职责部分或者全部委托给他人，导致被监护人处于危困状态；（三）实施严重侵害被监护人合法权益的其他行为。