应该要调解书。

双方自行达成的协议没有在法院备案的话就没有强制性，其中一方不履行，另一方没什么好的办法。只能重新去法院起诉对方。

有调解书就不同了。司法机关出具的调解书有法律强制性，一方不履约，另一方直接申请强制执行就可以。

所以，应该要调解书。