Я могу удалить историю переводов в мобильном приложении Kaspi.kz?

Нет. Историю переводов удалить нельзя. В сервисе Переводы → История хранятся квитанции за последний год. Они служат подтверждением и при необходимости их можно предъявлять как банковские документы.