Quando você amassa uma folha de papel, está alterando a forma do papel através da aplicação de uma força, o que pode levar a uma diminuição percebida no seu volume. Isso porque as folhas de papel contêm ar entre suas fibras e, ao amassá-las, você reduz os espaços vazios onde o ar estava, fazendo com que o conjunto ocupe menos espaço. No entanto, o termo "matéria" refere-se à substância ou ao material de que algo é feito, e não muda neste contexto. A matéria do papel permanece sendo papel, composta principalmente por celulose.
O conceito que você mencionou, sobre a capacidade de diminuir o volume de um material aplicando força, está relacionado às propriedades físicas da matéria, como compressibilidade e elasticidade. A compressibilidade é uma propriedade que permite a um material reduzir seu volume quando submetido a pressão. No caso do papel, embora o efeito seja mais relacionado à reorganização física do material do que à compressão no sentido estrito, materiais como gases e alguns líquidos exibem compressibilidade de forma mais evidente.
Portanto, a "matéria" em questão continua sendo papel, mas o conceito físico relevante envolvido na sua pergunta é a compressibilidade, que se refere à capacidade de um material reduzir seu volume sob pressão.