Respostas:
transformar ou transformação
Se você adicionar cisalhamento à sua lista (embora raramente seja usado em jogos), geralmente é conhecido em matemática como uma transformação afim .
O termo geral 'transformação' já foi mencionado, é geralmente considerado um superconjunto e inclui também transformações de projeção (que não são afins).
Eu já vi o PRS usado (posição, rotação, escala), mas "matriz de transformação" é um nome bastante informativo e também abrange outros tipos de transformações (distorção, etc).
Alguma variante Transform
ou Transformation
funcionaria.