Eine Matrox? Dann kann man das mit dem Treiber und vermutlich auch GOP sowieso vergessen, da bleibt eigentlich nur die VESA BIOS Extension.
Das Problem hierbei: Der Standard hat nur eine sehr eingeschränkte Auswahl an standardisierten Auflösungen, siehe dazu auch den englischen Wikipedia Artikel zur VESA_BIOS_Extensions. Alle weiteren Bildschirmmodi sind implementierungsabhängig, deren Nummer muss man überhaupt erst einmal heraus finden.
Da gibt es im wesentlichen 2 Methoden: Entweder man übergibt dem Kernel mit der vga
Bootoption die jeweilige gewünschte Modusnummer (Linux-spezifisches Nummernformat beachten!) direkt, oder man übergibt GRUB den gewünschten Modus, sagt ihm dass er diesen an den Kernel übergeben soll und hofft auf gut Glück dass er den gewünschten Bildschirmmodus auch in der Liste der unterstützten Modi findet. Wenn du da einen FullHD Bildschirm hast ist aber vermutlich mit der Auflösung auch schon bei 16bit Farbtiefe Schluss.