Es un API.
Que es un API? es una interfaz de programación de sonido (Audio) e imagen (Video). te hablo de DirectX que es el mas famoso.
Pero AMD soluciono el problema de la gente con el DirectX que lo estaban optimizando mas o menos mal con sus tarjetas por lo que decidieron crear su propio API con compatibilidad real con sus GPUs HD7000 Series y R200 series.
Mantle esta en Beta abierta, y ya hay algunos juegos con compatibilidad con este. EJ: Battlefield 4, Thief, Plants vs. Zombies Garden Warfare, Dragon Age Inquisition. ETC
Si quieres mas información, lee esto:
Que es una API Detallado: http://es.wikipedia.org/wiki/Interfaz_de_programaci%C3%B3n_de_aplicaciones
Que es Mantle y como funciona: http://www.amd.com/es-es/innovations/software-technologies/mantle#presentacin
Y nvidia no tiene ninguna API propia pero usa DirectX y OpenGL + OpenCL (CUDA).
La razon por que mejoran los FPS, es por que esta hecho para ciertas GPU, no para todo tipo de GPU (DirectX, OpenGL)
Mantle se instalando el ultimo controlador de video para las tarjetas de video AMD. Y solo funciona para las tarjetas de video que AMD puso en su lista.
Saludos