AMD no tiene su propia herramienta de IA como es Chat RTX de NVIDIA. Chat RTX ejecuta un modelo "ligero" LLM, a través de la aceleración de sus GPUs GeForce.AMD, en cualquier caso, ha indicado cómo usar herramientas de terceras partes para conseguir un resultado parecido con sus gráficas AMD Radeon y sus procesadores Ryzen.
Las CPUs AMD Ryzen 7040 "Phoenix" y 8040 "Hawk Point" vienen con aceleradores XDNA para IA con rendimientos de entre 10 TOPS y 16 TOPS para inferencias de IA. La importancia de estos aceleradores se incrementará con la llegada de próximas versiones de Windows.
Entre tanto, AMD recomienda usar el software LM Studio. Es una herramienta versátil, multiplataforma, con algunas opciones más que las que vienen con Chat RTX.
LM Studio funciona con Apple Silicon también, además de beneficiarse de la aceleración de las GPUs de NVIDIA y AMD. Para GPUs se recomiendan 16 GB de VRAM, mientras que para CPU, se recomiendan 6 GB de memoria disponibles.
Es una solución que se ejecuta localmente, sin necesidad de "ir" a la nube. De momento, hay dos variantes que se pueden usar con tecnología de AMD. LM Studio y LM Studio ROCm Preview. Esta última está optimizada para las GPUs Radeon RX 7000.
Las instrucciones para comenzar a usar esta herramienta están aquí (en inglés):
Esta herramienta no está optimizada para los aceleradores de IA XDNA de AMD o las NPUs de Intel, pero usa OpenCL para las APUs/CPUs de AMD con gráficos integrados.
