La IA Generativa está empezando a ejecutarse en nuestros propios ordenadores en vez de depender de modalidades de acceso e inferencia en la nube, que era la fórmula habitual hasta ahora. Los elevados precios por uso que están imponiendo compañías como OpenAI o Anthopic, hacen que "las cuentas no salga". Una forma de solventarlo es conseguir que las inferencias se generen en nuestros propios ordenadores. Precisamente, esta forma de uso de la IA es la que se está adoptando con más rapidez, con inversiones en hardware que se pueden amortizar en pocos meses teniendo en cuenta que solo tenemos que pagar por nuestro ordenador y nos libramos de licencias y pago por uso.
Guía: IA Generativa en el edge: cómo ejecutar modelos abiertos en local y qué hardware necesitas.
