La inteligencia artificial recurre a los centros de datos para resolver las consultas y, con ello, consume grandes cantidades de energía. Pero cada vez aparecen más modelos de IA capaces de ejecutarse sin llamar a la nube
En la alborotada carrera por la inteligencia artificial (IA) se suceden las novedades. Y entre los nuevos lanzamientos afloran cada vez más los llamados pequeños modelos, small language models o SLM. Son diferentes a los LLM, los grandes modelos que sirven como motor a ChatGPT o Google Gemini. Estos sistemas, más sencillos y orientados a una mayor eficiencia de los recursos, a veces se pueden ejecutar en un ordenador o incluso un móvil.
Es lo opuesto al funcionamiento de los grandes sistemas de IA, que recurren a la computación en la nube para funcionar. Esto significa procesar la información en la gran maquinaria de los centros de datos. Y los efectos en el medioambiente se dejarán notar. El banco de inversión Goldman Sachs calcula que la IA incrementará las necesidades energéticas de los centros de datos en un 165% para 2030. El pronóstico se produce en el contexto de una fiebre por construir este tipo de infraestructuras.
Ante esta batalla por acumular recursos de computación, los pequeños modelos de IA podrían ser una alternativa más sostenible. Mistral Small 3.1, la opción de la startup francesa del mismo nombre, funciona en un Mac con 32 gigabytes de memoria RAM, mientras que el proyecto de código abierto TinyLlama 1.1B se puede implementar en ordenadores con más de 8 gigabytes de RAM, incluso hay quien lo ha probado en smartphones. Como parte de su catálogo de novedades en IA, Google lanzó recientemente Gemma 3 1B, un modelo preparado para dispositivos móviles. La idea es que los desarrolladores lo integren en sus apps para realizar tareas sin conectarse a internet.
Gregorio Rodríguez Zamora 1ºNs Ver noticia aquí
