El proyecto para que la IA ahorre energía

Un equipo de ingenieros de la Universidad de Texas (Estados Unidos) se asoció con la fundición de semiconductores más grande del mundo. Fabricaron y probaron una tecnología de memoria emergente. Ayudará al problema de la creciente demanda de energía de la inteligencia artificial. El trabajo se recoge en ‘Science Advances’. Allí se habla del proyecto para que la IA ahorre energía.

Lo hicieron con Taiwan Semiconductor Manufacturing Company (TSMC). Los investigadores probaron la memoria SOT-MRAM. Es un tipo de memoria que puede retener información incluso cuando no hay alimentación eléctrica. Utiliza propiedades magnéticas, lo que la hace más rápida. Consume menos energía que otras tecnologías de memoria.

El proyecto para que la IA ahorre energía sería un alivio a la gran demanda.
El proyecto para que la IA ahorre energía sería un alivio a la gran demanda.

Gran demanda

Sería ideal para aplicaciones de IA. Especialmente en dispositivos donde los recursos como la energía y la memoria son limitados. No se había considerado para hardware de IA, ya que solo puede almacenar dos estados. Pero se diseñó para aprovechar el estado binario sin comprometer la precisión.

Probaron los chips en varias tareas de IA. Incluyendo inferencia de redes neuronales, entrenamiento de redes neuronales binarias y modelado probabilístico de gráficos. Estas operaciones de escritura tardaban tan solo 2 nanosegundos. Es un cambio estándar entre los datos almacenados, de 0 a 1. Consumían apenas 2 picojulios de energía por escritura. Otras tecnologías de memoria pueden tardar entre 5 y cientos de veces más.

La IA tiene un rápido aumento de la demanda en todo el mundo. Se prevé que Texas se convierta en la capital estadounidense de los centros de datos en los próximos años. Multiplicaría por cinco el consumo energético estatal. Hay dos maneras de reducir el impacto energético de la IA. Aumentar la eficiencia de la tecnología y disminuir la dependencia de los centros de datos. El proyecto para que la IA ahorre energía, SOT-MRAM, podrín lograr ambos objetivos. Proporciona precisión suficiente para eventualmente reemplazar a los aceleradores de IA anteriores.

Se podría hacerla más rápida con menos energía.
Se podría hacerla más rápida con menos energía.

Ahorrando energía

«Por ejemplo, consideremos una mano robótica que detecta el calor. Al igual que un humano, la IA local en la mano puede tomar una decisión rápida con la precisión suficiente para moverla. Sin siquiera transmitir la señal neuronal al cerebro. Cuando se requiere una precisión muy alta, el robot puede conectarse a centros de datos basados en GPU en la nube», señalan.

Los investigadores continuarán su trabajo en esta tecnología. Buscan características clave que permiten la velocidad y la eficiencia de los chips. Y reducir la variación entre dispositivos, lo que puede disminuir la precisión de la red neuronal.

Fuente Bringing SOT-MRAM technology closer to last-level cache memory specifications
⭐ Contenido relacionado
💬 Deja un comentario