Brainchip amplía la IA y el aprendizaje automático en el espacio y el tiempo con redes neuronales bioinspiradas

Con los procesadores y coprocesadores de inteligencia artificial y aprendizaje automático (AI/ML) rugiendo en el panorama de productos de borde integrado, continúa la búsqueda de tecnología de alto rendimiento que pueda ejecutar una amplia gama de modelos AI/ML con un consumo de energía muy bajo. Brainchip ha estado comercializando una línea única, bioinspirada de Akida de IP de procesamiento neuronal configurable y con licencia desde hace un tiempo. La IP sintetizable de la empresa está diseñada para implementar de manera eficiente cargas de trabajo de IA/ML como un coprocesador de CPU en chip que exige poca intervención de la CPU. Ahora, la compañía ha presentado su arquitectura de coprocesador de procesamiento neuronal Akida AI/ML de segunda generación, que mejora la arquitectura IP de primera generación de varias maneras.

Akida IP de la empresa ejecuta modelos de redes neuronales estándar creados con flujos de herramientas de IA/ML estándar, pero esta IP aprovecha de manera única las arquitecturas cerebrales orgánicas de bajo consumo de energía producidas durante más de 100 millones de años de evolución, implementando el procesamiento cognitivo de IA/ML usando un bio -Enfoque inspirado pero totalmente digital para el procesamiento neuronal. Este es un enfoque de diseño radicalmente diferente en comparación con las grandes matrices de multiplicadores/acumuladores (MAC) hambrientos de energía integrados en la mayoría de las unidades de procesamiento neuronal (NPU) de AI/ML de la actualidad. Como resultado del enfoque de diseño exclusivo de Brainchip para el procesamiento de IA/ML, la IP de procesamiento neuronal Akida de la empresa puede ofrecer procesamiento en tiempo real con una precisión igual o mejor que las soluciones convencionales de IA/ML, pero con requisitos de energía muy reducidos.

La arquitectura Akida puede resolver una amplia gama de desafíos de IA/ML en una serie de aplicaciones perimetrales integradas, que incluyen:

Detección de objetos de video y redes de transformadores de visión que utilizan imágenes de alta o baja resolución Predicción de secuencias avanzada Detección, clasificación y localización de objetos Predicción de signos vitales Clasificación de audio avanzada, incluida la detección de palabras clave y más Reconocimiento de gestos Análisis de vibraciones y detección de anomalías

Estas aplicaciones abarcan muchos segmentos de mercado de borde integrado diferentes, incluidos el automotriz, el hogar inteligente, el consumidor, el cuidado de la salud, la seguridad y vigilancia digital y la automatización industrial.

Hay varias fuerzas que impulsan el aumento del procesamiento de IA/ML de borde frente al procesamiento de IA/ML basado en la nube. Primero, los servicios basados en la nube representan un gasto operativo continuo y esos costos de servicio están aumentando. Al mismo tiempo, las soluciones basadas en la nube tienen desafíos de capacidad de respuesta y latencia que a veces no se pueden superar si el procesamiento de AI/ML está restringido a la nube. Este problema se ve agravado por el rápido aumento del uso del procesamiento basado en la nube para muchas cargas de trabajo, no solo AI/ML, que enfrenta cargas de trabajo competidoras en servidores de centros de datos entre sí y sobrecarga la infraestructura necesaria para transportar datos de sensores a estos servidores. El procesamiento AI/ML que está localizado en un dispositivo integrado no está conectado a la nube y el procesamiento continúa, ya sea que el dispositivo esté o no conectado a una red, lo que puede ser un tremendo beneficio en aplicaciones desconectadas o conectadas intermitentemente o cuando se encuentran en áreas de poca cobertura.

Si bien los centros de datos y las redes son escalables, la incorporación del procesamiento AI/ML en los dispositivos perimetrales integrados crea una solución que se escala automáticamente con los aumentos de carga porque, a medida que se agregan más dispositivos que necesitan procesamiento AI/ML al perímetro, se agrega más capacidad de procesamiento AI/ML. por cada nuevo dispositivo también. Como beneficio adicional, mantener los datos del sensor localizados en el dispositivo perimetral integrado y realizar el procesamiento AI/ML localmente también evita posibles problemas de privacidad y seguridad porque los datos privados y seguros son inaccesibles y nunca atraviesan la red.

El elemento central de la arquitectura Akida de Brainchip es una NPU de picos, que emula el funcionamiento de la miríada de neuronas y sinapsis de un cerebro orgánico. Akida NPU se basa en eventos. Solo funciona cuando hay datos para procesar, lo que ahorra energía. Además, cada Akida NPU tiene su propia memoria local, lo que elimina la necesidad de intercambiar pesos de modelos AI/ML dentro y fuera de la memoria externa. Esta característica reduce aún más el consumo de energía al mismo tiempo que aumenta el rendimiento y elimina los cuellos de botella de la memoria externa causados por el tráfico AI/ML en los buses de memoria.

La arquitectura Akida agrupa cuatro NPU en un nodo y conecta varios nodos con un NOC de malla (red en chip). Esta arquitectura puede implementar CNN estándar (redes neuronales convolucionales), DNN (redes neuronales profundas), RNN (redes neuronales recurrentes), redes de predicción de secuencias, transformadores de visión y otros tipos de redes neuronales además de las redes nativas de Akida NPU, SNN ( picos de redes neuronales).

La arquitectura de la plataforma Akida de segunda generación agrega hardware optimizado llamado nodos Vision Transformer, que funcionan con los componentes neuromórficos basados en eventos existentes para crear transformadores de visión. Estas redes Vision Transformer logran excelentes resultados en aplicaciones de reconocimiento de visión, detección de objetos y clasificación de imágenes en comparación con las redes convolucionales de última generación de la competencia con sustancialmente menos recursos computacionales o energía eléctrica. La nueva arquitectura de segunda generación tiene soporte de hardware para conexiones de salto de largo alcance y ahora admite pesos y activaciones de 8, 4, 2 y 1 bit, lo que permite a los equipos de desarrollo de AI/ML ajustar la precisión del modelo, el uso de la memoria y consumo de energía a los requisitos de la aplicación.

La compañía también agregó soporte para lo que la compañía llama Redes neuronales basadas en eventos temporales (TENN), que reducen la huella de memoria y la cantidad de operaciones necesarias para las cargas de trabajo, incluida la predicción de secuencias y la detección de objetos de video, en órdenes de magnitud al manejar datos 3D. o datos de series de tiempo. Lo que hace que los TENN sean particularmente interesantes es la capacidad de tomar datos de sensores sin procesar sin preprocesamiento, lo que permite dispositivos predictivos o de monitoreo de audio o atención médica radicalmente más simples. El marco de software MetaTF de Brainchip convierte automáticamente otras redes neuronales en SNN. MetaTF funciona con marcos estándar de la industria como TensorFlow/Keras y plataformas de desarrollo como Edge Impulse.

Hay tres productos IP licenciables distintos basados en la arquitectura de la plataforma Akida de Brainchip, como se muestra en la siguiente figura:

La variante Max Efficiency (Akida-E) proporciona hasta cuatro nodos (o 16 NPU), funciona a una velocidad de hasta 200 MHz, ofrece el equivalente a 200 GOPS (gigaoperaciones por segundo) de rendimiento y solo necesita milivatios de potencia para operación. La compañía dice que esta variante más pequeña está diseñada para ejecutar redes AI/ML más simples y está diseñada para usarse en equipos de operación continua donde el consumo de energía es escaso. La variante con sensor equilibrado (Akida-S) se puede configurar con hasta ocho nodos (32 NPU), funciona a una velocidad de hasta 500 MHz y ofrece el equivalente a 1 TOPS (billón de operaciones por segundo) de rendimiento, que es capaz de ejecutar cargas de trabajo de detección y clasificación de objetos. La variante Performance (Akida-P) admite hasta 128 nodos (512 NPU), funciona a una velocidad de hasta 1,5 GHz y ofrece el equivalente a 50 TOPS. La versión más capaz de la variante Performance incluye soporte de hardware opcional para redes de transformadores de visión que toman la forma de nodos adicionales en la red de malla Akida interna.

La variante de gama alta puede ejecutar la gama completa de modelos AI/ML en el zoológico de modelos de Brainchip para realizar tareas que incluyen clasificación, detección, segmentación y predicción. Juntas, estas variantes de Akida permiten que un equipo de diseño use una arquitectura AI/ML que escala desde configuraciones de bajo consumo que consumen meros microvatios de energía hasta configuraciones de alto rendimiento que ofrecen docenas de TOPS y, según BrainChip, pueden realizar objetos de video HD. detección a 30 fotogramas por segundo con un consumo inferior a 75 milivatios, lo que podría resultar en soluciones de visión portátiles muy atractivas.

La plataforma Akida bioinspirada de Brainchip es sin duda una forma inusual de abordar las aplicaciones de IA/ML. Mientras que la mayoría de los otros proveedores de NPU están averiguando cuántos MAC pueden colocar, y alimentar, en la cabeza de un pin, Brainchip está adoptando un enfoque alternativo que la Madre Naturaleza ha demostrado que funciona durante muchas decenas de millones de años.

En opinión de Tirias Research, lo importante no es el camino recorrido hasta el resultado, sino el resultado lo que cuenta. Si la plataforma basada en eventos Akida de Brainchip tiene éxito, no será la primera vez que una nueva y radical tecnología de silicio arrasa en el campo. Considere las DRAM (memorias dinámicas de acceso aleatorio), los microprocesadores, los microcontroladores y las FPGA (matrices de compuertas programables en campo), por ejemplo. Cuando aparecieron esos dispositivos por primera vez, hubo muchos que expresaron dudas. No más. Es posible que Brainchip haya desarrollado otro avance que podría equipararse con las innovaciones anteriores. El tiempo dirá.