¿Dónde está el mejor lugar para ejecutar la IA?

Ravi Annavajjhala – Director ejecutivo, Kinara Inc.

getty

Muchas aplicaciones requieren inteligencia artificial (IA) en estos días. Sin embargo, los desarrolladores subestiman con frecuencia las muchas decisiones cruciales y iniciales que deben tomar para garantizar que su implementación funcione bien dentro del presupuesto que han asignado.

La primera decisión debe ser si la IA procesará los datos que consume en la nube o en el perímetro de la red. Hay ventajas de velocidad y costo para implementar IA en el borde, pero la nube ha capturado la imaginación de la mayoría debido a su poder de cómputo y capacidad de almacenamiento masivos. Ya sea que use la nube o el borde (o incluso una combinación de ambos), hay aspectos a considerar.

El volumen de datos presenta latencia

La carga de grandes cantidades de datos en la nube a menudo puede generar una latencia muy alta, en muchos casos superando los cientos de milisegundos, lo que puede afectar seriamente las operaciones hasta el punto de volverlas ineficaces en el mejor de los casos y pérdidas totales de tiempo y dinero en el peor. La capacidad de manejar grandes cantidades de datos casi sin esfuerzo y de manera consistente es un factor clave, pero que con demasiada frecuencia se pasa por alto, en el despliegue efectivo de la IA.

Mover datos alrededor

En términos de ancho de banda para mover datos, por lo general no solo debe pagar una gran cantidad, sino que también debe pagar para que esté disponible al máximo rendimiento el 100 % del tiempo. No querrás pagar para procesar datos incorrectos. Cuesta lo mismo, pero los datos malos pueden ser muy costosos de erradicar y descartar sin arruinar los datos buenos.

control de costos

Las cámaras de video generan una gran cantidad de datos, y transferir y analizar esos datos requiere ancho de banda y potencia de cómputo con valores monetarios que pueden acumularse muy rápidamente. Además, además del tiempo y el dinero para "alquilar" equipos en la nube para entrenar un modelo de IA, la nube significa un gran negocio para los proveedores de servicios en la nube porque ese equipo debe estar disponible continuamente para realizar inferencias.

Privacidad

A pesar de sus ventajas, el almacenamiento en la nube de datos confidenciales y/o de propiedad sigue siendo preocupante para muchos. La idea de transferir datos valiosos hacia y desde la nube, sometiéndolos potencialmente a la interrupción de la red o incluso al secuestro y la corrupción por parte de fuerzas oscuras en la Internet abierta, aún puede ser preocupante. Los accidentes son poco frecuentes, pero aún ocurren, a menudo debido a errores simples, y esos percances aparentemente menores pueden escalar rápidamente.

¿Es The Edge la mejor opción?

A pesar de las deficiencias de la IA basada en la nube, la mayoría de las aplicaciones aún dependen de la nube para realizar análisis integrales, como los asociados con la toma de decisiones comerciales o monetarias. ¿Dónde entra la IA en el perímetro? En mi opinión, para los casos de uso que requieren velocidad, escalabilidad y privacidad, colocar el procesamiento de IA en el borde de la red puede evitar muchos de los problemas descritos. Creo que colocar la IA en el borde es la mejor opción, si no la única.

Para las aplicaciones de IA que no requieren una velocidad de milisegundos, la nube debería funcionar bien. Sin embargo, para una decisión o reacción de IA que debe tener lugar en el rango de unos pocos milisegundos o menos, a veces con información muy sensible o valiosa, la IA de borde es la opción. Si bien puede requerir costos iniciales ligeramente más altos para investigar e implementar, el ROI debería ser demostrablemente más favorable en un período de tiempo razonablemente corto en comparación con la nube.

Aplicaciones de ejemplo que se benefician del procesamiento perimetral

Las tiendas sin cajero, los dispositivos médicos y los robots de almacén son solo algunos ejemplos en los que se puede observar la eficacia de la IA perimetral. Las tiendas sin cajero pueden usar la IA de borde para brindar una mayor flexibilidad en lo que respecta a la escalabilidad para acomodar cientos, si no miles, de cámaras inteligentes. Los dispositivos médicos con capacidad de IA integrada se pueden usar para monitorear pacientes, por ejemplo, analizando comportamientos anormales o detección de caídas. Los robots de almacén necesitan inteligencia artificial avanzada para permitir una acción instantánea muy precisa.

Considere esto por adelantado

Aunque la mayoría de las empresas de cualquier tamaño razonable ahora utilizan algún tipo de entorno de nube (ya sea privado, público o alguna otra combinación de servicios de nube como parte de su estrategia comercial), una talla no sirve para todos.

La decisión de ir a la nube o perimetral generalmente depende de la aplicación. Muchas organizaciones utilizarán un enfoque híbrido, realizando las funciones con las mayores limitaciones de tiempo en el perímetro mientras realizan análisis más profundos en la nube. Por ejemplo, los robots de almacén pueden ser un excelente entorno para implementar IA perimetral, pero la nube aún se usa para consolidar y analizar las entradas de todos los robots en el almacén.

Sin embargo, un enfoque híbrido de nube/ perímetro puede resultar desalentador para los no iniciados porque existe un nivel inherente de complejidad. Es aconsejable considerar emprender un proyecto de este tipo con un socio o proveedor experimentado que pueda garantizar que se tomen las decisiones correctas con anticipación para evitar posibles obstáculos.

Sin embargo, obtener ambos elementos correctamente en las etapas de planificación puede, en última instancia, optimizar el rendimiento y aumentar la eficiencia al equilibrar la demanda entre varios sistemas en la nube y entornos informáticos de borde para satisfacer con precisión la necesidad especializada de la empresa.

¿Qué pasa con el almacenamiento? ¿Cuánto necesitará, tanto ahora como en el futuro previsible? Si se trata de grandes volúmenes, la computación y el almacenamiento en la nube pueden ser su respuesta. Si la captura de datos es relativamente pequeña, intermitente o solo temporal, es probable que los dispositivos informáticos de borde no solo cuesten menos para implementar, ejecutar y mantener, sino que también pueden requerir menos energía para funcionar.

viendo el futuro

Además de los tres ejemplos descritos anteriormente, también hay muchas otras aplicaciones que se basan en la visión artificial y la IA para identificar a alguien o algo. Aunque la nube ha sido la opción predeterminada para ejecutar algoritmos de IA, especialmente para análisis avanzados, los nuevos dispositivos de IA de borde pueden permitir que las aplicaciones realicen las funciones de IA críticas en el tiempo en el borde, mientras que el papel de la nube cambiará hacia el análisis avanzado.

El Consejo de Tecnología de Forbes es una comunidad a la que solo se puede acceder por invitación para CIO, CTO y ejecutivos de tecnología de clase mundial. ¿Califico?