Я шукаю..

Де найкраще запустити ШІ? Інновації

Де найкраще запустити ШІ?

Раві Аннаваджхала, генеральний директор Kinara Inc.

ШІ та нейротехнології

Гетті

Сьогодні для багатьох програм потрібен штучний інтелект (AI). Однак розробники часто недооцінюють багато важливих попередніх рішень, які вони повинні прийняти, щоб гарантувати, що їхнє впровадження працює належним чином у межах бюджету, який вони виділили.

Першим рішенням має бути те, чи буде штучний інтелект обробляти дані, які він споживає, у хмарі чи на межі мережі. Розгортання ШІ на межі має переваги у швидкості та вартості, але хмара захопила уяву більшості завдяки своїй величезній обчислювальній потужності та ємності для зберігання. Незалежно від того, використовуєте хмару чи край (або навіть комбінацію обох), є аспекти, які слід враховувати.

Обсяг даних створює затримку

Завантаження величезних обсягів даних у хмару часто може спричинити дуже високу затримку, у багатьох випадках перевищуючи сотні мілісекунд, що може серйозно погіршити роботу, у кращому випадку зробити її неефективною, а в гіршому — повною втратою часу та грошей. Здатність обробляти великі обсяги даних майже без особливих зусиль і узгоджено є ключовим фактором ефективного розгортання штучного інтелекту, але його надто часто забувають.

Переміщення даних

З точки зору пропускної здатності для переміщення даних, ви зазвичай не тільки повинні платити за велику їх частину, але ви також повинні платити за те, щоб вони були доступні з максимальною продуктивністю 100% часу. Ви не хочете платити за обробку неправильних даних. Це коштує стільки ж, але погані дані можуть бути дуже дорогими для викорінення та викидання без руйнування хороших даних.

Контроль витрат

Відеокамери генерують багато даних, а передача та аналіз цих даних потребує пропускної спроможності та обчислювальної потужності з грошовими значеннями, які можуть складатися дуже швидко. Крім того, окрім часу та грошей на «орендування» хмарного обладнання для навчання моделі ШІ, хмара означає великий бізнес для постачальників хмарних послуг, оскільки це обладнання має бути постійно доступним для виконання висновків.

Конфіденційність

Незважаючи на свої переваги, хмарне зберігання конфіденційних та/або конфіденційних даних все ще викликає занепокоєння для багатьох. Думка про передачу цінних даних у хмару та з хмари — потенційно піддаючи її перериванню мережі або навіть викраденню та пошкодженню темними силами у відкритому Інтернеті — все ще може викликати занепокоєння. Нещасні випадки трапляються рідко, але вони все одно трапляються, часто через прості помилки, і ці, здавалося б, незначні нещасні випадки можуть швидко загостритися.

Чи є Edge найкращим варіантом?

Незважаючи на недоліки хмарного штучного інтелекту, більшість додатків все ще покладаються на хмару для комплексної аналітики, наприклад, пов’язаної з прийняттям ділових або фінансових рішень. Де AI на краю? На мій погляд, для випадків використання, які вимагають швидкості, масштабованості та конфіденційності, розміщення обробки ШІ на межі мережі може уникнути багатьох описаних проблем. Я вважаю, що розміщення штучного інтелекту на межі є найкращим, якщо не єдиним варіантом.

Для програм штучного інтелекту, які не вимагають швидкості в мілісекундах, хмара має працювати нормально. Однак для рішення або реакції штучного інтелекту, яка має відбутися протягом декількох мілісекунд або менше, іноді з дуже чутливою або цінною інформацією, краєвий штучний інтелект є найкращим варіантом. Хоча це може вимагати трохи вищих початкових витрат на дослідження та розгортання, рентабельність інвестицій має бути явно кращою за досить короткий проміжок часу порівняно з хмарою.

Приклади додатків, які отримують переваги від Edge Processing

Безкасові магазини, медичні прилади та складські роботи – це лише кілька прикладів, де можна спостерігати ефективність периферійного штучного інтелекту. Безкасові магазини можуть використовувати передовий штучний інтелект, щоб забезпечити більшу гнучкість, коли справа доходить до масштабованості для розміщення сотень, якщо не тисяч розумних камер. Медичні пристрої з інтегрованою можливістю штучного інтелекту можна використовувати для моніторингу пацієнтів, наприклад, для аналізу ненормальної поведінки або виявлення падінь. Роботам-складам потрібен передовий штучний інтелект, щоб забезпечити дуже точні миттєві дії.

Розгляньте це наперед

Хоча більшість підприємств будь-якого розумного розміру зараз використовують певну форму хмарного середовища (приватну, публічну чи іншу комбінацію хмарних сервісів як частину своєї бізнес-стратегії), один розмір не підходить для всіх.

Рішення про перехід у хмару чи край зазвичай залежить від програми. Багато організацій використовуватимуть гібридний підхід, виконуючи функції з найбільшими часовими обмеженнями на межі, одночасно виконуючи більш глибоку аналітику в хмарі. Наприклад, складські роботи можуть бути чудовим середовищем для розгортання периферійного штучного інтелекту, але хмара все ще використовується для консолідації та аналізу вхідних даних від усіх роботів у складі.

Однак підхід гібридної хмари/граничного підходу може лякати непосвячених, оскільки існує певний рівень складності. Доцільно розглянути можливість реалізації такого проекту з досвідченим партнером або постачальником, який зможе забезпечити прийняття правильних рішень на ранній стадії, щоб уникнути потенційних перешкод.

Однак правильне встановлення обох елементів на етапах планування може зрештою оптимізувати пропускну здатність і підвищити ефективність шляхом збалансування попиту між різними хмарними системами та периферійними обчислювальними середовищами для точного задоволення спеціалізованих потреб підприємства.

Що щодо зберігання? Скільки вам знадобиться як зараз, так і в осяжному майбутньому? Якщо це величезні обсяги, вашим рішенням можуть стати хмарні обчислення та сховище. Якщо збирання даних відносно невелике, періодичне або лише тимчасове, периферійні обчислювальні пристрої не тільки ймовірно коштуватимуть дешевше для впровадження, експлуатації та обслуговування, але вони також можуть потребувати менше енергії для роботи.

Бачити майбутнє

Окрім трьох описаних вище прикладів, існує також багато інших програм, які покладаються на комп’ютерне зір і штучний інтелект для ідентифікації когось або чогось. Хоча хмара була вибором за замовчуванням для запуску алгоритмів штучного інтелекту, особливо для розширеної аналітики, нові периферійні пристрої штучного інтелекту можуть дозволити додаткам виконувати критичні за часом функції штучного інтелекту на межі, тоді як роль хмари зміниться в бік розширеної аналітики.

Технологічна рада Forbes — це спільнота для ІТ-директорів, технічних директорів і технічних керівників світового рівня. Чи маю я право?