Розумніший ШІ потребує більше пам'яті та сховища

Це друга з двох статей на саміті TechSurge від Celesta Capital 13 лютого 2023 року. У цій статті я включаю обговорення напівпровідникової панелі, а також деякі коментарі Internet Legend, Вінта Серфа про етичне використання технологій і те, як змусити ШІ бути більш корисним.

Джейсон Ділулло, президент Qatalyst Partners, очолив сесію на саміті TechSurge, присвячену ринку напівпровідників. До цієї дискусії увійшли Санджай Мехротра, президент і генеральний директор Micron; Рене Хаас, генеральний директор Arm, і Ронні Чаттерджі, координатор Білого дому CHIPS Act.

Санджай міг сказати багато речей про напівпровідникову промисловість і, зокрема, про галузь напівпровідникової пам’яті. Він сказав, що напівпровідники складають основу всього сучасного світу. 20-30% світової економіки живиться напівпровідниками, прямо чи опосередковано. Напівпровідникова промисловість зростає швидше, ніж ВВП до кінця цього десятиліття. Micron є єдиним у США виробником пам'яті, DRAM і NAND flash.

Зростання напівпровідникової пам’яті в наступне десятиліття випереджатиме загальне зростання напівпровідників. Усі тенденції навколо штучного інтелекту та автономних транспортних засобів потребують пам’яті, і це сприятиме економічному зростанню. Сьогодні близько 85% напівпровідників виробляється в Азії. 98% кремнію пам'яті виробляється в Азії. Основні азіатські країни, які забезпечують ланцюг постачання та виробництво напівпровідників, зосереджені в Південній Кореї, Китаї, Японії та Тайвані. Існує попит на збалансований ланцюжок поставок, звідси такий великий інтерес у різних національних урядах до сприяння локальному зростанню виробництва напівпровідників. Це стоїть за законом CHIPS та іншим подібним фінансуванням. Це спроба диверсифікувати глобальний ланцюг поставок.

Рене сказав, що бізнес-цикли є невід’ємною рисою напівпровідникової промисловості. Компанії повинні робити великі ставки на попит і пропозицію. Під час пандемії ми перебували в умовах кризи пропозиції, яка перейшла на ринок, який керується сьогоднішнім попитом. Він вважає, що ці бізнес-цикли продовжаться, хоча загальний попит на електроніку в усьому в осяжному майбутньому підвищить попит.

Ронні приєднався до Міністерства торгівлі США у 2021 році. Його бос попросив його дізнатися про причину підвищення цін на автомобілі. Значна частина зростання цін була викликана зменшенням пропозиції напівпровідникових мікросхем під час пандемії. Навіть дуже прості старі технологічні мікросхеми були в дефіциті. Він сказав, що закон про CHIPS створить нові робочі місця, особливо для тих, хто не має вищої освіти. Він вважає, що зараз ключовий час для інвестицій у напівпровідникову промисловість і що розвиток Кремнієвої долини після Другої світової війни був пов’язаний зі значними інвестиціями в технології в цьому регіоні (наприклад, NASA та різні оборонні підрядники).

Рене сказав, що штучний інтелект є найбільшим рушієм зростання виробництва напівпровідників, маючи на увазі генеративний штучний інтелект, такий як Chat GBT. Це велика можливість, але для її реалізації нам знадобиться більш ефективна обробка даних, чим відомий Arm. Він сказав, що в даний час центри обробки даних у всьому світі споживають близько 1-2% від загальної виробленої електроенергії, але в деяких країнах це ближче до 10%, що є нестабільним. Нові центри обробки даних будуються з фіксованою нерухомістю та наявністю електроенергії, що вимагатиме більш ефективної електроніки для задоволення зростаючого попиту.

Санджай сказав, що генеративний ШІ та інший складний ШІ стимулюватиме попит на пам’ять. Він сказав, що сервери Chat GBT вимагають на п’ять разів більше пам’яті, ніж стандартний сервер. Розумніший штучний інтелект потребує обчислень, пам’яті (багато пам’яті та пам’яті) і з’єднання. Усе це має об’єднатися, щоб штучний інтелект став повсюдним. Також важлива низька потужність і висока продуктивність пам'яті з високим вмістом BW. Суперкомп’ютер Chat GBT входить до п’ятірки найкращих у світі. Він надав деякі подробиці про обладнання, необхідне для Chat GBT. Він має 285 000 ядер процесора, 10 000 графічних процесорів і швидкість підключення 400 ГБ/с. Він також сказав, що в найближчі роки тенденції до об’єднання пам’яті та комп’ютера через упаковку або інноваційні рішення для об’єднання пам’яті та логіки.

Ронні сказав, що Закон про мікросхеми та науку профінансує 52,7 мільярда доларів США. Це велика сума для державних інвестицій у промисловість США. Він переїхав до Білого дому з Міністерства торгівлі, де він координує дію CHPS. Державні гроші залучають гроші приватної промисловості, до 300 мільярдів доларів з моменту прийняття закону CHIPS. Він також сказав, що нам потрібен більш широкий ланцюжок поставок, включаючи менші компанії. Приватний сектор має більше інформації про ланцюг поставок, ніж державний.

Санджай сказав, що на додаток до 52 мільярдів доларів для подолання розриву у витратах з азіатським напівфабрикатами. Сьогодні різниця у витратах становить 35-45% для виробництва в США та в Азії, головним чином через стимули з боку азіатських урядів. Іншим важливим елементом CHIPS є податкові пільги на інвестиції. До 25% ITC також допоможе подолати розрив з Азією. Потрібні як інвестиційні, так і податкові кредити. Незважаючи на те, що пластини з пам’яттю генерують близько 30% усіх доходів WW від напівфабрикатів, вони становлять близько 60% усіх напіввафель. CHIPS потребує інвестування в пам’ять, а також логіку, датчики та інші пристрої. Санджай сказав, що пам’ять знаходиться під тиском ціни, і що ви повинні створювати власні заводи, щоб вижити, ви не можете будувати через третіх сторін.

Рене сказав, що 30 років тому не існувало компаній з інтелектуальної власності та галузі інтелектуальної власності, яка є сьогодні. Технологія системи на чіпі (SoC) стикається з перешкодами щодо того, скільки можна вкласти в монолітний кристал, особливо в міру наближення до 2-нм технологій. За його словами, у найближчі 5-10 років ми побачимо дезагрегацію SoC, де менші спеціалізовані кристали, виготовлені різними процесами та різними компаніями, об’єднуються в пакет (ці менші кристали часто називають чіплетами). Це призведе до багатьох інновацій і нових можливостей ІВ. Він сказав, що упаковка чіплетів стане стандартною через 4-5 років.

Коли його запитали про тенденцію, коли великі гіперскейлери розробляють власне обладнання, Рене сказав, що ці компанії мають велике внутрішнє робоче навантаження, яке вимагає дуже специфічних функцій, і що ці компанії мають найкращу інформацію про те, як вирішити їхні потреби. Як наслідок, тенденція розробників власних чіпів збережеться. Вони використовуватимуть IP там, де це має сенс, а також використовуватимуть стандартне обладнання.

Ронні сказав, що регіональні переваги від закону CHIPS можуть бути величезними. Більше людей зможуть працювати там, де вони живуть, замість того, щоб переїжджати. Він підкреслив, що необхідно регіональне партнерство з приватними компаніями.

Рене сказав, що нам потрібно стати більш амбітними та агресивними у вирішенні проблеми енергоефективності для масштабування, щоб задовольнити потреби майбутнього ШІ та інших програм. Наприклад, він сказав, що хоча є цілі щодо переходу на всі електромобілі за 10 років, енергомережа не побудована для підтримки цього. Більша ефективність електронної потужності може зменшити ці потреби в електроенергії, зробивши це більш досяжним.

Санджай сказав, що закон про CHIPS створить близько 50 000 прямих робочих місць у напівпровідниковій промисловості та півмільйона непрямих робочих місць. Це вимагає, щоб ми залучали недостатньо представлені групи, чорношкірих, латиноамериканців, людей із сільської місцевості. Протягом наступних 10 років Micron інвестує 100 мільярдів доларів. Будівництво є значною частиною цих високооплачуваних робіт. Він сказав, що до 2030 року Micron скоротить викиди вуглекислого газу на 42% порівняно з 2018 роком відповідно до Паризьких угод. До 2025 року їхні об’єкти будуть працювати на 100% відновлюваної енергії.

Санджай також заохочував інвестиції в технології розумного виробництва. Він сказав, що їхні заводи мають понад 500 000 датчиків з великою кількістю контрольних точок і багатьма зображеннями пластин. Він сказав, що вони мають 30 ПБ даних, які вони хотіли б проаналізувати та зрозуміти, щоб створити розумніше виробництво з швидшим обслуговуванням обладнання та кращою якістю для задоволення попиту.

Ларіна Йі з McKinsey and Co. взяла інтерв’ю у Вінта Серфа з Google. Вінт був одним із тих, хто допоміг створити Інтернет. Стосовно Інтернету він сказав, що всі потужні технології можуть бути використані у поганий спосіб. У нього було три ідеї протидії неправильному використанню Інтернету (та інших технологій). По-перше, утримуйте людей від поганих вчинків, і якщо ви спіймаєте їх на поганих вчинках, це матиме наслідки. Нарешті, маючи етику, ви просто не повинні робити такі речі, і, можливо, це буде найсильнішим заходом протидії.

Вінт увійшов в історію того, як Інтернет виник із ARPAnet за допомогою мереж з комутацією пакетів. Він був менш захоплений загальною концепцією метавсесвіту, але вважав, що існують корисні можливості з доповненою реальністю, де ви поєднуєте реальний світ з інформацією.

Вінту дуже сподобалася заява Джона Хеннессі про те, що штучний інтелект може покращити роботу людей і що ми можемо використовувати комп’ютери для того, щоб робити речі, які ми не можемо зробити самі, або для економії часу. Він також вважав, що генеративний штучний інтелект, як-от Chat GBT, якщо його навчати на підібраних фактичних матеріалах, міг би виконувати роботу краще, але оскільки комп’ютери працюють на алгоритмах, а не міркують, як ми, він буде робити щось неправильно, навіть якщо навчатиметься на фактичних матеріалах , штучний інтелект усе ще може робити щось неправильно, і він не думав, що генеративний штучний інтелект готовий до використання в бізнесі.

Однак програми штучного інтелекту, такі як alpha fold, які передбачають, як згортатимуться білки, надзвичайно корисні. Він також зазначив, що надання інформації про речі, які не працюють, може бути дуже корисним, і запропонував опублікувати наші помилки, а також наші успіхи. Це також хороший урок для підприємців: якщо щось не працює, з’ясуйте це якнайшвидше та змініть або адаптуйте свої цілі, якщо потрібно.

Велика проблема для штучного інтелекту полягає в тому, щоб змусити систему сформулювати робочу модель того, що вона знає. Він навів приклад. Будь-яка дворічна дитина розуміє, що таке стіл, але комп’ютерам важко зрозуміти реальний світ. Це досягається завдяки взаємодії та роботі з реальним світом, над чим працював Джон Маккарті в перші роки досліджень ШІ.

Санджай Мехротра з Micron розповів про важливість пам’яті для напівпровідникової промисловості, а з Рене Хаасом і Ронні Чаттерджі обговорили такі теми, як закон CHIPS, чіплети та галузь інтелектуальної власності. Вінт Серф розповів про етичний Інтернет і про те, як зробити ШІ кращим.