Более умному ИИ требуется больше памяти и памяти
Это вторая из двух статей о саммите Celesta Capital TechSurge Summit 13 февраля 2023 года. В эту статью я включу обсуждение полупроводниковой панели, а также некоторые комментарии Internet Legend, Vint Cerf об этичном использовании технологий и о том, как заставить ИИ быть более полезным.
Джейсон ДиЛулло, президент Qatalyst Partners, председательствовал на заседании саммита TechSurge, посвященном рынку полупроводников. В эту группу вошли Санджай Мехротра, президент и главный исполнительный директор Micron; Рене Хаас, главный исполнительный директор Arm, и Ронни Чаттерджи, координатор закона CHIPS в Белом доме.
Санджаю было что сказать о полупроводниковой промышленности и, в частности, о полупроводниковой памяти. Он сказал, что полупроводники сегодня составляют основу всего в мире. 20-30% мировой экономики прямо или косвенно питается от полупроводников. Полупроводниковая промышленность растет быстрее, чем ВВП до конца этого десятилетия. Micron — единственный в США производитель памяти, DRAM и флэш-памяти NAND.
Рост полупроводниковой памяти в следующем десятилетии будет опережать общий рост производства полупроводников. Все тенденции, связанные с искусственным интеллектом и автономными транспортными средствами, нуждаются в памяти, и это будет способствовать экономическому росту. Сегодня около 85% полупроводников производится в Азии. 98% кремния памяти производится в Азии. Основные азиатские страны, которые обеспечивают цепочку поставок и производство полупроводников, сосредоточены в Южной Корее, Китае, Японии и Тайване. Существует спрос на сбалансированную цепочку поставок, поэтому правительства различных стран проявляют большой интерес к развитию производства полупроводников на местном уровне. Это стоит за актом CHIPS и другим подобным финансированием. Это попытка диверсифицировать глобальную цепочку поставок.
Рене сказал, что деловые циклы являются неотъемлемой чертой полупроводниковой промышленности. Компании должны делать большие ставки на спрос и предложение. Во время пандемии у нас был кризис, основанный на предложении, который сегодня переключился на рынок, управляемый спросом. Он считает, что эти бизнес-циклы будут продолжаться, хотя общий спрос на электронику во всем будет повышать спрос в обозримом будущем.
Ронни присоединился к Министерству торговли США в 2021 году. Его начальник попросил его выяснить причину роста цен на автомобили. Во многом рост цен был вызван сокращением поставок полупроводниковых микросхем во время пандемии. Даже очень простые чипы старой техники были в дефиците. Он сказал, что закон CHIPS создаст новые рабочие места, особенно для тех, у кого нет высшего образования. Он считает, что сейчас ключевой момент для инвестиций в полупроводниковую промышленность и что развитие Силиконовой долины после Второй мировой войны было связано со значительными инвестициями в технологии в этой области (например, НАСА и различные оборонные подрядчики).
Рене сказал, что ИИ является крупнейшим драйвером роста полупроводников, имея в виду генеративный ИИ, такой как Chat GBT. Это большая возможность, но для ее реализации нам потребуется более эффективная обработка данных, чем известен Arm. Он сказал, что в настоящее время во всем мире потребление энергии центрами обработки данных составляет около 1-2% от общего объема производимой энергии, но в некоторых странах этот показатель приближается к 10%, что не является устойчивым. Новые центры обработки данных строятся с фиксированной недвижимостью и доступной электроэнергией, что потребует более эффективной электроники для удовлетворения растущего спроса.
Санджай сказал, что генеративный ИИ и другие сложные ИИ будут стимулировать потребность в памяти. Он сказал, что для серверов Chat GBT требуется в пять раз больше памяти, чем для стандартного сервера. Более умному ИИ нужны вычислительные ресурсы, память (много места для хранения и памяти) и возможность подключения. Все это должно объединиться, чтобы ИИ стал повсеместным. Низкое энергопотребление и высокая производительность, высокая полоса пропускания памяти также важны. Суперкомпьютер Chat GBT входит в пятерку лучших в мире. Он предоставил некоторые подробности об оборудовании, необходимом для Chat GBT. Он имеет 285 000 ядер ЦП, 10 000 графических процессоров и скорость подключения 400 ГБ/с. Он также сказал, что в ближайшие годы тенденции к объединению памяти и компьютера за счет упаковки или инновационных решений объединят память и логику.
Ронни сказал, что Закон о чипах и науке профинансирует 52,7 миллиарда долларов. Это много для государственных инвестиций в промышленность США. Он перешел в Белый дом из Министерства торговли, где координирует деятельность CHPS. Государственные деньги привлекают деньги частного бизнеса, до 300 миллиардов долларов с момента принятия закона CHIPS. Он также сказал, что нам нужна более широкая цепочка поставок, включающая более мелкие компании. Частный сектор имеет больше информации о цепочке поставок, чем государственный сектор.
Санджай сказал, что в дополнение к 52 миллиардам долларов, чтобы преодолеть разрыв в затратах с производством полуфабрикатов в Азии. Разрыв в стоимости сегодня составляет 35-45% для производства в США по сравнению с Азией и в основном из-за стимулов со стороны азиатских правительств. Еще одним важным элементом CHIPS являются инвестиционные налоговые льготы. До 25% ИТЦ также поможет сократить разрыв с Азией. Нужны как инвестиции, так и налоговые льготы. Хотя пластины памяти генерируют около 30% всех полупроводниковых доходов WW, они составляют около 60% всех полупластин. ЧИПЫ должны инвестировать в память, а также в логику, датчики и другие устройства. Санджай сказал, что память находится под ценовым давлением и что вы должны создавать свои собственные заводы, чтобы выжить, вы не можете строить через третьих лиц.
Рене сказал, что 30 лет назад компаний в области ИС и отрасли ИС в ее нынешнем виде не существовало. Технология «система на кристалле» (SoC) сталкивается с препятствиями в том, сколько вы можете поместить в монолитный кристалл, особенно когда мы приближаемся к 2-нм функциям. По его словам, в ближайшие 5-10 лет мы увидим разукрупнение SoC, когда в одном корпусе будут объединены специализированные кристаллы меньшего размера, изготовленные с использованием разных процессов и разных компаний (эти кристаллы меньшего размера часто называют чиплетами). Это приведет к множеству инноваций и новым возможностям в области ИС. Он сказал, что через 4-5 лет упаковка чиплетов станет стандартной.
Отвечая на вопрос о тенденции крупных гиперскейлеров к разработке собственного оборудования, Рене сказал, что эти компании имеют большие внутренние рабочие нагрузки, требующие очень специфических функций, и что эти компании обладают самой полной информацией о том, как решить свои потребности. Как следствие, тенденция гиперскейлеров к разработке собственных чипов сохранится. Они будут использовать IP там, где это имеет смысл, а также использовать готовое оборудование.
Ронни сказал, что региональные выгоды от закона CHIPS могут быть огромными. Больше людей могут иметь возможность работать там, где они живут, вместо того, чтобы переезжать. Он подчеркнул, что необходимо региональное партнерство с частными компаниями.
Рене сказал, что нам нужно более амбициозно и агрессивно решать проблему энергоэффективности для масштабирования, чтобы удовлетворить потребности будущего ИИ и других приложений. Например, он сказал, что, хотя есть цели перейти на все электромобили через 10 лет, энергосистема не предназначена для этого. Повышение энергоэффективности электроники могло бы снизить эти требования к мощности, что сделало бы это более достижимым.
Санджай сказал, что закон CHIPS создаст около 50 000 прямых рабочих мест в полупроводниковой промышленности и полмиллиона косвенных рабочих мест. Это требует привлечения недопредставленных групп, чернокожих, латиноамериканцев, жителей сельской местности. В течение следующих 10 лет инвестиции Micron составят 100 миллиардов долларов. Строительство – большая часть этих высокооплачиваемых рабочих мест. Он сказал, что к 2030 году Micron сократит выбросы углерода на 42% по сравнению с 2018 годом в соответствии с Парижскими соглашениями. К 2025 году их объекты будут на 100% работать на возобновляемых источниках энергии.
Санджай также поощрял инвестиции в интеллектуальные производственные технологии. Он сказал, что на их фабриках установлено более 500 000 датчиков с множеством контрольных точек и множеством изображений пластин. Он сказал, что у них есть 30 ПБ данных, которые они хотели бы проанализировать и понять, чтобы создать более интеллектуальное производство с более быстрым обслуживанием оборудования и более высоким качеством для удовлетворения спроса.
Ларина Йи из McKinsey and Co. взяла интервью у Винта Серфа из Google. Винт был одним из тех, кто помог создать Интернет. Относительно Интернета он сказал, что все мощные технологии могут быть использованы во зло. У него было три идеи, как отменить неправомерное использование Интернета (и других технологий). Сначала удерживайте людей от плохих поступков, и если вы поймаете их на плохих поступках, должны быть последствия. Наконец, наличие этики о том, что вы просто не должны делать такие вещи, и, возможно, это будет самой сильной контрмерой.
Винт вошел в историю того, как Интернет появился из сети ARPAnet с использованием сетей с коммутацией пакетов. Он был менее воодушевлен общей концепцией метавселенной, но думал, что есть полезные возможности с дополненной реальностью, где вы объединяете реальный мир с информацией.
Винту очень понравилось заявление Джона Хеннесси о том, что ИИ может усиливать людей и что мы можем использовать компьютеры для того, чтобы делать то, что не можем сделать сами, или для экономии времени. Он тоже думал, что генеративный ИИ, такой как Chat GBT, если он обучен на тщательно отобранных фактических материалах, мог бы работать лучше, но поскольку компьютеры работают на алгоритмах, а не рассуждают, как мы, он будет ошибаться, и даже если он обучен на фактических материалах. , ИИ все еще может ошибаться, и он не думал, что генеративный ИИ готов к использованию в бизнесе.
Тем не менее, программы искусственного интеллекта, такие как альфа-складка, которая предсказывает, как белки будут сворачиваться, чрезвычайно полезны. Он также упомянул, что предоставление информации о том, что не работает, может быть очень полезным, и предложил, чтобы мы публиковали наши ошибки, а также наши успехи. Это также хороший урок для предпринимателей: если что-то не работает, выясните это как можно скорее и при необходимости измените или адаптируйте свои цели.
Большой проблемой для ИИ является заставить систему сформулировать рабочую модель того, что она знает. Он привел пример. Любой двухлетний ребенок понимает, что такое таблица, но компьютеры с трудом понимают, что такое реальный мир. Это достигается за счет взаимодействия и работы с реальным миром, над чем Джон Маккарти работал в первые годы исследований ИИ.
Санджай Мехротра из Micron рассказал о важности памяти для полупроводниковой промышленности и вместе с Рене Хаасом и Ронни Чаттерджи обсудил такие темы, как закон о ЧИПСах, микросхемы и индустрия IP. Винт Серф рассказал об этичном Интернете и о том, как улучшить ИИ.
