Разработчик чипов для ИИ Lightmatter провёл венчурный раунд в $80 млн

⠀​

Для множества продуктов и сервисов искусственный интеллект (ИИ) является фундаментальной технологией, однако его потребность в данных и вычислительных мощностях не знает конца. Компания Lightmatter планирует обойти закон Мура с помощью сверхбыстрых фотонных чипов, разработанных под задачи ИИ. Ее новый венчурный раунд, в ходе которого компания заручилась $80 млн, приблизил момент выхода фирменных чипов на рынок, пишет TechCrunch.

В 2018 г. основатели компании, в недавнем прошлом выпускники знаменитого Массачусетского технологического института, привлекли первые $11 млн, чтобы доказать, что идея фотонных вычислений настолько же хороша, насколько они её нахваливали. Следующие три года прошли в попытках отточить технологию и борьбе с множеством затруднений и препятствий, с которыми имеют свойство сталкиваться стартапы и их основатели.

Если вкратце, то чипы Lightmatter должны молниеносно (почти в буквальном смысле) осуществлять определённые вычисления, имеющие фундаментальное значение для машинного обучения. Вместо электрического заряда, логических элементов и транзисторов, для записи и манипуляциями данными фирменные чипы используют фотонные схемы, которые осуществляют вычисления за счёт манипулирования направлением потока света. Технология считалась принципиально реализуемой многие годы, но только совсем недавно появились возможности для её практического применения и масштабирования.

От прототипа к продукту

Когда в 2018 г. началась история Lightmatter, не было очевидно способна ли фирменная технология заменить более традиционные вычислительные кластеры, которые используют для обучения своих ИИ такие компании, как Google и Amazon.

«Мы в принципе знали, что технология будет великолепной, но нужно было прояснить множество деталей. Нам необходимо было продраться сквозь толщу сложной теоретической информатики и сложностей проектирования чипов … ну и COVID-19 добавил неприятностей»

— рассказал в интервью TechCrunch Ник Харрис (Nick Harris).

Многие поставщики перестали работать, а партнерства внутри индустрии были заморожены, что негативно сказалось на проектах и прочих аспектах ведения бизнеса. Из-за пандемии Lightmatter на месяцы отстала от графика, но в конечном итоге кризис только укрепил её. Харрис говорит, что дело строительства компании с нуля столкнулось с множеством вызовов, иногда и неожиданных.

«То, что мы делаем в общем довольно безумная затея. Мы создаём компьютеры с нуля. Мы разрабатываем чип, корпус чипа, плату, на которой будет располагаться корпус, систему куда будет встроена плата и программное обеспечение, на котором всё будет работать… нам пришлось создать компанию, способную справиться со всеми этими задачами»

— признаётся Харрис.

Компания выросла из горстки основателей до 70 сотрудников в Маунтин вью и Бостоне, и рост продолжится, когда она выведет свой новый продукт на рынок.

Несколько лет тому назад продукт Lightmatter был лишь хорошо обоснованной идеей, однако теперь идея приобрела физическую форму Envise, который в компании называют «фотонный ускоритель ИИ общего назначения». Это серверный блок, разработанный в таком форм-факторе, чтобы умещаться в обычную стойку в дата-центре. Он оборудован множеством фотонных вычислительных элементов, способных выполнять с умопомрачительной скоростью логические процедуры нейросети. На данный момент спектр этих процедур ограничен линейной алгеброй, но этот вид математических операций играет существенную роль в процессах машинного обучения.

Харрис не стал полностью раскрывать точные значения прироста производительности, но не потому что они недостаточно хороши, а потому что значения прироста всё ещё увеличиваются и не достигли своего оптимума. На вебсайте компании утверждается, что фирменный продукт в пять раз быстрей NVIDIA A100 в нейросети BERT при том, что потребляет лишь 15% энергии. Это удваивает привлекательность продукта Lightmatter для таких богатых технологических гигантов, как Google и Amazon, которым постоянно требуется всё больше вычислительной мощности, и при этом приходится платить втридорога за электроэнергию, необходимую для этих мощностей. В таком случае уже приветствуется что-то одно — либо снижение потребления энергии, либо улучшение производительности, а если получить сразу оба, то перед таким вариантом удержаться не сможет никто.

В этом состоял первоначальный план Lightmatter — протестировать свои серверные блоки с помощью наиболее вероятных клиентов к концу 2021 г., оптимизировать их и вывести на масштаб производства, достаточный для широкой продажи. Однако Харрис подчеркнул, что это только самый массовый вариант их нового подхода.

«Если мы не ошибаемся, то мы только что изобрели транзистор совершенно нового поколения»

— говорит Харрис, и это достойная заявка.

Мы, конечно, не увидим в ближайшее время миниатюрных фотонных компьютеров у себя в руках, но аппетиты дата-центров, куда будет направлено 10% всей мировой мощности к 2030 г., поистине безграничны.

Цвета математики

Lightmatter планирует улучшить возможности своих фотонных компьютеров двумя основными способами. Первый, и самый, пожалуй, безумно звучащий, — вычисления в различных цветах.

Идея покажется не настолько дикой, если задуматься над тем как в действительности работают компьютеры. Транзисторы, которые уже давно лежат в основании вычислительных процессов, используют электричество, чтобы осуществлять логические операции, открывать и закрывать логические вентили и т.д. На макроуровне можно использовать электрические заряды различной частоты, которыми можно манипулировать так же как формой колебаний сигнала. Однако в столь малом масштабе всё обстоит иначе. У вас есть только электроны и вентили либо открыты, либо закрыты.

В устройствах Lightmatter свет проходит через оптические волноводы, которые осуществляют вычисления, тем самым упрощая (в некоторых случаях) и ускоряя процесс. А свет, как мы все знаем из школьного курса, состоит из волн различной длинны — каждая из которых может использоваться независимо и одновременно на одном и том же оборудовании.

Та же самая оптическая магия, которая позволяет сигналу отправленному синим лазером обрабатываться на световых скоростях, работает и для красного, и для зеленого лазеров с минимальными требованиями по модификации. Если световые волны не мешают друг другу, то они могут проходить сквозь те же оптические компоненты одновременно и без потери согласованности.

На практике это означает, что если чип Lightmatter может выполнять, скажем, миллион вычислений в секунду с помощью красного лазера, то добавление источника излучения другого цвета удваивает это значение, установка ещё одного — утраивает. Главное препятствие здесь, по словам Харриса, — найти подходящие лазеры. Способность моментально удвоить, утроить или удесятерить производительность с привлечением практически идентичного оборудования составляет собой неплохую дорожную карту для компании.

Отсюда следует и вторая проблема, над решением которой работает компания, а именно проблема «связности». Любой суперкомпьютер состоит из множества небольших отдельных вычислительных центров, работающих в режиме идеальной синхронности. Чтобы такой уровень синхронизации стал возможным, вычислительным центрам необходимо находиться в постоянном сообщении, чтобы каждое ядро знало, что делают другие ядра и таким образом могли решать невероятно сложные вычислительные задачи, для решения которых, собственно, и разработаны суперкомпьютеры.

«В ходе работы нам пришлось решить проблему коммуникации между чипами, когда они стали настолько быстрыми, что большую долю времени простаивали в ожидании прихода ответа»

— говорит Харрис.

Чипы Lightmatter работают настолько быстро, что они не могут полагаться на традиционные вычислительные ядра, чтобы координировать свою работу.

По всей видимости, фотонная проблема нуждалась в фотонном решении: цельноинтегрированной плате (wafer-scale interconnect board), использующей для передачи данных между различными ядрами оптические волноводы вместо оптоволокна. Волоконно-оптические соединения, разумеется, совсем не медленные, но скорость передачи в них всё-таки ограничена, а само волокно довольно громоздкое для того масштаба, на котором реализуются чипы, что ограничивает количество возможных каналов между ядрами.

«Мы встроили оптику, волноводы, в сам чип; мы можем вместить 40 волноводов в пространство, необходимое для одного оптоволоконного соединения. Это значит, что у вас больше трасс для параллельной работы — это обеспечивает вам абсурдно высокие скорости взаимодействия»

— говорит Харрис.

Оптическая соединительная плата называется Passage, она станет частью будущего поколения продуктов Envise. Однако, как и в случае с цветовыми вычислениями, это дело будущих поколений. На данный момент потенциальных клиентов должны удовлетворить 5-10кратная производительность при минимизированном расходе энергии.

Пусть эти $80 млн работают

Эти клиенты, являющиеся потребителями вычислительных мощностей в гипермасштабах, уже владеют дата-центрами и суперкомпьютерами, которые они эксплуатируют на пределе мощности, получат первые тестовые партии чипов в конце текущего года. И главным образом для этого нужен был раунд серии B, как говорит Харрис: «Мы финансируем свою программу раннего доступа».

Нужно будет не только произвести оборудование, которое нужно поставить (очень дорогое оборудование покуда производство не будет масштабировано, не говоря уж о наличных затруднениях с поставщиками), но и создать команду по выводу продукта на рынок. Сервис, поддержка и внушительный объём программного обеспечения, которые сопутствуют запуску подобных продуктов потребует нанять много новых людей.

Прошедший раунд возглавил фонд Viking Global Investors при участии HP Enterprise, Lockheed Martin, SIP Global Partners, а также старые инвесторы: GV, Matrix Partners и Spark Capital. Общая сумма привлеченных компанией инвестиций после раунда достигла $113 млн. Сюда вошли начальные $11 млн раунда серии А, потом в ходе раунда серии A-1 размером $22 млн на борт взобралась GV плюс нынешние $80 млн.

Хотя существуют и другие компании, которые занимаются разработками в области фотонных вычислений и их прикладной реализации в нейронных сетях, Харрис не думает, что они «наступают на пятки» Lightmatter. Почти никто из конкурентов не приблизился к этапу отгрузки готового продукта, и в любом случае — рынок сейчас переживает взрывной рост, поэтому места хватит для всех. Харрис указал на исследование OpenAI, в котором отмечалось, что спрос на вычисления, связанные с ИИ, растёт намного быстрей, чем его способна обеспечить существующая технология. Исключение, пожалуй, составляют только возможности постройки ещё более крупных дата-центров.

Следующее десятилетие энергопотребление будет испытывать давление со стороны политических и экономических факторов. Lightmatter намерена и готова предоставить эффективную и мощную альтернативу привычным решениям на базе графических процессоров.

Как ранее оптимистично предположил Харрис, то, что его компания делает — обладает потенциалом перевернуть индустрию и если это действительно так, то спешить не стоит. Если на горизонте новая «золотая лихорадка», Lightmatter уже застолбила себе место.

Комментарии
Читать также
Прибыль AutoNation почти утроилась из-за нехватки чипов
Последний ноутбук от Microsoft позволяет вам выбирать чипы Intel или AMD

⠀​⠀​