Edge TPU от Google доводит AI до встроенных мобильных устройств

В сочетании с новым Cloud IoT Edge, Edge TPU от Google позволяет инженерам создавать и обучать модели машинного обучения в облаке и запускать их действия и прогнозы на грани в мобильных устройствах и встроенные системы. (Источник изображения: Google)

Индексы обработки тензора Google (TPU) — это собственная собственная запись технологического гиганта в текущую битву процессоров, специализирующихся на машинах и приложениях искусственного интеллекта. До этого момента инженеры, которые хотели использовать силовые ТПУ, должны были либо надеяться на день, когда Google позволит им быть приобретены напрямую (не задерживайте дыхание), или обратиться к непогасимым, облачным сервисам TPU Google.

Теперь компания Google анонсировала новый чип Edge TPU — специально разработанный чип, предназначенный для запуска приложений для машинного обучения на периферии встроенных систем. Обладая новым стеком программного обеспечения Cloud IoT Edge, предприятия теперь могут обучать модели машинного обучения с использованием облачных TPU Google, а также развертывать и запускать их непосредственно на процессоре на основе краев.

Разумеется, Google предпочтет, чтобы инженеры развертывали модели, обученные на Cloud IoT Edge на Edge TPU. Но модели также могут быть выполнены на GPU и процессорах. Edge TPU запускает модели машинного обучения, созданные в открытой платформе TensorFlow Lite от Google для мобильных и встроенных устройств. Cloud IoT Edge оптимизирован для работы в мобильных и встраиваемых системах через операционные системы, такие как Linux и Android Things.

ССЫЛКИ ПО ТЕМЕ:

Битва за процессоры ИИ начинается в 2018 году
Intel представляет прототип нейроморфного чипа для AI on the Edge
Nvidia DGX-2 — самый большой в мире графический процессор, и он сделан для AI

В блоге для Google Injong Rhee, вице-президент IoT в Google Cloud, сказал, что при разработке Edge TPU Google был «гиперфокусирован» на оптимизацию «производительности на ватт» и «производительность за доллар» в пределах небольшого объема. «

Rhee продолжил: «Edge TPUs разработаны для дополнения нашего предложения Cloud TPU, поэтому вы можете ускорить обучение [machine learning] в облаке, а затем сделать молниеносный вывод [machine learning] на краю. Ваши датчики становятся больше, чем сборщики данных — они делают локальные, разумные решения в реальном времени ».

Google нацеливает свои Edge TPU и Cloud IoT Edge на инженеров, разрабатывающих корпоративные приложения, ссылаясь на преимущества скорости обработки для операций и прогнозов, которые возникают без необходимости облачной связи, а также повышенной безопасности. «Cloud IoT Edge» может обрабатывать и анализировать изображения, видео, жесты, жесты и движения локально на периферийных устройствах, вместо необходимости отправлять необработанные данные в облако, а затем ждать ответа », — писал Ри.

Edge TPU меньше, чем копейки. (Источник изображения: Google)

Официальных спецификаций для Edge TPU не было выпущено, так что пока неясно, как они складываются против других параметров, таких как ускорители на базе графического процессора или даже по сравнению с облачным облаком Google основанные на ТПУ. Согласно заявлению Google, в июне этого года было объявлено о выпуске последней версии Cloud TPU (версия 3), которая способна обрабатывать 420-терафлоп.

Не похоже, что Edge IoT предлагает тот же уровень обработки, что и новейший Cloud TPU, поскольку Google заявила, что ему нужно использовать жидкостное охлаждение в своих центрах обработки данных для достижения своего высокого уровня производительности с помощью Cloud TPU. Тем не менее, сравнительные тесты сторонних производителей, выполненные немецкой компанией по обучению машинам RiseML, нашли вторую версию Cloud TPU для работы на одном уровне с мощными графическими процессорами V100 от Nvidia.

В настоящее время Google предлагает разработку, включающую Edge TPU, центральный процессор марки NXP и защищенный элемент, предоставляемый Microchip. Он также работает с несколькими партнерами, включая NXP, ARM, Nexcom, Nokia и ADLINK Technology, для разработки устройств, которые используют Edge TPU и Cloud IoT Edge.

Одним из таких партнеров является французский подключенный автозапуск XEE, который будет использовать Edge TPU для расширенной обработки данных внутри подключенных автомобилей. В заявлении, опубликованном в блоге Google, Ромен Крюнелл, технический директор XEE, сказал: «Cloud IoT Edge и Edge TPU помогут нам рассмотреть варианты использования, такие как анализ вождения, анализ состояния дороги и износ шин в реальном времени и в намного более рентабельным и надежным способом. Включение ускоренного вывода [machine learning] на краю позволит платформе XEE быстрее анализировать изображения и радиолокационные данные с подключенных автомобилей, обнаруживать потенциальные опасности вождения и предупреждать водителей с точностью в реальном времени ».