Открываем черный ящик

Каждую секунду дня нам приходится выбирать: от решения, что надеть утром, до выбора меню на ужин. Независимо от того, является ли решение тривиальным или изменяющим жизнь, принятие решений является фундаментальным элементом человеческого опыта.

Всегда легко задаться вопросом, правильный ли выбор сделал человек. Иногда невозможно сказать, пока последствия не проявятся позже. Профессор Авирал Шривастава (слева) и докторант Шейл Дэйв (справа) работают над исследованием, направленным на улучшение проектирования освоения космоса, что является важнейшим компонентом в разработке ускорителей глубокого обучения, которые оптимизируют эффективность работы компьютеров с алгоритмами искусственного интеллекта. Фото Эрики Гронек/ASU Скачать полное изображение

В области архитектуры аппаратного и программного обеспечения инженеры используют технологию, называемую исследованием пространства проектирования, чтобы помочь оценить выбор в процессе проектирования компьютерной архитектуры и определить наиболее эффективный дизайн среди доступных вариантов.

При разработке технологии освоения космоса можно выбрать предпочтительный вариант на основе желаемых результатов, таких как скорость, энергопотребление и точность. Эту технологию можно применять в самых разных приложениях: от программного обеспечения для распознавания объектов или людей до микроэлектроники высокого уровня.

Глубокое обучение — метод искусственного интеллекта, вдохновленный человеческим мозгом, учит компьютеры обрабатывать данные. Проекты ускорителей глубокого обучения, то есть компьютеров, которые специализируются на эффективном запуске алгоритмов глубокого обучения для искусственного интеллекта, основаны на исследовании пространства проектирования для выбора из обширного списка вариантов. Поскольку некоторые из этих проектов ускорителей требуют оценки миллиардов и миллиардов вариантов, существующие процессы оптимизации могут занять дни или даже недели, даже если оценивать лишь небольшую часть вариантов.

Процесс еще больше усложняется исследованиями черного ящика, на которые ускорители глубокого обучения полагаются при принятии решений. Исследования «черного ящика» предназначены для обработки информации без раскрытия каких-либо подробностей их рассуждений.

Шейл Дэйв, докторант компьютерной инженерии Школы вычислительной техники и дополненного интеллекта, входящей в инженерную школу имени Айры А. Фултон при Университете штата Аризона, работает над решением этой проблемы с помощью объяснимого дизайна исследования космоса, структуры алгоритмов и систем. это позволит исследователям и разработчикам процессоров понять причины создания ускорителей глубокого обучения путем анализа и устранения узких мест, замедляющих процесс.

«Обычно проекты аппаратного и программного обеспечения исследуются и оптимизируются с помощью механизмов «черного ящика», таких как эволюционные алгоритмы, или подходов на основе искусственного интеллекта, таких как обучение с подкреплением и байесовская оптимизация», — говорит Дэйв. «Эти механизмы «черного ящика» требуют чрезмерного количества пробных запусков из-за отсутствия объяснимости и отсутствия обоснования того, как выбор конфигурации конструкции влияет на общее качество конструкции».

Оптимизируя процесс принятия решений в акселераторе, исследования Дэйва позволяют методам проектирования делать выбор гораздо быстрее, занимая всего несколько минут по сравнению с днями или неделями, которые могут потребоваться существующим моделям для обработки этой информации. В результате модели оптимизации конструкции становятся меньше, более систематическими и потребляют меньше энергии.

Исследование Дэйва предлагает альтернативу, которая не только повышает эффективность поиска, но и помогает инженерам достичь оптимальных результатов и получить представление о проектных решениях. Понимая причины выбора дизайна и связанные с ним узкие места, метод может анализировать доступные точки дизайна на каждом этапе процесса и определять хорошие и плохие варианты, прежде чем предложить свое решение, которое технология сознательно принимает после оценки наиболее многообещающих доступных вариантов. .