Руководитель OpenAI считает, что модели ИИ могли появиться десятилетия назад
Ноам Браун, возглавляющий исследования в области рассуждений ИИ в OpenAI, говорит, что определенные формы «рассуждающих» моделей ИИ могли бы появиться на 20 лет раньше, если бы исследователи «знали [правильный] подход» и алгоритмы.
«Было несколько причин, по которым это направление исследований было проигнорировано», — сказал Браун в ходе панельной дискуссии на конференции GTC компании Nvidia в Сан-Хосе в среду. «В ходе своих исследований я заметил, что, ладно, чего-то не хватает. Люди тратят много времени на размышления, прежде чем действовать в сложной ситуации. Возможно, это было бы очень полезно [в ИИ]».
Браун имел в виду свою работу над игровым ИИ в Университете Карнеги-Меллона, включая Pluribus, который победил элитных профессионалов-людей в покере. ИИ, который Браун помог создать, был уникальным в то время в том смысле, что он «рассуждал» через проблемы, а не пытался использовать более грубый подход.
Он также является одним из архитекторов o1, модели OpenAI AI, которая использует технику, называемую выводом во время теста, чтобы «думать» до того, как отвечать на запросы. Вывод во время теста подразумевает применение дополнительных вычислений к работающим моделям для управления формой «рассуждения». В целом, модели рассуждений более точны и надежны, чем традиционные модели, особенно в таких областях, как математика и наука.
Во время панели Брауна спросили, может ли академия когда-либо надеяться на проведение экспериментов в масштабах лабораторий ИИ, таких как OpenAI, учитывая общую нехватку у учреждений доступа к вычислительным ресурсам. Он признал, что в последние годы это стало сложнее, поскольку модели стали более вычислительно интенсивными, но что ученые могут оказать влияние, исследуя области, требующие меньше вычислений, такие как проектирование архитектуры модели.
«[T]есть возможность для сотрудничества между передовыми лабораториями [и академическими кругами]», — сказал Браун. «Конечно, передовые лаборатории изучают академические публикации и тщательно думают о том, хорошо, является ли это убедительным аргументом, что если бы это было масштабировано дальше, это было бы очень эффективно. Если в статье есть этот убедительный аргумент, вы знаете, мы исследуем это в этих лабораториях».
Комментарии Брауна прозвучали в то время, когда администрация Трампа проводит серьезные сокращения научных грантов. Эксперты по ИИ, включая лауреата Нобелевской премии Джеффри Хинтона, раскритиковали эти сокращения, заявив, что они могут поставить под угрозу исследовательские усилия в области ИИ как внутри страны, так и за рубежом.
Браун назвал бенчмаркинг ИИ областью, в которой академия может оказать значительное влияние. «Состояние бенчмарков в ИИ действительно плохое, и для этого не требуется много вычислений», — сказал он.
Как мы уже писали ранее, популярные сегодня тесты ИИ, как правило, проверяют эзотерические знания и дают оценки, которые плохо коррелируют с мастерством в задачах, которые волнуют большинство людей. Это привело к широко распространенной путанице относительно возможностей и улучшений моделей.
Обновлено 4:06 вечера PT: Более ранняя версия этой статьи подразумевала, что Браун в своих первоначальных замечаниях ссылался на модели рассуждений, такие как o1. На самом деле он ссылался на свою работу над игровым ИИ до его работы в OpenAI. Мы сожалеем об ошибке.