Подумайте (стоит сказать) об искусственном интеллекте, который перед ответом на вопрос останавливается на мгновение, чтобы поразмыслить, подумать про себя, рассматривая разные возможности и выбирая лучшую. «Какая она человечная!» (цит.). Этого удалось добиться группе исследователей благодаря инновационному методу обучения под названием «Квай-СтаР».
Эта техника, которая предоставляет ИИ своего рода «внутренний монолог», доказывает, что она способна значительно улучшить мыслительные способности систем искусственного интеллекта, открывая новые, невероятные перспективы для будущего этой технологии.
Если ИИ научится «думать», прежде чем говорить
До сих пор самые популярные чат-боты, такие как ChatGPT, были обучены генерировать плавные и убедительные ответы, но без какой-либо реальной способности «рассуждать» о том, что они собираются сказать, или предугадывать возможные направления разговора. На практике они очень хорошо умеют давать ответы, которые «хорошо звучат», но им часто не хватает логики, связности и здравого смысла.
С Quiet-STaR все может измениться. Этот алгоритм, разработанный Эрик Зеликман и коллеги из Корнелльского университета (Вы можете найти бумагу здесь) делает что-то новое. Он инструктирует ИИ параллельно генерировать множество «внутренних рассуждений», прежде чем реагировать на вводимые данные. Когда приходит время дать ответ, ИИ генерирует смесь прогнозов, с рассуждениями и без них, и выбирает лучший из них (который может быть проверен человеком, в зависимости от типа вопроса).
Наконец, научитесь «думать», отказываясь от рассуждений, которые оказались неверными. На практике это как если бы ИИ проводил в своей голове «генеральную репетицию» перед тем, как заговорить, как это делаем мы, люди!
Дайте мне подумать… QuietStar. Где я слышал это имя раньше? ЭТО Q*?
В последние месяцы имя Q* или QStar начал циркулировать в отношении «психодрамы», произошедшей на OpenAI. Землетрясение, которое он свергнул, а потом посадить обратно в седло Генеральный директор Сэм Альтман (режиссер Microsoft). QStar — это проект, который, по мнению некоторых, стал причиной «раскола» в Open AI. Проект, целью которого является развитие искусственного интеллекта с возможностями рассуждения, памяти и контекстуализации, аналогичными человеческим, и позиционирует себя как промежуточный шаг на пути к конечной цели создания ИИ с равные когнитивные способности и затем превосходящие человеческие, известные как Искусственный суперинтеллект (ИСИ). Является ли QuietStar «ответвлением» Q*? Узнаем в ближайшие несколько недель.
Скачок вперед в рассуждениях (и математике)
Исследователи применили Quiet-STaR для Мистраль 7Б, языковой модели с открытым исходным кодом, и результаты были впечатляющими. «Мыслящая» версия Мистраля 7Б набрала балл 47,2% в тесте на рассуждение, против 36,3% «ванильного» варианта. Конечно, он все равно провалил школьный тест по математике с ничтожными 10,9%. Но эй, это все равно почти вдвое превышает стартовые 5,9%! Результат, который заставляет… Подумайте.
Имейте в виду, мы все еще далеки от преодоления разрыва между искусственными нейронными сетями и способностями человеческого мышления. Но Quiet-STaR, похоже, является шагом в правильном направлении. В отличие от других попыток улучшить рассуждения ИИ, которые очень специфичны и не поддаются обобщению, этот метод можно «тихо» применять к разным типам моделей, независимо от исходных данных обучения.
Будущее ИИ? Внутренний диалог и щепотка здравого смысла
Судя по всему, секрет более умных ИИ в том, чтобы заставить их говорить сами с собой. Когда-нибудь у нас появятся чат-боты, которые, прежде чем ответить на наши вопросы, будут делать паузу для размышления, возможно, говоря: «Хм, дайте мне подумать минутку…». И кто знает, может, этот внутренний монолог приведет к появлению ИИ, обладающего немного большим здравым смыслом, способного понимать контекст, улавливать нюансы и предсказывать последствия своих слов.
Конечно, путь еще долгий. Но подобные исследования напоминают нам, что интеллект, искусственный или человеческий, — это не просто вопрос скорости или вычислительной мощности. Это также, и прежде всего, вопрос размышления, рассуждения, способности поставить себя на место других людей. В конечном счете, что делает нас людьми, если не наша способность думать, разговаривать с самим собой, представлять сценарии будущего, учиться на своих ошибках?
Пока мы ждем, пока машины это сделают, давайте тоже начнем делать это снова. Если я чему-то и научился из этой новости, так это тому, что иногда, чтобы стать умнее, вам просто нужно научиться думать, прежде чем говорить. И это, поверьте мне, применимо как к схемам, так и к синапсам.
