💬 Microsoft наделяет ИИ человеческим мышлением с помощью «алгоритма мышления»

Microsoft наделяет ИИ человеческим мышлением с помощью «алгоритма мышления»

Технический гигант Microsoft представил новый метод обучения искусственного интеллекта под названием «Алгоритм мышления» (AoT), предназначенный для того, чтобы сделать большие языковые модели, такие как ChatGPT, более эффективными и похожими на человеческие по своим способностям к рассуждению.

Новый подход является естественным следующим шагом для компании, которая вложила значительные средства в искусственный интеллект, особенно в OpenAI — создателей DALL-E, ChatGPT и мощной языковой модели GPT.

Microsoft заявляет, что метод AoT потенциально может изменить правила игры, поскольку он «направляет языковую модель по более оптимизированному пути решения проблем», согласно опубликованному исследовательскому документу. Этот новый подход использует «контекстное обучение», позволяя модели систематически исследовать различные решения.

Результат? Более быстрое и менее ресурсоемкое решение проблем.

«Наша методика превосходит предыдущие методы с одним запросом и находится на одном уровне с недавним подходом с несколькими запросами, использующим обширный поиск по дереву», — говорится в документе. «Интересно, что наши результаты показывают, что обучение модели алгоритмом может привести к тому, что производительность превзойдет сам алгоритм».

Исследователи утверждают, что модель приобретает улучшенную «интуицию», когда этот метод оптимизирует процесс поиска.

Гибрид человека и алгоритма?

Метод AoT устраняет ограничения современных методов контекстного обучения, таких как подход «Цепочка мыслей» (CoT). CoT иногда предоставляет неверные промежуточные шаги, тогда как AoT направляет модель, используя алгоритмические примеры для получения более надежных результатов.

AoT черпает вдохновение как у людей, так и у машин, чтобы улучшить производительность генеративной модели искусственного интеллекта. В то время как люди преуспевают в интуитивном познании, алгоритмы известны своим организованным и исчерпывающим исследованием. В исследовательской статье говорится, что «Алгоритм мышления» стремится «объединить эти двойные аспекты, чтобы расширить возможности рассуждения в рамках LLM».

Microsoft заявляет, что этот гибридный метод позволяет модели преодолеть ограничения рабочей памяти человека, позволяя более комплексно анализировать идеи.

В отличие от линейного рассуждения CoT или метода «Древа мыслей» (ToT), AoT позволяет гибко рассматривать различные варианты решения подзадач, сохраняя эффективность при минимальных подсказках. Он также конкурирует с внешними инструментами поиска по дереву, эффективно балансируя затраты и вычисления.

В целом AoT представляет собой переход от контролируемого обучения к интеграции самого процесса поиска. Исследователи полагают, что благодаря усовершенствованиям, ускоряющим разработку, этот подход может позволить моделям эффективно решать сложные реальные проблемы, одновременно снижая воздействие углерода.

Учитывая значительные инвестиции в искусственный интеллект, Microsoft, похоже, имеет хорошие возможности для включения AoT в передовые системы, такие как GPT-4. Несмотря на сложную задачу, обучение языковых моделей «думать» более человечным способом может привести к трансформации.