Оглавление

Сооснователь OpenAI Андрей Карпатый высказал скептическое мнение относительно текущего состояния ИИ-агентов, заявив, что для создания полноценно работающих автономных систем потребуется около десятилетия.

Критика существующих решений

В интервью на Dwarkesh Podcast Карпатый отметил: «Они просто не работают. У них недостаточно интеллекта, они недостаточно мультимодальны, не могут использовать компьютер и всё такое. У них нет постоянного обучения. Вы не можете просто сказать им что-то, и они это запомнят. У них когнитивные пробелы, и это просто не работает».

Агенты считаются одним из самых обсуждаемых направлений в ИИ, причем многие инвесторы называют 2025 год «годом агента». Эти виртуальные помощники теоретически способны автономно выполнять задачи — разбивать проблемы на части, составлять планы и действовать без постоянных указаний пользователя.

Проблемы современных ИИ-агентов

Карпатый выделил несколько ключевых недостатков текущих систем:

  • Недостаточный уровень интеллекта
  • Ограниченная мультимодальность
  • Неспособность эффективно работать с компьютером
  • Отсутствие непрерывного обучения
  • Когнитивные ограничения

После подкаста он дополнил свою позицию в посте на X: «Моя критика индустрии скорее касается чрезмерного развития инструментария по сравнению с текущими возможностями. Индустрия живет в будущем, где полностью автономные сущности параллельно сотрудничают, чтобы писать весь код, а люди бесполезны».

Видение идеального взаимодействия

В отличие от популярного нарратива о замене людей ИИ, Карпатый видит будущее в сотрудничестве: «Я хочу, чтобы он вытаскивал документацию API и показывал мне, что правильно использовал вещи. Я хочу, чтобы он делал меньше предположений и спрашивал/сотрудничал со мной, когда в чем-то не уверен. Я хочу учиться в процессе и становиться лучше как программист, а не просто получать горы кода, который, как мне говорят, работает».

Карпатый прав в своей оценке — текущий ажиотаж вокруг ИИ-агентов сильно опережает реальные возможности. Проблема не только в технических ограничениях, но и в фундаментальном непонимании, что такое настоящий интеллект. Сегодняшние агенты скорее напоминают умных попугаев, чем разумных помощников. Интересно, что сам создатель технологий призывает к более взвешенному подходу — это редкий случай, когда гуру индустрии охлаждает пыл вместо его разогрева.

Статистика ошибок

Карпатый не единственный, кто выражает обеспокоенность функциональностью ИИ-агентов. В прошлом году руководитель роста ScaleAI Квинтин Оу в посте на LinkedIn описал, как ошибки агентов накапливаются с каждым дополнительным заданием.

Он отметил: «В настоящее время каждый раз, когда ИИ выполняет действие, существует примерно 20% вероятность ошибки. Если агенту нужно выполнить 5 действий для завершения задачи, существует только 32% вероятность того, что он правильно выполнит каждый шаг».

Баланс между оптимизмом и реализмом

Несмотря на скептицизм относительно текущего состояния ИИ-агентов, Карпатый подчеркивает, что не является скептиком ИИ в целом: «Мои временные рамки для ИИ примерно в 5-10 раз более пессимистичны по сравнению с тем, что вы найдете на вечеринке в районе SF AI house или в своей ленте Twitter, но все же довольно оптимистичны по сравнению с растущей волной отрицателей и скептиков ИИ».

По материалам Business Insider