Лидеры индустрии искусственного интеллекта, включая главу OpenAI Сэма Альтмана и Илона Маска, выступили в поддержку инициативы по замедлению темпов разработки передовых моделей. Как сообщает The Decoder, к ним присоединился и бывший руководитель DeepMind Демис Хассабис, подтвердив необходимость внедрения внешнего аудита в ведущих лабораториях мира.
Поводом для консолидации мнений стали предложения генерального директора Anthropic Дарио Амодеи. Он настаивает на установлении «скоростных ограничений» для ИИ до того, как возможности систем к самосовершенствованию выйдут из-под контроля человека. Для Маска, годами предупреждающего о рисках, такая позиция логична, тогда как участие Альтмана выглядит как попытка уравновесить коммерческие амбиции вопросами безопасности.
Вопрос IPO и экономический подтекст
В интервью для издания Fortune Сэм Альтман пояснил, что OpenAI не планирует выходить на биржу в текущем году. Официальной причиной названы опасения в сфере безопасности, требующие сосредоточенности на долгосрочных рисках, а не на квартальных отчетах. Впрочем, в индустрии циркулирует мнение, что финансовые показатели компании пока проигрывают на фоне более стройной экономики Anthropic, что делает перенос IPO стратегически оправданным.
Хронология событий указывает на то, что решение о переносе публичного размещения акций назревало давно. Альтман обсуждал этот вопрос с сотрудниками еще в июне, подготавливая команду к тому, что статус частной компании позволяет сохранять гибкость в исследованиях. Это дает лаборатории пространство для маневра, избавляя от давления акционеров, требующих немедленной монетизации каждой новой итерации LLM.
Синхронное стремление технологических гигантов к регулированию выглядит как попытка возвести административные барьеры для новых игроков под лозунгом безопасности. Замедление разработки через внешний аудит выгодно тем, кто уже захватил рынок и обладает вычислительными ресурсами. Это классическая стратегия защиты доминирующего положения, где «забота о человечестве» становится удобным инструментом для цементирования текущей иерархии в индустрии.
Технический скептицизм и пределы самообучения
Не все эксперты разделяют опасения Амодеи. Исследователь из Google Пейман Миланфар выступил с критикой теории о бесконтрольном рекурсивном самосовершенствовании (RSI). Он полагает, что петли обратной связи при обучении ИИ на собственных данных нестабильны по своей природе, а значит, система неизбежно столкнется с деградацией или «слепыми зонами» без притока информации из реального мира.
По мнению Миланфара, сама природа стабильных систем является естественным ограничителем скорости. Чем сильнее алгоритм пытается оптимизировать себя в закрытой среде, тем быстрее он теряет связь с реальностью, что делает внешние «запретительные» меры избыточными. Таким образом, технологический барьер может оказаться куда надежнее любых политических соглашений или независимых комиссий.
Оставить комментарий