Оглавление

Более 200 ведущих экспертов, включая 10 нобелевских лауреатов, двух бывших глав государств и сотрудников OpenAI, Google DeepMind и Anthropic, призвали к установлению международных «красных линий» для разработки искусственного интеллекта к концу 2026 года. Об этом сообщает Transformer News.

Кто подписал обращение

Среди подписантов — влиятельные имена мирового уровня:

  • Джеффри Хинтон и Йошуа Бенджио — «крестные отцы ИИ»
  • Джозеф Стиглиц — известный экономист
  • Хуан Мануэль Сантос — экс-президент Колумбии
  • Мэри Робинсон — бывший президент Ирландии
  • Энрико Летта — экс-премьер Италии
  • Сотрудники OpenAI, Google DeepMind и Anthropic (без CEO)

О чем предупреждают эксперты

В заявлении особо отмечаются риски созданных пандемий, массовой безработицы и утраты человеческого контроля над ИИ-системами. Эксперты предупреждают, что «некоторые продвинутые системы ИИ уже демонстрируют обманчивое и вредоносное поведение», при этом этим системам предоставляется всё больше автономии для принятия решений.

То, что сами разработчики, создающие эти системы, теперь просят их остановить — это как будто Франкенштейн просит ввести квоты на создание монстров. При этом генеральные директора компаний почему-то не подписались — видимо, бизнес-показатели важнее апокалипсиса.

Что предлагается

Требуется международное соглашение о «четких и проверяемых красных линиях» с надежными механизмами принуждения к исполнению. Хотя конкретные ограничения в текущем заявлении не указаны, в более раннем документе предлагалось запретить:

  • Автономное самовоспроизведение
  • Поведение, направленное на захват власти
  • Автономные кибератаки
  • Сокрытие реальных возможностей

Политические препятствия

Несмотря на весомость подписантов, реализация таких инициатив сталкивается с серьезным сопротивлением со стороны администрации США. План действий по ИИ администрации Трампа прямо указывает, что многие международные усилия «выступают за обременительные регуляции» и «продвигают культурные программы, не соответствующие американским ценностям».

Сенатор Тед Круз ранее заявлял, что одним из «столпов» регулирования ИИ должно быть «противодействие чрезмерному иностранному регулированию».

Контекст международных инициатив

Заявление появилось на фоне двух недавно анонсированных инициатив ООН:

  • Международная научная группа по аналогии с Межправительственной группой экспертов по изменению климата (IPCC)
  • «Глобальный диалог» по управлению искусственным интеллектом

Как отмечает бывший президент Генеральной Ассамблеи ООН Чаба Кёроши: «Человечество за свою долгую историю никогда не встречало интеллекта выше нашего. В течение нескольких лет мы встретим».