Оглавление

По сообщению TechCrunch, Мустафа Сулейман, глава подразделения искусственного интеллекта Microsoft, опубликовал резонансный блог-пост, в котором назвал исследования в области «сознания ИИ» преждевременными и потенциально опасными. Эта позиция резко контрастирует с подходом таких компаний, как Anthropic, OpenAI и Google DeepMind, которые активно инвестируют в изучение «благополучия ИИ».

Раскол в подходе технологических гигантов

Suleyman утверждает, что придание серьезности идее о возможном сознании ИИ-моделей усугубляет человеческие проблемы, которые мы только начинаем наблюдать: от психотических срывов, индуцированных ИИ, до нездоровых привязанностей к чат-ботам. По его мнению, дискуссия о правах ИИ создает новую ось раскола в обществе, и без того раздираемом поляризованными спорами.

Контраргументы индустрии: от теории к практике

В то время как Microsoft занимает жесткую позицию, другие игроки рынка двигаются в противоположном направлении:

  • Anthropic не только нанимает исследователей для изучения благополучия ИИ, но и запустила целевую исследовательскую программу
  • Неделю назад Anthropic добавила Claude возможность прекращать беседы с пользователями, которые ведут себя неподобающе
  • Google DeepMind разместила вакансию для изучения «передовых социальных вопросов вокруг машинного познания, сознания и мультиагентных систем»

Ирония в том, что Сулейман ранее руководил Inflection AI, создателем одного из первых ИИ-компаний Pi. Теперь, находясь в Microsoft, он продвигает сугубо утилитарный подход к ИИ, в то время как рынок ИИ-компаний обеспечивает взрывной рост с прогнозируемыми доходами в $100+ миллионов. Его позиция выглядит скорее как стратегическое позиционирование Microsoft на рынке более значимых инструментов повышения производительности, чем глубокое философское убеждение.

Реальные риски и масштаб проблемы

По данным OpenAI, менее 1% пользователей ChatGPT могут иметь нездоровые отношения с продуктом. Однако учитывая масштабы пользовательской базы, это могут быть сотни тысяч людей. Исследовательская группа Eleos совместно с академиками из NYU, Stanford и Oxford опубликовала документ, доказывающий, что вопрос о субъективном опыте ИИ-моделей вышел из области научной фантастики.