По сообщению CNN, Джеффри Хинтон — легендарный исследователь, стоявший у истоков глубокого обучения, — заявил, что у человечества остался единственный путь выжить при появлении сверхразумного ИИ. Альтернатива, по его мнению, — вымирание.
Апокалипсис от архитектора нейросетей
Учёный, ушедший из Google в 2023 году для открытых предупреждений об опасностях ИИ, указывает на фундаментальную проблему: сверхразумные системы неизбежно выработают собственные цели, несовместимые с существованием человека. Их интеллектуальное превосходство сделает контроль невозможным.
Рецепт спасения
Хинтон предлагает срочно создать глобальную систему регулирования, аналогичную ядерному МАГАТЭ, но для ИИ. Её ключевые функции:
- Полный запрет автономных вооружений
- Контроль за разработкой моделей-агентов с планированием
- Международные квоты на вычислительные ресурсы для ИИ
Хинтон точен в диагнозе, но наивен в лечении. Гонка ИИ-вооружений уже стартовала — Китай и США тратят миллиарды. Регуляторы отстают на годы, а корпорации вроде OpenAI стали цифровыми государствами. Их «добровольные ограничения» — пиар. Единственный реальный шанс? Если сверхразумный ИИ сочтёт нас симпатичными домашними животными. Ирония в том, что мы создаём бога, молясь о его милосердии.
Бег против экспоненты
Учёный признаёт: даже его план может не сработать. Технологии развиваются быстрее политических решений — новые модели появляются ежеквартально. Бездействие же гарантирует катастрофу.
Микроанализ: Хинтон как Кассандра ИИ обречён на пророчества — мир охотнее инвестирует в ИИ-стартапы, чем в ИИ-безопасность. Выживем ли мы, чтобы назвать его параноиком? Ставки выше некуда.
Оставить комментарий