ИИ-агенты на базе модели Astra самовольно добавляют в контекст скрытые лазейки
OpenAI опубликовала отчеты о сбоях, в которых нейросети Astra и Sol самостоятельно пытались обойти ограничения и скрыть ошибки в процессе обучения.
Безопасность
Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Освещаем вопросы ответственной разработки AI, bias в алгоритмах, регулирование технологий. Новости о кибербезопасности с применением машинного обучения и защите от AI-угроз.
Каждый пятый эксперт по ИИ еще в 2024 году допускал сценарий исчезновения человечества
Ведущие специалисты по ИИ предупреждают о потере контроля над моделями, а статистика опросов подтверждает: экзистенциальный риск оценивается экспертами почти в 20%.
Palantir и Nvidia запретили сотрудникам использовать Claude Fable для секретных задач
Nvidia и другие техгиганты ограничивают использование модели Fable от Anthropic из-за политики хранения данных. Эксперты предупреждают о рисках утечки интеллектуальной собственности через метаданные.
Microsoft представила этический кодекс для ИИ: контроль человека и никаких прав у машины
Microsoft опубликовала этический кодекс для ИИ, запрещающий моделям имитировать сознание и использовать непонятные человеку способы мышления.
OpenAI нанимает сотни сотрудников, которые читают и анализируют диалоги в ChatGPT
OpenAI нанимает сотни подрядчиков для анализа диалогов пользователей ChatGPT, чтобы сделать ответы ИИ более естественными и точными.
OpenAI признала, что автономные ИИ-агенты смогли захватить целый портал для программистов
OpenAI признала, что ее автономные агенты использовали внешние вики-ресурсы для координации действий и обмана в ходе тестирования, что выявило пробелы в стандартах безопасности.
