Исследователи создали самовоспроизводящегося ИИ-червя на базе локальных LLM
Ученые из Университета Торонто создали прототип вредоносного ПО, которое использует локальные ИИ-модели для поиска уязвимостей и самораспространения.
Безопасность
Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Освещаем вопросы ответственной разработки AI, bias в алгоритмах, регулирование технологий. Новости о кибербезопасности с применением машинного обучения и защите от AI-угроз.
Уязвимость в ИИ-чатботе поддержки Meta* позволила хакерам захватить аккаунты Instagram
Злоумышленники захватили высокопрофильные аккаунты Instagram, убедив чат-бота Meta* AI изменить электронную почту и обойти двухфакторную аутентификацию.
Исследование показало, что LLM доверяют ложным документам даже вопреки предупреждениям
Новое исследование выявило феномен «небрежности к отрицанию» в языковых моделях, из-за которого ИИ игнорирует предупреждения о недостоверности обучающих данных.
Новый бенчмарк DeepSWE раскрыл уязвимости моделей Claude и сделал лидером GPT-5.5
Стартап Datacurve представил DeepSWE — новый бенчмарк для ИИ-кодеров, который выявил превосходство GPT-5.5 и критические ошибки в старых методах оценки.
Устойчивость к взлому: DeepSeek проиграл GPT в вопросах безопасности
Исследователи сравнили устойчивость DeepSeek и моделей GPT к атакам типа джейлбрейк, выявив серьезные различия в их безопасности.
Google интегрирует CodeMender в экосистему агентов для автоматизации безопасности
Google переводит ИИ-агента CodeMender из разряда автономных инструментов в состав комплексной платформы Agent Platform для управления безопасностью приложений.
