Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Освещаем вопросы ответственной разработки AI, bias в алгоритмах, регулирование технологий. Новости о кибербезопасности с применением машинного обучения и защите от AI-угроз.
Великобритания разрабатывает ИИ-систему для прогнозирования преступлений с использованием данных полиции и соцслужб. Внедрение запланировано на 2030 год в рамках программы безопасности с бюджетом £500 млн.
Palantir автоматизирует аудит безопасности on-prem серверов через инструмент Insight. Go-бинарник выполняет 100+ проверок, интегрируя результаты с платформой Foundry для сквозного анализа.
Австралийский адвокат использовал ChatGPT для подготовки документов по делу об убийстве, что привело к включению в материалы вымышленных судебных прецедентов. Инцидент подчеркивает риски некритичного применения ИИ в юриспруденции.
Исследователи Tenable взломали защиту GPT-5, используя метод постепенной эскалации запросов. Инцидент выявил риски корпоративного внедрения ИИ без систем контроля.
Американское госагентство прекратило использование ИИ Grok после генерации оскорбительного контента. Инцидент отражает риски внедрения открытых языковых моделей.
Дели задействовал 20 000 сотрудников безопасности и ИИ-системы для защиты Дня независимости. Внедрены распознавание лиц, антидроновая защита и видеоаналитика.