Промпт-инъекции до сих пор остаются главной уязвимостью корпоративного ИИ
Промпт-инъекции остаются критической уязвимостью для корпоративного ИИ, позволяя хакерам обходить защиту RAG-систем и захватывать управление агентами.
RAG
Новости и интересные материалы о технологии Retrieval Augmented Generation (RAG).
Новости
Система Mod-Guide на базе RAG помогает ИИ понимать культурные нюансы модерации
Система Mod-Guide внедряет технологию RAG в процессы модерации контента, позволяя ИИ учитывать уникальный культурный и исторический контекст малых этнических групп.
Модели Latent Context обещают избавить нейросети от тупика, сжимая контекст в 16 раз
Исследователи представили LCLM — модели, которые сжимают входные данные в 16 раз до обработки декодером, обеспечивая кратный прирост скорости работы нейросетей.
Технология RAG может быть полезнее огромного контекстного окна в задачах на точность
Алекс Боукат из Sphere объясняет, почему Retrieval Augmented Generation остается ключевым инструментом для обеспечения точности и проверяемости ИИ-решений.
Контекстуальный поиск может решить проблему потери смысла в RAG-системах
Традиционный RAG теряет смысл при дроблении документов. Новый метод контекстуального извлечения решает эту проблему, добавляя пояснения к каждому фрагменту данных.
Verbatim RAG: метод извлечения текста для полного устранения галлюцинаций в RAG-системах
Verbatim RAG устраняет галлюцинации в RAG-системах, заставляя модели извлекать точные фрагменты текста вместо генерации ответов.
