RAG-поиск по корпусу научных публикаций

Формулировка задания может быть дополнительно скорректирована преподавателем.

Задание

  1. Выберите тему поиска и через arXiv API соберите названия, авторов и аннотации публикаций. Например: свежие статьи cs.LG.
  2. Разделите аннотации на чанки примерно по 500 слов с перекрытием 50 слов. Допускается обоснованная корректировка этих параметров.
  3. Получите эмбеддинги текстов, например моделью all-MiniLM-L6-v2, и создайте векторное хранилище в FAISS.
  4. Интегрируйте LLM, например FLAN-T5 или OpenAI GPT, для извлечения ключевых идей статьи или ответа на вопрос пользователя.
  5. Настройте промпты для извлечения идей и результатов. Добавьте обработку опечаток, например через SymSpell или rapidfuzz. Протестируйте не менее пяти промптов и покажите примерами, что RAG улучшает ответы LLM.

Оценивание — 30 баллов

ЧастьЧто оцениваетсяБаллы
Извлечение данныхКорректность получения публикаций через arXiv API2
ЧанкингКорректность разбиения текста6
ВекторизацияСоздание хранилища и корректность поиска7
Интеграция LLMКорректность работы и полнота ответов8
Промпты и опечаткиКачество ответов и обработка ошибок7

Сроки сдачи: дедлайны и баллы.