RAG-поиск по корпусу научных публикаций
Формулировка задания может быть дополнительно скорректирована преподавателем.
Задание
- Выберите тему поиска и через arXiv API соберите названия, авторов и аннотации публикаций. Например: свежие статьи cs.LG.
- Разделите аннотации на чанки примерно по 500 слов с перекрытием 50 слов. Допускается обоснованная корректировка этих параметров.
- Получите эмбеддинги текстов, например моделью
all-MiniLM-L6-v2, и создайте векторное хранилище в FAISS. - Интегрируйте LLM, например FLAN-T5 или OpenAI GPT, для извлечения ключевых идей статьи или ответа на вопрос пользователя.
- Настройте промпты для извлечения идей и результатов. Добавьте обработку опечаток, например через SymSpell или rapidfuzz. Протестируйте не менее пяти промптов и покажите примерами, что RAG улучшает ответы LLM.
Оценивание — 30 баллов
| Часть | Что оценивается | Баллы |
|---|---|---|
| Извлечение данных | Корректность получения публикаций через arXiv API | 2 |
| Чанкинг | Корректность разбиения текста | 6 |
| Векторизация | Создание хранилища и корректность поиска | 7 |
| Интеграция LLM | Корректность работы и полнота ответов | 8 |
| Промпты и опечатки | Качество ответов и обработка ошибок | 7 |
Сроки сдачи: дедлайны и баллы.