Загрузка данных
Ты работаешь в проекте:
/Users/23865613/IdeaProjects/untitled/adt-markdownify-meta-mvp
Контекст:
Проект уже успешно запускается и создает отчеты:
- output/HIERARCHY.md
- output/INTERACTION_POINTS.md
- output/INTEGRATION_INTERACTIONS.md
- output/API.md
- output/STANDS.md
- output/TECH_RESOURCES.md
- output/ARCHITECTURE_TREE.md
- output/INTERACTIONS.md
- output/LINK_DISCOVERY_REPORT.md
- output/EXPORT_REPORT.md
- output/README.md
Последний запуск дал результат:
14 успешно выгружено, 17 ошибок.
Причина ошибок:
в meta_urls.txt есть некорректные или слишком шумные строки, особенно по техническим компонентам вида snl-..., DB..., Vault..., Proxy..., которые были автоматически добавлены как отдельные URL, но часть из них не открывается или имеет неправильный формат.
Задача:
Сделать финальную чистку MVP, чтобы проект выглядел аккуратно и стабильно.
Важно:
- Не переписывай проект с нуля.
- Не меняй старый проект adt-markdownify-meta.
- Работай только в adt-markdownify-meta-mvp.
- Не используй API.
- Не используй requests/httpx/aiohttp/urllib.
- Не добавляй token/cookie/login/password.
- Не сохраняй cookies/sessionStorage/localStorage.
- Не удаляй уже созданные отчеты и функции.
- Не ломай рабочий запуск через SberBrowser/Playwright.
Что нужно сделать:
1. Проанализировать meta_urls.txt
Нужно найти:
- строки с корректным форматом "Название - https://...";
- строки с некорректным форматом;
- дубликаты URL;
- URL, которые выглядят как неполные;
- строки технических компонентов, которые лучше не выгружать как отдельные страницы.
2. Создать резервную копию
Перед правкой создать:
meta_urls.txt.before-cleanup.bak
3. Почистить meta_urls.txt
Оставить в meta_urls.txt только стабильные и важные страницы верхнего уровня:
- АС SberGeo
- ФП SberGeo.СНЛ
- модуль СНЛ.Интеграции
- другие найденные модули SberGeo.СНЛ, если их URL реально корректные
- разделы, которые реально открываются как страницы META
Не добавлять как отдельные URL все технические компоненты подряд, если они уже извлекаются из HTML страницы ФП/АС и попадают в HIERARCHY.md или TECH_RESOURCES.md.
Если точные страницы Точки взаимодействия/API/Стенды/Технические ресурсы не найдены, оставить TODO-комментарии:
# TODO: добавить вручную URL страницы "Точки взаимодействия + API"
# TODO: добавить вручную URL страницы "Интеграционные взаимодействия + API"
# TODO: добавить вручную URL страницы "Стенды"
# TODO: добавить вручную URL страницы "Технические ресурсы"
4. Добавить отдельный отчет по ошибкам URL
Создать или обновить файл:
output/URL_CLEANUP_REPORT.md
В нем должно быть:
# Отчет по очистке meta_urls.txt
## 1. Что оставлено
Таблица:
| Название | URL | Причина |
|---|---|---|
## 2. Что удалено
Таблица:
| Строка | Причина удаления |
|---|---|
Причины:
- дубликат;
- некорректный формат;
- ссылка не является отдельной страницей;
- технический компонент уже извлекается из основной страницы;
- URL не найден или неполный.
## 3. Что нужно добавить вручную
Список:
- Точки взаимодействия + API
- Интеграционные взаимодействия + API
- Стенды
- Технические ресурсы
5. Обновить README.md
Добавить раздел:
## Как довести выгрузку до полной архитектуры
Текст:
Для полной выгрузки архитектуры нужно добавить в meta_urls.txt URL следующих страниц META:
1. Страница АС.
2. Страница ФП.
3. Страницы модулей.
4. Страницы подмодулей, если есть.
5. Страницы технических компонентов, если нужна детальная выгрузка ТК.
6. Страница точек взаимодействия + API.
7. Страница интеграционных взаимодействий + API.
8. Страница стендов.
9. Страница технических ресурсов.
Если страница не найдена автоматически, ее нужно открыть вручную в META, скопировать URL из адресной строки и добавить в meta_urls.txt.
6. Обновить EXPORT_REPORT.md
В отчете о запуске должно быть понятно:
- сколько страниц было в meta_urls.txt;
- сколько успешно выгружено;
- сколько ошибок;
- какие URL упали;
- почему это не критично для MVP;
- какие отчеты созданы.
7. Безопасная проверка
После изменений выполнить:
python -m py_compile run_exporter.py scripts/config_loader.py scripts/scrape_meta.py scripts/html_to_markdown.py scripts/markdown_writer.py
8. После py_compile можно выполнить тестовый запуск
Выполни:
source .venv/bin/activate
python run_exporter.py
9. В конце покажи итог:
- сколько URL осталось в meta_urls.txt;
- сколько страниц успешно выгрузилось;
- сколько ошибок осталось;
- список созданных отчетов;
- результат py_compile;
- краткий вывод: готов ли MVP для демонстрации.
Главная цель:
Сделать так, чтобы проект стабильно запускался без большого количества ошибок и выглядел как аккуратный MVP, а не как черновой автосборщик всех подряд ссылок.