Загрузка данных


Ты работаешь в проекте:

/Users/23865613/IdeaProjects/untitled/adt-markdownify-meta-mvp

Контекст:
Проект уже успешно запускается и создает отчеты:

- output/HIERARCHY.md
- output/INTERACTION_POINTS.md
- output/INTEGRATION_INTERACTIONS.md
- output/API.md
- output/STANDS.md
- output/TECH_RESOURCES.md
- output/ARCHITECTURE_TREE.md
- output/INTERACTIONS.md
- output/LINK_DISCOVERY_REPORT.md
- output/EXPORT_REPORT.md
- output/README.md

Последний запуск дал результат:

14 успешно выгружено, 17 ошибок.

Причина ошибок:
в meta_urls.txt есть некорректные или слишком шумные строки, особенно по техническим компонентам вида snl-..., DB..., Vault..., Proxy..., которые были автоматически добавлены как отдельные URL, но часть из них не открывается или имеет неправильный формат.

Задача:
Сделать финальную чистку MVP, чтобы проект выглядел аккуратно и стабильно.

Важно:
- Не переписывай проект с нуля.
- Не меняй старый проект adt-markdownify-meta.
- Работай только в adt-markdownify-meta-mvp.
- Не используй API.
- Не используй requests/httpx/aiohttp/urllib.
- Не добавляй token/cookie/login/password.
- Не сохраняй cookies/sessionStorage/localStorage.
- Не удаляй уже созданные отчеты и функции.
- Не ломай рабочий запуск через SberBrowser/Playwright.

Что нужно сделать:

1. Проанализировать meta_urls.txt

Нужно найти:
- строки с корректным форматом "Название - https://...";
- строки с некорректным форматом;
- дубликаты URL;
- URL, которые выглядят как неполные;
- строки технических компонентов, которые лучше не выгружать как отдельные страницы.

2. Создать резервную копию

Перед правкой создать:

meta_urls.txt.before-cleanup.bak

3. Почистить meta_urls.txt

Оставить в meta_urls.txt только стабильные и важные страницы верхнего уровня:

- АС SberGeo
- ФП SberGeo.СНЛ
- модуль СНЛ.Интеграции
- другие найденные модули SberGeo.СНЛ, если их URL реально корректные
- разделы, которые реально открываются как страницы META

Не добавлять как отдельные URL все технические компоненты подряд, если они уже извлекаются из HTML страницы ФП/АС и попадают в HIERARCHY.md или TECH_RESOURCES.md.

Если точные страницы Точки взаимодействия/API/Стенды/Технические ресурсы не найдены, оставить TODO-комментарии:

# TODO: добавить вручную URL страницы "Точки взаимодействия + API"
# TODO: добавить вручную URL страницы "Интеграционные взаимодействия + API"
# TODO: добавить вручную URL страницы "Стенды"
# TODO: добавить вручную URL страницы "Технические ресурсы"

4. Добавить отдельный отчет по ошибкам URL

Создать или обновить файл:

output/URL_CLEANUP_REPORT.md

В нем должно быть:

# Отчет по очистке meta_urls.txt

## 1. Что оставлено

Таблица:
| Название | URL | Причина |
|---|---|---|

## 2. Что удалено

Таблица:
| Строка | Причина удаления |
|---|---|

Причины:
- дубликат;
- некорректный формат;
- ссылка не является отдельной страницей;
- технический компонент уже извлекается из основной страницы;
- URL не найден или неполный.

## 3. Что нужно добавить вручную

Список:
- Точки взаимодействия + API
- Интеграционные взаимодействия + API
- Стенды
- Технические ресурсы

5. Обновить README.md

Добавить раздел:

## Как довести выгрузку до полной архитектуры

Текст:

Для полной выгрузки архитектуры нужно добавить в meta_urls.txt URL следующих страниц META:

1. Страница АС.
2. Страница ФП.
3. Страницы модулей.
4. Страницы подмодулей, если есть.
5. Страницы технических компонентов, если нужна детальная выгрузка ТК.
6. Страница точек взаимодействия + API.
7. Страница интеграционных взаимодействий + API.
8. Страница стендов.
9. Страница технических ресурсов.

Если страница не найдена автоматически, ее нужно открыть вручную в META, скопировать URL из адресной строки и добавить в meta_urls.txt.

6. Обновить EXPORT_REPORT.md

В отчете о запуске должно быть понятно:

- сколько страниц было в meta_urls.txt;
- сколько успешно выгружено;
- сколько ошибок;
- какие URL упали;
- почему это не критично для MVP;
- какие отчеты созданы.

7. Безопасная проверка

После изменений выполнить:

python -m py_compile run_exporter.py scripts/config_loader.py scripts/scrape_meta.py scripts/html_to_markdown.py scripts/markdown_writer.py

8. После py_compile можно выполнить тестовый запуск

Выполни:

source .venv/bin/activate
python run_exporter.py

9. В конце покажи итог:

- сколько URL осталось в meta_urls.txt;
- сколько страниц успешно выгрузилось;
- сколько ошибок осталось;
- список созданных отчетов;
- результат py_compile;
- краткий вывод: готов ли MVP для демонстрации.

Главная цель:
Сделать так, чтобы проект стабильно запускался без большого количества ошибок и выглядел как аккуратный MVP, а не как черновой автосборщик всех подряд ссылок.