Парсер или импорт
- Только открытые неперсональные данные
- Запуск по расписанию
- Файл таблица или загрузка на сайт
от 8 000 ₽
от 8 000 ₽ парсер от 2 дней, процесс с ИИ от 2 недель
Обсудить задачустолько стоит рутина за год768 часов, почти 19 рабочих недель одного человека
Ставка: зарплата с налогами, делённая на рабочие часы. В году считаю 48 рабочих недель.
2 неделиокупаете работу
309 120 ₽остаётся в первый год
Один штрих: рабочая неделя. Чёрные окупают работу, остальные уже ваши.
Цена здесь нижняя граница пакета, доля это допущение. Точную смету даю после разбора процесса, калькулятор её не заменяет.
Цены и наличие обновляете руками
Отчёт собирается из пяти таблиц полдня
Сервис вырос, и всё стало виснуть без видимой причины
Это к разбору нагрузкиУ пользователей крутится загрузка, хотя результат уже готов
Это к разбору нагрузкиСервер заполняется быстрее, чем докупаете место
Это к разбору нагрузкиЧисла в примерах условные. Подставьте свои.
В gptml снаружи всё выглядело как сбой воркера. Замеры показали другое: база была одним файлом на 108 МБ, и каждая запись пересохраняла его целиком. Автоматизацию я начинаю с цифр, потому что без них легко починить то, что не ломалось.
Автоматизация бизнеса начинается с одного измеримого процесса: парсер открытых данных, регулярный отчёт, загрузка прайса на сайт. Если задача считается в часах и деньгах, сразу видно, окупится ли работа.
Так выглядело снаружиВоркер зависает, заявки падают с ошибкой
Что показал замерОдин файл базы на 108 МБ. Каждая запись пересохраняла его целиком, и сервер замирал на секунды.
Так выглядело снаружиРежим «воркеры и API» снова не работает
Что показал замерПод нагрузкой счётчик очереди перезаписывал выбранный режим. Гонка записей. Добавил блокировку и 27 тестов, включая 80 параллельных распределений.
Так выглядело снаружиИстория заявок пропадает через час
Что показал замерСама она не пропадает. Хранение 3 дня, на пороге диска уборщик срезал его до 2, и разом ушло около 4,5 тыс. записей.
Так выглядело снаружиИз каталога исчезли товары: 1 400 вместо 3 400
Что показал замерКеш Битрикса. После сброса цифры сошлись, каталог никуда не девался.
На gptml три воркера и четыре дорожки разбирают очередь круглосуточно: один я довёл, два написал. На момент аварии это было около 3 000 заявок в день. Владельцы проекта сами сильно тестировали и находили большую часть багов.
Воркеры работают круглосуточно и бьют как молотокВладелец gptml, август. Пересказ из переписки.
от 8 000 ₽
от 40 000 ₽
по смете
ОбсудитьСрок: парсер от 2 дней, процесс с ИИ от 2 недель.
Сразу и понятно: что входит, как проверяем, сколько стоит.
На рабочий сайт изменения попадают после проверки, откат готов заранее.
Быстрее и дешевле или надёжнее. Выбираете вы.
Что сделано, что в работе, чего жду от вас.
Парсер или импорт данных от 8 000 ₽ и от 2 дней работы. Автоматизация процесса с ИИ от 40 000 ₽ и от 2 недель.
Беру только открытые неперсональные данные и слежу за нагрузкой на чужой сайт. Если у источника есть API, использую его.
Закладываю сообщение об ошибке, чтобы парсер не выгрузил пустоту молча. Правка входит в поддержку или считается отдельно, это обсуждаем заранее.
Пишу инструкцию для людей без технического опыта. На gptml новые сборки воркеров уходили архивом с инструкцией, и партнёры, оба не программисты, запускали их у себя сами.
Почитать: Почему сайт медленно загружается, Ошибки 502 и 504 на сайте, Интеграция 1С с сайтом.