Оптимизация краулинга
Студенческие клубы разработки СГУ Студенческие клубы разработки СГУ
423 subscribers
648 views
20

 Published On Sep 20, 2024

В чем отличие между краулингом и парсингом? Почему парсинг является более тривиальной задачей, чем краулинг? Как можно легально достать данные с сайтов, сложнее scrappme и не получить бан? Все ответы - в данной лекции.

Дополнительные материалы:
Headless:
https://habr.com/ru/companies/oleg-bu...
https://www.selenium.dev/

Robots.txt и генеративных AI:
https://www.adexchanger.com/daily-new...
https://www.wired.com/story/perplexit...

Http headers:
https://habr.com/ru/companies/vk/arti...
https://developer.mozilla.org/en-US/d...
https://developer.mozilla.org/en-US/d...

Парсинг:
https://blog.skillfactory.ru/glossary...
https://habr.com/ru/companies/selecte...


Telegram: https://t.me/dscsgu
VK: https://vk.com/dscsgu
Github: https://github.com/dsc-sgu
Сайт: https://dsc.sgu.ru

show more

Share/Embed