Kapitel 7. Web Crawling Modelle
Diese Arbeit wurde mithilfe von KI übersetzt. Wir freuen uns über dein Feedback und deine Kommentare: translation-feedback@oreilly.com
Das Schreiben von sauberem, skalierbarem Code ist schon schwierig genug, wenn du die Kontrolle über deine Daten und deine Eingaben hast. Das Schreiben von Code für Web-Crawler, die eine Vielzahl von Daten von verschiedenen Websites abrufen und speichern müssen, über die der Programmierer keine Kontrolle hat, stellt oft einzigartige organisatorische Herausforderungen dar.
Es kann vorkommen, dass du gebeten wirst, Nachrichtenartikel oder Blogbeiträge von verschiedenen Websites zu sammeln, die alle unterschiedliche Templates und Layouts haben. Der h1 -Tag der einen Website enthält den Titel des Artikels, der h1 -Tag der anderen den Titel der Website selbst und der Titel des Artikels steht in <span id="title">.
Du brauchst vielleicht eine flexible Kontrolle darüber, welche Websites gescraped werden und wie sie gescraped werden, und eine Möglichkeit, schnell neue Websites hinzuzufügen oder bestehende zu ändern, und zwar so schnell wie möglich, ohne mehrere Codezeilen zu schreiben.
Möglicherweise wirst du gebeten, Produktpreise von verschiedenen Websites abzurufen, um die Preise für ein und dasselbe Produkt zu vergleichen. Vielleicht sind diese Preise in verschiedenen Währungen angegeben, und vielleicht musst du sie auch mit externen Daten aus anderen Quellen als dem Internet kombinieren.
Obwohl die Einsatzmöglichkeiten ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access