Problém nájsť Štátov, z veľmi veľké lat dlho údajov

0

Otázka

Mám csv súbor s okolo 4 miliónov záznamov z lat dlho a mám 400 takýchto súborov. Chcem sa dostať štátu mená pre všetky tieto údaje tak, že môžem pridať ich do súborov so lat dlho. Ja používam python a snažil som sa pomocou Nominatim ale to trvá veľa hodín, aby proces len jeden súbor. Je tam nejaký rýchly spôsob, ako získať úlohu urobiť pomocou niektorej slučky. Poznámka - Lat Dlho údajov je väčšinou z USA. A všetky 400 názvy súborov sú v sekvencii. Vďaka vopred!

1

Najlepšiu odpoveď

1

Nominatim využitie je obmedzené na približne 1 žiadosť za sekundu. Ak robíte viac, vaša IP adresa bude dostať ban.

Tam existujúcich veľa riešení, ale hlavnou otázkou je, koľko si môžete dovoliť minúť na čas a peniaze, vyriešiť vaše potreby?

Hlavná prevádzka potrebujete sa nazýva zadnej strane geografického kódovania.

Lacné riešenie je nasadiť inštanciu Nominatim lokálne. Avšak, pritom vyžaduje docela nejaký čas a nedávne stroj s veľkým množstvom pamäte, a v ideálnom prípade SSD.

Inak, máte API služby, ktoré môžete použiť: Google Mapa API, OpenCageData, Tu, atď.

Vo všetkých prípadoch, vyriešiť Štátov pre váš 4M záznamy, navrhujem, odosielanie žiadostí v šarţiach, keď je to možné, a/alebo paralelne.

2021-11-19 11:39:12

V iných jazykoch

Táto stránka je v iných jazykoch

Русский
..................................................................................................................
Italiano
..................................................................................................................
Polski
..................................................................................................................
Română
..................................................................................................................
한국어
..................................................................................................................
हिन्दी
..................................................................................................................
Français
..................................................................................................................
Türk
..................................................................................................................
Česk
..................................................................................................................
Português
..................................................................................................................
ไทย
..................................................................................................................
中文
..................................................................................................................
Español
..................................................................................................................