Добавление GeoPandas Dataframe в таблицу PostGIS?

15

У меня есть простой GeoPandas Dataframe:

введите описание изображения здесь

Я хотел бы загрузить этот GeoDataframe в таблицу PostGIS. У меня уже есть база данных с расширением PostGIS, но я не могу добавить этот Dataframe в виде таблицы.

Я пробовал следующее:

engine = <>
meta = MetaData(engine)
eld_test = Table('eld_test', meta, Column('id', Integer, primary_key=True), Column('key_comb_drvr', Text), 
                 Column('geometry', Geometry('Point', srid=4326))) 
eld_test.create(engine) 
conn = engine.connect() 
conn.execute(eld_test.insert(), df.to_dict('records'))
thecornman
источник
Я пробовал следующее: engine = <> # создать таблицу meta = MetaData (engine) eld_test = Table ('eld_test', meta, Column ('id', Integer, primary_key = True), Column ('key_comb_drvr', Text) , Столбец ('geometry', Geometry ('Point', srid = 4326))) eld_test.create (engine) # Выполнение DBAPI со списком диктов conn = engine.connect () conn.execute (eld_test.insert (), df .to_dict ('records'))
thecornman
1
Добро пожаловать в GIS SE, пожалуйста, прочитайте наш тур ! Не могли бы вы отредактировать свой пост, включив в комментарии свой код?
GISKid

Ответы:

30

Используя метод to_sql от Panda и SQLAlchemy, вы можете сохранить фрейм данных в Postgres. А поскольку вы храните Geodataframe, GeoAlchemy будет обрабатывать столбец geom для вас. Вот пример кода:

# Imports
from geoalchemy2 import Geometry, WKTElement
from sqlalchemy import *
import pandas as pd
import geopandas as gpd

# Creating SQLAlchemy's engine to use
engine = create_engine('postgresql://username:password@host:socket/database')


geodataframe = gpd.GeoDataFrame(pd.DataFrame.from_csv('<your dataframe source>'))
#... [do something with the geodataframe]

geodataframe['geom'] = geodataframe['geometry'].apply(lambda x: WKTElement(x.wkt, srid=<your_SRID>)

#drop the geometry column as it is now duplicative
geodataframe.drop('geometry', 1, inplace=True)

# Use 'dtype' to specify column's type
# For the geom column, we will use GeoAlchemy's type 'Geometry'
geodataframe.to_sql(table_name, engine, if_exists='append', index=False, 
                         dtype={'geom': Geometry('POINT', srid= <your_srid>)})

Стоит отметить, что параметр if_exists позволяет вам обрабатывать способ добавления фрейма данных в вашу таблицу postgres:

    if_exists = replace: If table exists, drop it, recreate it, and insert data.
    if_exists = fail: If table exists, do nothing.
    if_exists = append: If table exists, insert data. Create if does not exist.
Хамри Саид
источник
Есть ли здесь возможность перепроецировать, указав SRID, отличный от идентификатора в столбце геометрии, или нужно использовать текущий SRID? Также, каков наилучший способ получить целочисленный SRID из столбца геометрии ?
Ровико
4

У меня также был тот же вопрос, который вы задали, и я потратил много-много дней на него (больше, чем я хочу признаться) в поисках решения. Предполагая следующую таблицу postgreSQL с расширением postGIS,

postgres=> \d cldmatchup.geo_points;
Table "cldmatchup.geo_points"
Column   |         Type         |                               Modifiers                                
-----------+----------------------+------------------------------------------------------------------------
gridid    | bigint               | not null default nextval('cldmatchup.geo_points_gridid_seq'::regclass)
lat       | real                 | 
lon       | real                 | 
the_point | geography(Point,4326) | 

Indexes:
"geo_points_pkey" PRIMARY KEY, btree (gridid)

это то, что я наконец получил работать:

import geopandas as gpd
from geoalchemy2 import Geography, Geometry
from sqlalchemy import create_engine, MetaData, Table
from sqlalchemy.orm import sessionmaker
from shapely.geometry import Point
from psycopg2.extensions import adapt, register_adapter, AsIs

# From http://initd.org/psycopg/docs/advanced.html#adapting-new-types but 
# modified to accomodate postGIS point type rather than a postgreSQL 
# point type format
def adapt_point(point):
    from psycopg2.extensions import adapt, AsIs
    x = adapt(point.x).getquoted()
    y = adapt(point.y).getquoted()
    return AsIs("'POINT (%s %s)'" % (x, y))

register_adapter(Point, adapt_point)

engine = create_engine('postgresql://<yourUserName>:postgres@localhost:5432/postgres', echo=False)
Session = sessionmaker(bind=engine)
session = Session()
meta = MetaData(engine, schema='cldmatchup')

# Create reference to pre-existing "geo_points" table in schema "cldmatchup"
geoPoints = Table('geo_points', meta, autoload=True, schema='cldmatchup', autoload_with=engine)

df = gpd.GeoDataFrame({'lat':[45.15, 35., 57.], 'lon':[-35, -150, -90.]})

# Create a shapely.geometry point 
the_point = [Point(xy) for xy in zip(df.lon, df.lat)]

# Create a GeoDataFrame specifying 'the_point' as the column with the 
# geometry data
crs = {'init': 'epsg:4326'}
geo_df = gpd.GeoDataFrame(df.copy(), crs=crs, geometry=the_point)

# Rename the geometry column to match the database table's column name.
# From https://media.readthedocs.org/pdf/geopandas/latest/geopandas.pdf,
# Section 1.2.2 p 7
geo_df = geo_df.rename(columns{'geometry':'the_point'}).set_geometry('the_point')

# Write to sql table 'geo_points'
geo_df.to_sql(geoPoints.name, engine, if_exists='append', schema='cldmatchup', index=False)

session.close()

Я не могу сказать, является ли моя логика соединения с базой данных лучшей, поскольку я в основном скопировал ее из другой ссылки и был просто счастлив, что смог успешно автоматизировать (или отразить) мою существующую таблицу с распознанным определением геометрии. Я пишу python для sql пространственного кода всего несколько месяцев, так что я знаю, что есть чему поучиться.

user1745564
источник
0

У меня есть решение, которое требует только psycopg2 и стройное (кроме геопанд, конечно). Как правило, плохая практика - перебирать (Geo)DataFrameобъекты, потому что это медленно, но для маленьких или для одноразовых задач это все равно выполнит работу.

По сути, он работает путем выгрузки геометрии в формат WKB в другом столбце, а затем повторно вводит ее для GEOMETRYввода при вставке.

Обратите внимание, что вам придется заранее создать таблицу с правильными столбцами.

import psycopg2 as pg2
from shapely.wkb import dumps as wkb_dumps
import geopandas as gpd


# Assuming you already have a GeoDataFrame called "gdf"...

# Copy the gdf if you want to keep the original intact
insert_gdf = gdf.copy()

# Make a new field containing the WKB dumped from the geometry column, then turn it into a regular 
insert_gdf["geom_wkb"] = insert_gdf["geometry"].apply(lambda x: wkb_dumps(x))

# Define an insert query which will read the WKB geometry and cast it to GEOMETRY type accordingly
insert_query = """
    INSERT INTO my_table (id, geom)
    VALUES (%(id)s, ST_GeomFromWKB(%(geom_wkb)s));
"""

# Build a list of execution parameters by iterating through the GeoDataFrame
# This is considered bad practice by the pandas community because it is slow.
params_list = [
    {
        "id": i,
        "geom_wkb": row["geom_wkb"]
    } for i, row in insert_gdf.iterrows()
]

# Connect to the database and make a cursor
conn = pg2.connect(host=<your host>, port=<your port>, dbname=<your dbname>, user=<your username>, password=<your password>)
cur = conn.cursor()

# Iterate through the list of execution parameters and apply them to an execution of the insert query
for params in params_list:
    cur.execute(insert_query, params)
conn.commit()
wfgeo
источник