PostgreSQL
 sql >> Datenbank >  >> RDS >> PostgreSQL

Pyspark:Entfernen Sie das UTF-Nullzeichen aus dem Pyspark-Datenrahmen

Ah warte - ich glaube, ich habe es. Wenn ich so etwas mache, scheint es zu funktionieren:

null = u'\u0000'
new_df = df.withColumn('e', regexp_replace(df['e'], null, ''))

Und dann Mapping auf alle String-Spalten:

string_columns = ['d','e']
new_df = df.select(
  *(regexp_replace(col(c), null, '').alias(c) if c in string_columns else c for
    c in df.columns)
  )