En nettoyant les valeurs d’un bloc de données multitype en python/pandas, je veux couper les chaînes. Je le fais actuellement en deux instructions:
import pandas as pd
df = pd.DataFrame([[' a ', 10], [' c ', 5]])
df.replace('^\s+', '', regex=True, inplace=True) #front
df.replace('\s+$', '', regex=True, inplace=True) #end
df.values
C'est assez lent, que pourrais-je améliorer?
Vous pouvez utiliser DataFrame.select_dtypes
pour sélectionner string
colonnes, puis apply
function str.strip
.
Remarque: Les valeurs ne peuvent pas être types
comme dicts
ou lists
, car leur dtypes
est object
.
_df_obj = df.select_dtypes(['object'])
print (df_obj)
0 a
1 c
df[df_obj.columns] = df_obj.apply(lambda x: x.str.strip())
print (df)
0 1
0 a 10
1 c 5
_
Mais s'il n'y a que quelques colonnes, utilisez str.strip
:
_df[0] = df[0].str.strip()
_
Voici une version compacte de l'utilisation de applymap
avec une expression lambda simple pour appeler strip
uniquement lorsque la valeur est d'un type chaîne:
df.applymap(lambda x: x.strip() if isinstance(x, str) else x)
Un exemple plus complet:
import pandas as pd
def trim_all_columns(df):
"""
Trim whitespace from ends of each value across all series in dataframe
"""
trim_strings = lambda x: x.strip() if isinstance(x, str) else x
return df.applymap(trim_strings)
# simple example of trimming whitespace from data elements
df = pd.DataFrame([[' a ', 10], [' c ', 5]])
df = trim_all_columns(df)
print(df)
>>>
0 1
0 a 10
1 c 5
Voici un exemple de travail hébergé par un bijou: https://trinket.io/python3/e6ab7fb4ab
Si vous voulez vraiment utiliser regex, alors
>>> df.replace('(^\s+|\s+$)', '', regex=True, inplace=True)
>>> df
0 1
0 a 10
1 c 5
Mais il devrait être plus rapide de le faire comme ceci:
>>> df[0] = df[0].str.strip()
Tu peux essayer:
df[0] = df[0].str.strip()
ou plus spécifiquement pour toutes les colonnes de chaîne
non_numeric_columns = list(set(df.columns)-set(df._get_numeric_data().columns))
df[non_numeric_columns] = df[non_numeric_columns].apply(lambda x : str(x).strip())
Vous pouvez utiliser la fonction apply
de l'objet Series
:
>>> df = pd.DataFrame([[' a ', 10], [' c ', 5]])
>>> df[0][0]
' a '
>>> df[0] = df[0].apply(lambda x: x.strip())
>>> df[0][0]
'a'
Notez l’utilisation de
strip
et non deregex
qui est beaucoup plus rapide
Une autre option - utilisez la fonction apply
de l'objet DataFrame:
>>> df = pd.DataFrame([[' a ', 10], [' c ', 5]])
>>> df.apply(lambda x: x.apply(lambda y: y.strip() if type(y) == type('') else y), axis=0)
0 1
0 a 10
1 c 5
def trim(x):
if x.dtype == object:
x = x.str.split(' ').str[0]
return(x)
df = df.apply(trim)