dataframe的值 dataframe函数 pandas dataframe按条件筛选数据
论文研究探讨如何利用高效的Pandas和NumPy地为DataFrame新增列并根据复杂条件填充值,特别是在需要比对多个相关列(如CellName和CellNameValue对)以最终匹配将其场景填充结果到新列的中,避免低效的行迭代,提升数据处理性能。
在数据分析和处理中,我们经常面临这样的需求:根据DataFrame中现有列的特定条件来创建或更新新的列。一个常见的挑战是,当这些条件涉及到多列之间的复杂逻辑(例如,查找不同列组之间的匹配项)时,如何高效地进行数据填充。传统的逐行迭代(如使用 df.iterrows())处的方法处理大型数据集时效率极低,容易导致性能瓶颈。为了解决这个问题,Pandas 和 NumPy 提供了强大的提升操作,能够显着提高数据处理效率。挑战:DataFrame 列的条件填充
假设我我们有一个DataFrame,其中包含多对相关的列,例如CellName1和CellName1value,CellName2和CellName2value等。我们的目标是增加两列resultcellname和resultcellnamevalue,并根据这些CellName和CellNameValue对之间的匹配情况来填充它们。例如,如果CellName1和CellName1va lue与CellName2和CellName2value完全匹配,我们就将CellName1和CellName1value的值填充到新列中。如果多个匹配条件,可能还需要考虑优先级。解决方案:利用NumPy的np.where进行支持化操作
NumPy库中的np.where()函数是进行赋值条件的增强工具。其基本语法是:numpy.where(condition, value_if_true, value_if_false)condition:一个布尔型吞吐量或Series,表示条件。value_if_true:当条件为True时,对应位置填充的值。value_if_false:当条件为False时,对应位置填充的值。
np.where()的优势在于其缓冲特性,它可以在整个集群或系列上同时应用条件,而消耗显着式的循环,从而大大提高处理速度。实战案例:多列匹配与填充
为了结果更好地理解如何应用np.where解决多列匹配问题,我们创建一个模拟的DataFrame,并演示如何根据不同的CellName和CellNameValue对的匹配情况来填充resultcellname和resultcellnamevalue。
示例数据准备:import pandas as pdimport numpy as np# 模拟输入DataFramedata = { 'CellName1': ['A', 'B', 'C', 'D', 'E', 'F'], 'CellName1value': [10, 20, 30, 40, 50, 60], 'CellName2': ['A', 'X', 'C', 'Y', 'E', 'F'], 'CellName2value': [10, 25, 30, 45, 50, 65], # 注:F 值不同 'CellName3': ['Z', 'B', 'P', 'D', 'Q', 'F'], 'CellName3value': [15, 20, 35, 40, 55, 60]}dfH = pd.DataFrame(data)#初始化新的结果列,使用NaN或空字符串作为默认值 dfH['resultcellname'] = np.nan # 或 ''dfH['resultcellnamevalue'] = np.nan # 或 ''print(quot;原始DataFrame:quot;)print(dfH)登录后复制
应用匹配逻辑并填充新列:
我们的目标是:如果CellName1和CellName1value与CellName2和CellName2value匹配,则将CellName1和CellName1value填充到结果列。IfCellName1和CellName1value与CellName3和CellName3val ue匹配,则将CellName1和CellName1值填充到结果列(这会覆盖前一个条件的结果,如果两者都匹配)。如果CellName2和CellName2value与CellName3和CellName3值匹配,则将CellName2和CellName2值填充到结果列(这会覆盖的所有结果,如果匹配)。
在这种链式np.where调用的顺序决定了匹配的优先级,后一个条件会覆盖前一个条件的结果。
# 1. 检查CellName1/value 与 CellName2/value 是否匹配condition_1_2 = (dfH['CellName1'] == dfH['CellName2']) amp; \ (dfH['CellName1value'] == dfH['CellName2value'])dfH['resultcellname'] = np.where(condition_1_2, dfH['CellName1'], dfH['resultcellname'])dfH['resultcellnamevalue'] = np.where(condition_1_2, dfH['CellName1value'], dfH['resultcellnamevalue'])# 2.检查CellName1/value 与 CellName3/value 是否匹配#如果当前行已经有result值,且此条件也匹配,取消覆盖condition_1_3 = (dfH['单元名称1'] == dfH['CellName3']) amp; \ (dfH['CellName1value'] == dfH['CellName3value'])dfH['resultcellname'] = np.where(condition_1_3, dfH['CellName1'], dfH['resultcellname'])dfH['resultcellnamevalue'] = np.where(condition_1_3, dfH['CellName1value'], dfH['resultcellnamevalue'])# 3.检查CellName2/value与CellName3/value是否匹配#再次覆盖,此条件具有最高优先级condition_2_3 = (dfH['CellName2'] == dfH['CellName3']) amp; \ (dfH['CellName2value'] == dfH['CellName3value'])dfH['resultcellname'] = np.where(condition_2_3, dfH['CellName2'], dfH['resultcellname'])dfH['resultcellnamevalue'] = np.where(condition_2_3, dfH['CellName2value'], dfH['resultcellnamevalue'])print(quot;\n填充后的DataFrame:quot;)print(dfH)登录后复制
代码解析:条件构建:每个condition_X_Y变量都是一个布尔Series,通过amp;(逻辑与)错误组合了两个条件:CellName是否一致和CellNamevalue是否符合。
np.where应用:首先调用np.where时,如果条件为True,则将相应的CellName或CellNamevalue填充到结果列中;如果为False,则保留resultcellname或resultcellnamevalue当前的值。意思是,如果一个位置已经通过前一个np.where调用被填充了,而当前np.where的条件不满足,那么之前填充的值就会保留下来。反之,如果当前条件满足,屁股覆盖之前的值。这种“后一个覆盖前一个”的逻辑使得我们可以设置条件的优先级。初始化:在开始之前,将resultcellname和resultcellnamevalue初始化为np.nan(对于数值)或空字符串(对于字符串),确保在没有任何条件匹配时,这些列有明确的默认值。注意事项与最佳实践避免逐行迭代: 首先优先考虑使用 Pandas 和 NumPy 提供的处理操作(如 np.where、Series/DataFrame 方法)用于循环和 iterrows(),尤其是在处理大型数据集时进行转换。处理操作通常在底层使用 C 语言实现,效率远高于 Python 方面的循环。数据类型一致性:确保涉及具有兼容的数据类型的列的比较。例如,字符串和数值类型不能直接进行有意义的比较。如果需要,进行适当的类型。最终值设置:根据业务需求选择新列的初始值。np.nan是数值列的选择,而空字符串''或None适用于对象(字符串)列。逻辑优先级:如果按照特定的常见优先级填充结果,则需要安排np.where语句的顺序。后面执行的np.where会覆盖前一个的结果。区别性:对于复杂的条件,可以先将每个子条件或布尔掩码存储放在单独的变量中,提高代码的可执行性和可维护性。链式操作与内存: 连续的np.where操作会在每次赋值时创建新的Series对象。对于极大的DataFrame,这可能会短暂增加内存使用,但在大多数情况下是非常的。总结
通过本教程,我们学习了如何利用Pandas和NumPy的np.where函数地为D atFrame新增列并根据复杂的多列匹配条件进行填充。这种处理的方法不仅显着提升了数据处理性能,也使代码更加简洁和易于维护。掌握这种技巧是进行高效数据操作的关键一步,能够帮助您在处理大规模数据集时避免常见的性能陷阱。
以上就是Pandas DataFrame高效条件赋值:多列数据匹配结果填充的详细内容,更多请关注乐哥常识网其他相关文章!