У меня есть два совершенно разных фрейма данных, которые мне нужно сопоставить (спасибо биологии). Все учебные пособия по пандам посвящены гораздо более простым преобразованиям, и я не могу решить эту проблему (настоящий новичок) без 4 вложенных циклов без успеха. Действительно любопытно, как питонический способ решить эту проблему без необходимости возвращаться в Excel.
Первый - это что-то вроде этого df1. Наблюдения за нулями и единицами для тысяч генов в категориях a-j.
import pandas as pd
import numpy as np
df1 = pd.DataFrame(np.random.randint(0,2,size =(10,10)),columns=list('abcdefghij'), index = ['gene1','gene2','gene3','gene4','gene5','gene6','gene7','gene8','gene9','gene10'])
print(df1)
a b c d e f g h i j
gene1 1 0 1 0 1 0 1 1 1 0
gene2 0 1 0 0 0 0 0 0 1 0
gene3 0 1 1 1 1 1 0 0 0 0
gene4 1 0 1 0 0 1 0 1 1 1
gene5 0 0 1 0 0 0 0 0 0 0
gene6 0 1 0 0 1 0 1 0 1 0
gene7 1 1 0 1 1 0 0 0 1 0
gene8 0 0 0 1 1 1 1 0 1 0
gene9 1 0 1 0 1 0 1 1 0 1
gene10 1 0 0 0 1 0 1 0 1 1
Тогда второй - это что-то вроде этого df2. Отображение категорий более высокого уровня (X-W) для категорий более низкого уровня. У этой девушки есть NaN и нет индексов.
df2 = pd.DataFrame({'X': ['a','NaN','NaN','NaN'],
'Y': ['d', 'b', 'c','f'],
'Z':['g', 'h','e','NaN'],
'W': ['i', 'j','NaN','Nan']},index=None)
print(df2)
W X Y Z
0 i a d g
1 j NaN b h
2 NaN NaN c e
3 Nan NaN f NaN
Мне нужно что-то вроде result1. Здесь кроется еще одна хитрость. Например. gene4 находится в категориях i и j, и оба находятся в категории W, но мне все равно нужна «1» в result1.loc ['gene4', 'W']. Окончательный результат по-прежнему должен быть двоичным.
result1 = pd.DataFrame({'X': ['1','0','0','1','0','0','1','0','1','1'],
'Y': ['1','1','1','1','1','1','1','1','1','0'],
'Z': ['1','0','1','1','0','1','1','1','1','1'],
'W': ['1','1','0','1','0','1','1','1','1','1']}, index = ['gene1','gene2','gene3','gene4','gene5','gene6','gene7','gene8','gene9','gene10'])
print(result1)
W X Y Z
gene1 1 1 1 1
gene2 1 0 1 0
gene3 0 0 1 1
gene4 1 1 1 1
gene5 0 0 1 0
gene6 1 0 1 1
gene7 1 1 1 1
gene8 1 0 1 1
gene9 1 1 1 1
gene10 1 1 0 1
Это может быть еще один возможный формат результата. [обновлено фактическим ожидаемым результатом]. Если кто-то хочет научить их обоих (или легкого взаимопревращения), большая благодарность, и наука тоже будет ему благодарна.
result1 = pd.DataFrame({'1': ['gene1','gene1','gene1','gene1'],
'2': ['gene2','gene4','gene2','gene3'],
'3': ['gene4','gene7','gene3','gene4'],
'4': ['gene6','gene9','gene4','gene6'],
'5': ['gene7','gene10','gene5','gene7'],
'6': ['gene8','NaN','gene6','gene8'],
'7': ['gene9','NaN','gene7','gene9'],
'8': ['gene10','NaN','gene8','gene10'],
'9': ['NaN','NaN','gene9','NaN'],
},
index = ['W','X','Y','Z'])
print(result1)
1 2 3 4 5 6 7 8 9
W gene1 gene2 gene4 gene6 gene7 gene8 gene9 gene10 NaN
X gene1 gene4 gene7 gene9 gene10 NaN NaN NaN NaN
Y gene1 gene2 gene3 gene4 gene5 gene6 gene7 gene8 gene9
Z gene1 gene3 gene4 gene6 gene7 gene8 gene9 gene10 NaN
Спасибо за терпение, прочитав этот длинный вопрос.
1 ответ
Вот так! Давай попробуем это.
df1 = pd.DataFrame(np.random.randint(0,2,size =(10,10)),columns=list('abcdefghij'), index = ['gene1','gene2','gene3','gene4','gene5','gene6','gene7','gene8','gene9','gene10'])
df2 = pd.DataFrame({'X': ['a','NaN','NaN','NaN'],
'Y': ['d', 'b', 'c','f'],
'Z':['g', 'h','e','NaN'],
'W': ['i', 'j','NaN','NaN']},index=None)
df2 = df2.replace('NaN',np.nan)
gmap = df2.stack().reset_index().drop('level_0',axis=1).set_index(0)['level_1']
df3 = df1.stack().replace(0,np.nan).dropna().reset_index(level=1)['level_1'].map(gmap).reset_index().drop_duplicates()
df_out = df3.groupby(['index','level_1'])['level_1'].count().unstack()
print(df_out)
Выход:
level_1 W X Y Z
index
gene1 1.0 NaN NaN NaN
gene10 1.0 1.0 1.0 1.0
gene2 1.0 1.0 1.0 1.0
gene3 1.0 1.0 1.0 1.0
gene4 1.0 NaN 1.0 1.0
gene5 1.0 NaN 1.0 NaN
gene6 1.0 1.0 1.0 1.0
gene7 NaN 1.0 1.0 1.0
gene8 NaN NaN 1.0 1.0
gene9 1.0 NaN NaN 1.0
Отредактируйте, чтобы получить дополнительный вывод
df1 = pd.DataFrame(np.random.randint(0,2,size =(10,10)),columns=list('abcdefghij'), index = ['gene1','gene2','gene3','gene4','gene5','gene6','gene7','gene8','gene9','gene10'])
df2 = pd.DataFrame({'X': ['a','NaN','NaN','NaN'],
'Y': ['d', 'b', 'c','f'],
'Z':['g', 'h','e','NaN'],
'W': ['i', 'j','NaN','NaN']},index=None)
df2 = df2.replace('NaN',np.nan)
gmap = df2.stack().reset_index().drop('level_0',axis=1).set_index(0)['level_1']
df3 = df1.stack().replace(0,np.nan).dropna().reset_index(level=1)['level_1'].map(gmap).reset_index().drop_duplicates()
df3['cols'] = df3['index'].str.split('gene').str[1].astype(int)
df_out2 = df3.set_index(['level_1','cols'])['index'].unstack()
Выход:
cols 1 2 3 4 5 6 7 8 9 10
level_1
W gene1 gene2 gene3 gene4 gene5 None gene7 gene8 gene9 gene10
X None None gene3 None gene5 None None gene8 gene9 gene10
Y gene1 gene2 gene3 gene4 gene5 gene6 gene7 gene8 gene9 gene10
Z None gene2 None gene4 None gene6 None gene8 gene9 None
Похожие вопросы
Новые вопросы
python
Python - это многопарадигмальный, динамически типизированный, многоцелевой язык программирования. Он разработан для быстрого изучения, понимания и использования, а также для обеспечения чистого и единообразного синтаксиса. Обратите внимание, что Python 2 официально не поддерживается с 01.01.2020. Тем не менее, для вопросов о Python, связанных с версией, добавьте тег [python-2.7] или [python-3.x]. При использовании варианта Python (например, Jython, PyPy) или библиотеки (например, Pandas и NumPy) включите его в теги.