Criando um DataFrame do Pandas a partir de uma matriz Numpy: Como especificar a coluna do índice e os cabeçalhos da coluna?

281

Eu tenho uma matriz Numpy que consiste em uma lista de listas, representando uma matriz bidimensional com rótulos de linha e nomes de colunas, como mostrado abaixo:

data = array([['','Col1','Col2'],['Row1',1,2],['Row2',3,4]])

Gostaria que o DataFrame resultante tivesse Row1 e Row2 como valores de índice e Col1, Col2 como valores de cabeçalho

Eu posso especificar o índice da seguinte maneira:

df = pd.DataFrame(data,index=data[:,0]),

no entanto, não tenho certeza de como atribuir melhor os cabeçalhos das colunas.

python pandas numpy

— user3132783
fonte

3

A resposta de @ behzad.nouri está correta, mas acho que você deve considerar se não pode ter os dados iniciais em outro formulário. Como agora, seus valores serão strings e não ints (por causa da matriz numpy misturar ints e strings, todos são convertidos em string porque os arrays numpy precisam ser homogêneos).

— Joris

315

Você precisa especificar data, indexe columnsao DataFrameconstrutor, como em:

>>> pd.DataFrame(data=data[1:,1:],    # values
...              index=data[1:,0],    # 1st column as index
...              columns=data[0,1:])  # 1st row as the column names

editar : como no comentário @joris, pode ser necessário alterar acima np.int_(data[1:,1:])para ter o tipo de dados correto.

— behzad.nouri
fonte

7

isso funciona - mas para uma estrutura tão comum de dados de entrada e aplicação desejada para a DataFramenão existe algum "atalho"? Essa é basicamente a maneira como os csvs são carregados - e podem ser gerenciados pelo tratamento padrão para muitos leitores de CSV. Uma estrutura análoga para df seria útil.

— Javadba 17/11

Eu adicionei um mini método auxiliar / conveniência para isso como uma resposta suplementar.

— Javadba 17/11

93

Aqui está uma solução fácil de entender

import numpy as np
import pandas as pd

# Creating a 2 dimensional numpy array
>>> data = np.array([[5.8, 2.8], [6.0, 2.2]])
>>> print(data)
>>> data
array([[5.8, 2.8],
       [6. , 2.2]])

# Creating pandas dataframe from numpy array
>>> dataset = pd.DataFrame({'Column1': data[:, 0], 'Column2': data[:, 1]})
>>> print(dataset)
   Column1  Column2
0      5.8      2.8
1      6.0      2.2

— Jagannath Banerjee
fonte

20

Mas você tinha que especificar manualmente os Seriesnomes. Isso não é escalável.

— Javadba 17/11

24

Eu concordo com Joris; parece que você deveria fazer isso de maneira diferente, como com matrizes de registros numpy . Modificando a "opção 2" desta ótima resposta , você pode fazer o seguinte:

import pandas
import numpy

dtype = [('Col1','int32'), ('Col2','float32'), ('Col3','float32')]
values = numpy.zeros(20, dtype=dtype)
index = ['Row'+str(i) for i in range(1, len(values)+1)]

df = pandas.DataFrame(values, index=index)

— ryanjdillon
fonte

13

Isso pode ser feito simplesmente usando from_records of pandas DataFrame

import numpy as np
import pandas as pd
# Creating a numpy array
x = np.arange(1,10,1).reshape(-1,1)
dataframe = pd.DataFrame.from_records(x)

— Aadil Srivastava
fonte

Esta resposta não funciona com os dados de exemplo fornecidos na pergunta, ou seja data = array([['','Col1','Col2'],['Row1',1,2],['Row2',3,4]]).

— Jpp

A solução geral mais simples quando não especificamos os rótulos.

— cerebrou 17/04

12

    >>import pandas as pd
    >>import numpy as np
    >>data.shape
    (480,193)
    >>type(data)
    numpy.ndarray
    >>df=pd.DataFrame(data=data[0:,0:],
    ...        index=[i for i in range(data.shape[0])],
    ...        columns=['f'+str(i) for i in range(data.shape[1])])
    >>df.head()
    [![array to dataframe][1]][1]

— Rahul Verma
fonte

8

Adicionando à resposta de @ behzad.nouri - podemos criar uma rotina auxiliar para lidar com esse cenário comum:

def csvDf(dat,**kwargs): 
  from numpy import array
  data = array(dat)
  if data is None or len(data)==0 or len(data[0])==0:
    return None
  else:
    return pd.DataFrame(data[1:,1:],index=data[1:,0],columns=data[0,1:],**kwargs)

Vamos tentar:

data = [['','a','b','c'],['row1','row1cola','row1colb','row1colc'],
     ['row2','row2cola','row2colb','row2colc'],['row3','row3cola','row3colb','row3colc']]
csvDf(data)

In [61]: csvDf(data)
Out[61]:
             a         b         c
row1  row1cola  row1colb  row1colc
row2  row2cola  row2colb  row2colc
row3  row3cola  row3colb  row3colc

— javadba
fonte