Antes de tudo, deixe-me dizer que, na minha opinião, a melhor ferramenta de todas é, de longe, o R, que possui toneladas de bibliotecas e utilitários que não vou enumerar aqui.
Deixe-me expandir a discussão sobre weka
Existe uma biblioteca para R, chamada RWeka, que você pode instalar facilmente no R e usar muitas das funcionalidades deste ótimo programa, além das do R, deixe-me dar um exemplo de código para fazer uma árvore de decisão simples leia de um banco de dados padrão que acompanha este pacote (também é muito fácil desenhar a árvore resultante, mas vou permitir que você faça uma pesquisa sobre como fazê-lo, que está na documentação do RWeka:
library(RWeka)
iris <- read.arff(system.file("arff", "iris.arff", package = "RWeka"))
classifier <- IBk(class ~., data = iris)
summary(classifier)
Existem também várias bibliotecas python para fazer isso (python é muito, muito fácil de aprender)
Primeiro, deixe-me enumerar os pacotes que você pode usar; não vou detalhar em detalhes; Weka (sim, você tem uma biblioteca para python), NLKT (o pacote de código aberto mais famoso para mineração de texto além de datamining), statPy , sickits e scipy.
Também há laranja, que é excelente (também falarei sobre isso mais adiante), aqui está um exemplo de código para fazer uma árvore a partir dos dados na tabela cmpart1, que também realiza validação de 10 dobras, você também pode representar graficamente a árvore
import orange, orngMySQL, orngTree
data = orange.ExampleTable("c:\\python26\\orange\\cmpart1.tab")
domain=data.domain
n=10
buck=len(data)/n
l2=[]
for i in range(n):
tmp=[]
if i==n-1:
tmp=data[n*buck:]
else:
tmp=data[buck*i:buck*(i+1)]
l2.append(tmp)
train=[]
test=[]
di={'yy':0,'yn':0,'ny':0,'nn':0}
for i in range(n):
train=[]
test=[]
for j in range(n):
if j==i:
test=l2[i]
else:
train.extend(l2[j])
print "-----"
trai=orange.Example(domain, train)
tree = orngTree.TreeLearner(train)
for ins in test:
d1= ins.getclass()
d2=tree(ins)
print d1
print d2
ind=str(d1)+str(d2)
di[ind]=di[ind]+1
print di
Para terminar com alguns outros pacotes que usei e achei interessantes
Laranja : visualização e análise de dados para iniciantes e especialistas. Mineração de dados por meio de programação visual ou script Python. Componentes para aprendizado de máquina. Extensões para bioinformática e mineração de texto. (Eu pessoalmente recomendo isso, usei muito integrando-o em python e foi excelente) Posso enviar um código python, se você quiser.
ROSETTA : kit de ferramentas para análise de dados tabulares dentro da estrutura da teoria dos conjuntos aproximados. O ROSETTA foi projetado para suportar o processo geral de mineração de dados e descoberta de conhecimento: desde a navegação inicial e pré-processamento dos dados, através do cálculo de conjuntos mínimos de atributos e geração de regras if-then ou padrões descritivos, até validação e análise das regras ou padrões induzidos (Isso também gostei muito de usar)
KEEL : avalie algoritmos evolutivos para problemas de mineração de dados, incluindo regressão, classificação, clustering, mineração de padrões e assim por diante. Ele nos permite realizar uma análise completa de qualquer modelo de aprendizado em comparação aos modelos existentes, incluindo um módulo de teste estatístico para comparação.
DataPlot : para visualização científica, análise estatística e modelagem não linear. O usuário alvo do Dataplot é o pesquisador e analista envolvido na caracterização, modelagem, visualização, análise, monitoramento e otimização de processos científicos e de engenharia.
Openstats : Inclui Primer de Estatística e Medição, Estatística Descritiva, Comparações Simples, Análises de Variância, Correlação, Regressão Múltipla, Séries Temporais Interrompidas, Estatísticas Multivariadas, Estatísticas Não Paramétricas, Medição, Controle Estatístico de Processo, Procedimentos Financeiros, Redes Neurais, Simulação