La Mineria de Datos (Data Mining) comprende un conjunto de técnicas y algoritmos que persiguen la extracción de conocimiento útil a partir de grandes volúmenes de datos. Data Mining se emplea en una gran cantidad de dominios para lograr una mejor comprensión de éstos, para mejorar los procesos de las empresas, para gestionar la relación con los clientes, etc.
Normalmente, las compañías suelen acudir a equipos de ingenieros de Data Mining para que éstos les ayuden a resolver algún problema mediante el análisis de datos. Las compañías entregan datos a los ingenieros y éstos los analizan y generan unos resultados que se entregan a las compañías. Todo ello por una importante suma de dinero.
Esta visión del Data Mining parece estar evolucionando, en gran parte gracias a iniciativas como la propuesta por Kaggle, una plataforma online para realizar competiciones de Data Mining. La plataforma proporciona un repositorio para que las compañías publiquen sus datos. A partir de ahí, comienza un concurso abierto para que los expertos en Data Mining de todo el mundo descarguen esos datos y propongan soluciones a los problemas de la compañía en cuestión. La mejor solución se hace con un premio que puede rondar varios millones de dólares.
Gracias a este tipo de competiciones, se han resuelto problemas relacionados con el descubrimiento de nuevos entes en el universo, la predicción de la probabilidad de accidente de los asegurados de una compañía de seguros, etc. Además Kaggle constitutye un importante punto de encuentro entre los expertos en diferentes áreas.
La gran idea de Kaggle ha conseguido atraer a grandes inversores procedentes de compañías como PayPal o Google y ha hecho aumentar su valor en más de 11 millones de dólares en las últimas semanas.
Actualmente se encuentra abierto un concurso para analizar datos médicos con el objetivo de ayudar a reducir gastos innecesarios de billones de dólares en hospitalizaciones innecesarias. El premio, para quién esté pensando en participar, es de 3 millones de dólares.