Open Business Intelligence

La red del Business Intelligence

Administrar la ejecución de jobs y transfromaciones para que se automática

Saludos a todos.
Me gustaría conocer ahora un poco sobre la programación de los procesos ETLs
para que se ejecuten de manera automática.
Se que el Kettle permite guardar las transformaciones y jobs de dos formas:


  • ficheros (Pasos para programar la auto ejecución por esta vía)
  • en una BD (Pasos para programar la auto ejecución por esta vía)

Me gustaría saber qué forma es más recomendable para poder programar la ejecución automática de los mismos y cómo se hace (cuales son los pasos para cada una de las opciones).
Me sería muy útil si me pudieran abundar más detalladamente en los siguientes
aspectos:

Necesito saber cómo puedo hacer para evitar que cuando valla a incorporar datos
en una tabla del DW no me sobrescriba toda la tabla, sino que empiece por donde
se quedó la última actualización.
Esto se podría hacer desde el propio job en el Kettle si la Tabla guardara un
Id por el cual se podría buscar la existencia del mismo en ambas tablas OLTP y
la OLAP, pero cuando la tabla del OLAP no guarda un Id , sino cantidades, no
tengo cómo ver cuál fue la última en insertarse, y en el proceso de carga
podrían ocurrir inconvenientes como que se ve afectado el fluido eléctrico o se
cae la conexión.
Podrían explicarme como podría hacer que siempre que se realice el proceso ETL
este empiece por donde se quedo la carga y no me pase por encima otra vez a
toda la tabla?


Gracias de antemano

Visitas: 364

Respuestas a esta discusión

Veo que es bastante dificil, porque como se puede discriminar cual fue la ultima tupla que agregaste si estas contando las columnas.
Yo siempre debo ejecutar el JOB, y esperar a que se carge con datos historicos, mas los nuevos datos que se almacenaron. Quizas se podria realizar mediante SP.
Desde ya saludos, pero si se puede hacer lo que consulta Dennis seria ideal la compartieran. desde ya saludos.

RSS

Distintivo

Cargando…

© 2020   Creado por Emilio.   Tecnología de

Emblemas  |  Reportar un problema  |  Términos de servicio