Ir al contenido

Historial de versiones

  • Bump de django-datajsonar a 0.6.5
  • Streamline de corrida manual de synchronizers
  • Configuración de validación de distribuciones
  • Bump de series-tiempo-ar a 0.3.6
  • Bump de django-datajsonar a 0.6.3
  • Bugfix en colapsos inferidos no aplicándose
  • Agrego el nombre del nodo en reportes de indexación
  • Bump de django-datajsonar a 0.6.1, incluyendo funcionalidad de restaurar una configuración default de synchronizers
  • Bugfix a corrida de indexación de metadatos para un nodo individual corriendo para todos los nodos
  • Fix de conflictos en borrado de datos durante indexación a Elasticsearch
  • Bump de series-tiempo-ar a 0.3.5
  • Bugfix de representation_mode como percent_change_since_beginning_of_year para que sea considerado porcentual
  • Bump de django-datajsonar a 0.5.1 (disponibiliza URLs de descarga de catálogos, auto whitelist de datasets federables)
  • Bugfix en collapse_aggregation max/min para ciertas series tirando valores incorrectos
  • Bugfix de distribuciones con múltiples índices de tiempo cargados (uno no presente) no indexandose
  • Agregado de más newlines en reportes de errores para distinguir múltiples errores en una distribución
  • Agrego corridas de test de integración a UI del admin
  • Bugfix a dumps CSV no generándose si no existía metadato enriquecido de frecuencia de alguna de las series en la base
  • Todo mail ahora es enviado con CCO al remitente
  • Aplicación de heurística en el cálculo de cifras significativas de series, para corregir casos de errores de la representación decimal de los datos debido a la pérdida de precisión del punto flotante
  • Bugfix en collapse_aggregation no funcionando en casos de múltiples series con frecuencias diferentes
  • Bugfix en precisión decimal de los datos indexados
  • Bump de django-datajsonar a 0.4.8
  • Bugfix a tarea de indexación de datos corriendo para un único nodo
  • Bugfixes a metadato significant_figures que calculaba mal casos series de números enteros
  • Bugfix en timeouts de indexación
  • Nuevo metadato enriquecido de series: significant_figures
  • Bugfix a agregaciones de collapse siendo ignoradas
  • Parámetros nuevos para /search: sort y sort_by
  • Botones de acceso directo a acciones comunes en el admin de django
  • Indexación: Bugfixes y cambios en pydatajson para permitir lecturas concurrentes de catálogos en XLSX
  • Bugfix de is_percentage devolviendo valores incorrectos
  • Bump de django-datjasonar a 0.4.3
  • Bugfix a metadatos de modos de representación de las series repetidos cuando se pedía una misma serie con distintos modos de representación
  • Modificaciones de Headers en responses para permitir usos de APIs en cualquier sitio (CORS)
  • Bump de series-tiempo-ar a 0.3.1
  • Agrega parametro opcional catalog_format al endpoint de validaciones
  • Bump de django_datajsonar a 0.4.2
  • Nuevo endpoint: /validate. Permite validar distribuciones de un catálogo de series de tiempo a partir de una URL y un identifier.
  • Recuperación de contraseña
  • Mejora de descripción de títulos en consultas con formato CSV.
  • Muestra de todos los errores de una distribución cuando falla
  • Fixes a pantalla del login
  • Filtra queries por método, descartando las de método OPTIONS.
  • Estilos institucionales del login page.
  • Bump de versión de django_datajsonar con verificación de SSL a nivel nodo.
  • Refactor menor de código para leer distribuciones desde el file system de la aplicación en vez de descargar desde la fuente original durante la generación de dumps.
  • Bugfix a consultas que devolvían datos vacíos cuando se pedía una serie con collapse_aggregation definido y sin collapse.
  • Cambios en la rutina de indexación de metadatos para hacer ciertos campos no obligatorios (themeTaxonomy de un catálogo fuente)
  • La tabla de errores del reporte de indexación ahora viene ordenada según el ID del catálogo, y luego el ID de la distribución errónea
  • Validaciones adicionales en indexación de datos relacionadas con encoding de archivos en latin1
  • Tabla de errores de distribuciones en reporte de indexación
  • Fix de regresión de lectura de dataset identifiers durante la indexación de datos a Elasticsearch
  • Fixes en indexación de distribuciones, no se verifica el certificado de SSL (necesario para obtener datos de algunos publicadores)
  • Fix a lectura de series marcadas como no presentes
  • Cambio caracter separador en /search: de ‘,’ -> ‘||’ (dos caracteres)
  • Muestro ID de catalogos en reportes individuales
  • Mejoras de manejo de errores de tareas asincronicas
  • Bump de versión de django_datajsonar a 0.2.0, y adaptando la base de código para ser compatible con dicha versión
  • Bugfix de indexación de metadatos: ahora se indexan todas las series disponibles en vez de las disponibles sin error
  • Bump de versión de django_datjasonar a 0.1.22
  • Bugfix en cálculo de metadatos enriquecidos: ahora se calculan en todas las indexaciones, y no sólo cuando una distribución es actualizada
  • Fix a mails no utilizando el campo from_email de la configuración dinámica.
  • Fix a mails de test de integración mandandose múltiplies veces, y ocasionalmente con un attachment vacío
  • Bump de versión micro de django_datajsonar
  • Fix al callable_str de RunIntegrationTaskAdmin incorrecto
  • Parametrización del índice de tiempo: no es más necesario utilizar un índice de tiempo con nombre indice_tiempo para indexar distribuciones
  • Cambios de respuesta: percent_change cambia su nombre verbose a Variación porcentual período anterior
  • Validaciones adicionales en generación de dumps CSV y SQL
  • Revert al uso de metadatos de consultas en el endpoint de búsqueda
  • Revert al conteo de series en cada filtro de metadatos.
  • Nuevo parámetro para /search: aggregations muestra el conteo de series relevantes para la búsqueda dada, desagregadas según los varios filtros posibles
  • Bugfixes en indexación y respuesta de API series (#471, #473, #474)
  • Administración de unidades de series, con atributo de si son porcentuales
  • Conteo de series en cada filtro de metadatos
  • Actualización de validaciones de series durante la indexación

Metadatos de consultas de las series: rutina de cálculo diaria, uso en dumps y en resultados de búsqueda de series

  • Nuevos metadatos de series: representation_mode y representation_mode_units
  • Borrado del croneado de tareas usado para metadatos, analytics y test de integración. Su funcionalidad quedó deprecada por Synchronizer de django_datajsonar.
  • Bump de la versión de django_datajsonar a 0.1.17, con mejoras de UX de Synchronizers
  • Bump de la versión de series-tiempo-ar a 0.2.1, con una validación adicional para permitir distribuciones con series vacías, hasta cierta proporción.
  • Agregados nuevos metadatos de series (metadata=full o metadata=only): max_value, min_value, average
  • Integración con django_datajsonar: Uso de Synchronizers y Stages para correr tareas asincrónicas de manera ordenada
  • Optimizaciones de performance en dumps CSV
  • Indexación de datos: siempre se reindexan completamente las distribuciones (refresh)
  • Test de integración y consistencia de los datos, a correr después de la indexación diaria.
  • Bugfix de series sin datos cuando eran pedidas en un solo request
  • Traducción parcial del panel de administración a español

Release con herramientas de administración para “refrescar” distribuciones de datos inconsistentes con su fuente.

Correcciones a dumps:

  • Header faltante en hojas adicionales en dump XLSX
  • Columnas y nombres de una tabla de dumps SQL
  • Bugfix de generación de dump global XLSX Mejoras de organización en el admin de django
  • Nuevo parámetro last. Ver documentación
  • Permito trailing slashes en URLs de descarga de dumps
  • Fix de estabilidad de generación de dumps en general.
  • Fix a tasks asincrónicas de dumps no corriendo correctamente cuando son generadas desde el admin
  • Orden a filas de dump de metadatos
  • No es más necesario setear dataset_identifier en distributciones para ser indexadas
  • Se permiten csvs de distribuciones con encoding distinto a utf-8
  • Callables de rqscheduler para dumps CSV y XLSX.
  • Optimizaciones de memoria de generación dumps xlsx
  • Pequeño release con un fix a parseo de URLs de descarga de distribuciones
  • Hotfix para servir files de minio desde una ruta interna de la aplicación
  • Hotfixes de logging de dump
  • Nueva generación de dumps en CSV, usando los datos cargados en postgres, y generando dumps individuales por catálogo.
  • Borrado de datos en el endpoint de /search/ cuando una serie se borra de la base de datos
  • Refactor e integración de generación de dumps de la base de datos de series de tiempo, para utilizar postgres en vez de Elasticsearch e integrar los archivos al filesystem distribuido
  • Adopción de semver como sistema de versionado
  • File system distribuido (minio)
  • Optimizaciones en la UI del admin
  • Display de mensajes de error en reportes de indexación
  • Correcciones en importado de analytics para adaptarse a la nueva API paginada con cursor en api mgmt
  • Cambio de nombres de respuesta de metadatos.
  • Fixes de usabilidad del admin relacionado a administradores de nodos.
  • Bugfixes en respuesta de /series
  • Se aumenta el límite de series máximas por request a 40
  • Revisión de nombres y agregado de metadatos en la respuesta de /series
  • Cambio de nombre de parámetro de /search: offset -> start para consistencia con /series
  • Análisis y tokenización de texto para la búsqueda de metadatos en /search. Permite reconocer palabras sin acento, entre otras cosas.
  • Muestra de metadatos enriquecidos de las series pedidas en /series, cuando se pide la respuesta con metadata=full o metadata=only. Actualmente todos los valores devueltos son de tipo string, sujeto a cambios a futuro.
  • Modificación de la respuesta de metadatos en search/: se agregan campos dataset.theme, dataset.source y field.units. Además se cambia la respuesta de field.periodicity de formato legible por humanos a ISO8601
  • Actualizaciones de django_datajsonar
  • Se agregan aliases de catálogos para metadatos. Se puede configurar un alias para los filtros catalog_id que sea equivalente a filtrar por uno o más catálogos.
  • Funcionalidades de importado histórico de analytics, y ampliación de los datos guardados de cada query
  • Validación de catálogos leídos al generar reporte
  • Fixes a los valores de reportes
  • Fix de metadatos enriquecidos no mostrándose bien en /search/
  • Nuevo formato de respuesta de metadatos tanto en /series como en /search
  • Mejoras en visualizaciones del admin de django
  • Mejoras al endpoint de búsqueda: nuevo parámetro catalog_id
  • Mejoras al indexado de metadatos
  • Configuración de importado de analytics desde un API gateway

Se pasa a usar django_datajsonar como dependencia directa para manejar las entidades procesadas de data.json de los nodos

Actualización de dependencias pydatajson==0.4.12

Actualización de validaciones para indexación

Release con:

  • Resumen de reporte de indexación
  • Detalle de cada entidad indexada como archivos adjuntos en el reporte
  • Reimplementación de aggregations max y min
  • Fechas en el dump de analytics se exportan en horario local

Mejoras al formato del reporte de indexación, junto con mensajes de error más descriptivos

Hotfix con fixes a comportamiento erróneo en queries de dos series iguales con distinto modo de representación + uso de caracter decimal no default

Release con:

  • Permite generar reportes de indexación individuales por nodo
  • Fixes a valores de los reportes (datasets actualizados, no actualizados)
  • Mejoras de performance de la indexación de metadatos

Generación de reporte de indexación completo: Nuevos fields para catálogos, datasets, distribuciones y series.

  • Mejoras en la generación de reportes de indexación, con más campos reportados.
  • Mostrado de versión en la página principal del admin de Django
  • Mejora del proceso de indexación y persistencia de las métricas obtenidas
  • Bugfix para permitir que las series de tiempo puedan cambiar de distribución dentro de un mismo catálogo

Bugfixes:

  • Correcciones a llamadas de series múltiples en orden descendiente
  • Permito la exportación correcta de analytics a CSV en volúmenes grandes
  • Correcciones a guardados de analytics erróneos

Endpoint de búsqueda de series: /search

Fixes a herramientas de administración:

  • No se indexan metadatos de series y distribuciones pertenecientes a catálogos no marcados como indexables
  • Finalización automática de la tarea de indexación si no hay datasets marcados como indexable
  • Arreglos a borrados de croneado de tareas de indexación

Herramientas de administración:

  • Configuración de que nodos y datasets se deben indexar
  • Configuración del croneado de la tarea de indexación
  • Generación de reportes de resultado de indexación por mail a los administradores

Release inicial