Uploaded image for project: 'OpenShift Logging'
  1. OpenShift Logging
  2. LOG-4452

Index management cronjobs are rolling over indices when parsing JSON is enabled and not expected

XMLWordPrintable

    • Icon: Bug Bug
    • Resolution: Done-Errata
    • Icon: Major Major
    • Logging 5.8.1
    • Logging 5.7.4
    • Log Storage
    • None
    • False
    • None
    • False
    • NEW
    • NEW
    • Before this update, new empty indices were created after enabling parsing JSON logs even when the rollover conditions were not satisfied. With this update, rollover is skipped as long as the write-index is empty, thus avoiding creating empty indices.
    • Bug Fix
    • Hide

      1) Deploy RHOL 5.7.4 and a CLF similar to:

       

      spec:
        outputDefaults:
          elasticsearch:
            structuredTypeKey: openshift.labels.myLabel
        pipelines:
        - inputRefs:
          - application
          labels:
            myLabel: parsed app
          outputRefs:
          - default
          parse: json
      

      2) Check ES indices after two days:

       

      Wed Aug 16 08:03:35 UTC 2023
      health status index                uuid                   pri rep docs.count docs.deleted store.size pri.store.size
      green  open   infra-000006         _uFPxO1uQ-CGQ2cRpIlb7A   1   0     353971            0        354            354
      green  open   audit-000005         k2W4er27TQaIrWvDXbdFag   1   0          0            0          0              0
      green  open   infra-000004         cAcov4GUQoqbFJ6tuckKFQ   1   0          0            0          0              0
      green  open   app-parsedapp-000006 uxa0ioN6QiSQJQMhhMt60g   1   0          0            0          0              0
      green  open   audit-000002         PMD7VyERQoySnJpgXhgVXQ   1   0          0            0          0              0
      green  open   app-000005           NY1HRPsvRkCnRhza9u4tEA   1   0       4182            0          2              2
      green  open   infra-000003         ch0KCTHITsy4-SwyU0RP6g   1   0          0            0          0              0
      green  open   app-parsedapp-000005 cUFCweLpTRGo8fZNHc1Opg   1   0          0            0          0              0
      green  open   app-parsedapp-000002 psgzEMIPStOZZcsVousK7Q   1   0          0            0          0              0
      green  open   audit-000001         o2cMpgnUTuidkLfFfIFxmg   1   0          0            0          0              0
      green  open   infra-000005         uBrV7NzET06_xwyEdokKtA   1   0          0            0          0              0
      green  open   app-parsedapp-000004 4yYIrm1JTbW3epk64PEudA   1   0          0            0          0              0
      green  open   app-000003           J7iHcDCXTQGJd8mBQ60CPA   1   0       4188            0          2              2
      green  open   audit-000006         scxjMlvcSMS9oSVDBEPdDw   1   0          0            0          0              0
      green  open   app-000004           W6I2-l5OQ6CZdPWDxmcZug   1   0       4050            0          1              1
      green  open   app-000006           Poan4IqDTT6Bfrgxl1d0xA   1   0       3702            0          1              1
      green  open   app-000002           LRE64ogZQI25HJDan8hf_g   1   0       4182            0          2              2
      green  open   audit-000004         Tfae0nZ6TU2FBy5uwzr8dg   1   0          0            0          0              0
      green  open   app-parsedapp-000001 tjbcSuYtRjGwXJcCLJYGWg   1   0         34            0          0              0
      green  open   audit-000003         IP7ZC6AgS528KP925fXMcw   1   0          0            0          0              0
      green  open   app-000001           NoOcGf-PR0iWiJgGOY05WQ   1   0       4628            0          2              2
      green  open   infra-000002         kMlpihIjTU204KDI0y-4-w   1   0          0            0          0              0
      green  open   app-parsedapp-000003 uAv5e3l7SxeqfzUD3WZrNQ   1   0          0            0          0              0
      green  open   .security            Lerk1PX2TiuhRP1Vfz2y5A   1   0          6            0          0              0
      green  open   infra-000001         IKk_4SGjRTWMYBKouUaWZg   1   0     381653            0        280            280
      green  open   .kibana_1            UxzkQcouSZCsmxE-vyMf1Q   1   0          0            0          0              0
      

       

       

      3) Editing CLF instance changing the label from parse app to json:

       

      health status index                uuid                   pri rep docs.count docs.deleted store.size pri.store.size
      green  open   app-000007           XTmVGr6-Tp-wWBqLLGlRvw   1   0        108            0          0              0
      green  open   infra-000007         qiumO2ATTyOwPVp8F9XYEQ   1   0          0            0          0              0
      green  open   app-parsedapp-000007 a2NEI1EqQ7OLHymorhF0Xw   1   0          0            0          0              0
      green  open   infra-000006         _uFPxO1uQ-CGQ2cRpIlb7A   1   0     355587            0        272            272
      green  open   audit-000005         k2W4er27TQaIrWvDXbdFag   1   0          0            0          0              0
      green  open   infra-000004         cAcov4GUQoqbFJ6tuckKFQ   1   0          0            0          0              0
      green  open   app-parsedapp-000006 uxa0ioN6QiSQJQMhhMt60g   1   0          0            0          0              0
      green  open   audit-000002         PMD7VyERQoySnJpgXhgVXQ   1   0          0            0          0              0
      green  open   app-000005           NY1HRPsvRkCnRhza9u4tEA   1   0       4182            0          2              2
      green  open   infra-000003         ch0KCTHITsy4-SwyU0RP6g   1   0          0            0          0              0
      green  open   app-parsedapp-000005 cUFCweLpTRGo8fZNHc1Opg   1   0          0            0          0              0
      green  open   app-parsedapp-000002 psgzEMIPStOZZcsVousK7Q   1   0          0            0          0              0
      green  open   audit-000007         eUw2KzYJRlODrgLoF-c2ig   1   0          0            0          0              0
      green  open   audit-000001         o2cMpgnUTuidkLfFfIFxmg   1   0          0            0          0              0
      green  open   infra-000005         uBrV7NzET06_xwyEdokKtA   1   0          0            0          0              0
      green  open   app-parsedapp-000004 4yYIrm1JTbW3epk64PEudA   1   0          0            0          0              0
      green  open   app-000003           J7iHcDCXTQGJd8mBQ60CPA   1   0       4188            0          2              2
      green  open   audit-000006         scxjMlvcSMS9oSVDBEPdDw   1   0          0            0          0              0
      green  open   app-000004           W6I2-l5OQ6CZdPWDxmcZug   1   0       4050            0          1              1
      green  open   app-000006           Poan4IqDTT6Bfrgxl1d0xA   1   0       4080            0          2              2
      green  open   app-000002           LRE64ogZQI25HJDan8hf_g   1   0       4182            0          2              2
      green  open   app-json-000001      PHuqSP6ZTnapfry2XZnmww   1   0         18            0          0              0
      green  open   audit-000004         Tfae0nZ6TU2FBy5uwzr8dg   1   0          0            0          0              0
      green  open   app-parsedapp-000001 tjbcSuYtRjGwXJcCLJYGWg   1   0         34            0          0              0
      green  open   audit-000003         IP7ZC6AgS528KP925fXMcw   1   0          0            0          0              0
      green  open   app-000001           NoOcGf-PR0iWiJgGOY05WQ   1   0       4628            0          2              2
      green  open   infra-000002         kMlpihIjTU204KDI0y-4-w   1   0          0            0          0              0
      green  open   app-parsedapp-000003 uAv5e3l7SxeqfzUD3WZrNQ   1   0          0            0          0              0
      green  open   .security            Lerk1PX2TiuhRP1Vfz2y5A   1   0          6            0          0              0
      green  open   infra-000001         IKk_4SGjRTWMYBKouUaWZg   1   0     381653            0        280            280
      green  open   .kibana_1            UxzkQcouSZCsmxE-vyMf1Q   1   0          0            0          0              0
      

       

      After some minutes and injecting json logs, we can observe that the new index "app-json" is created, but in addition, new index "app-parsedapp-000007" was also created after modifying the index configuration.

       

      health status index                id                     pri rep docs.count docs.deleted store.size creation.date.string
      green  open   app-000007           XTmVGr6-Tp-wWBqLLGlRvw   1   0        564            0    476.5kb 2023-08-16T08:45:05.675Z
      green  open   infra-000007         qiumO2ATTyOwPVp8F9XYEQ   1   0          0            0       261b 2023-08-16T08:45:03.655Z
      green  open   app-parsedapp-000007 a2NEI1EqQ7OLHymorhF0Xw   1   0          0            0       261b 2023-08-16T08:45:04.930Z
      green  open   infra-000006         _uFPxO1uQ-CGQ2cRpIlb7A   1   0     355587            0    272.7mb 2023-08-16T00:30:04.137Z
      green  open   audit-000005         k2W4er27TQaIrWvDXbdFag   1   0          0            0       261b 2023-08-15T16:15:04.882Z
      green  open   infra-000004         cAcov4GUQoqbFJ6tuckKFQ   1   0          0            0       261b 2023-08-15T08:15:03.339Z
      green  open   app-parsedapp-000006 uxa0ioN6QiSQJQMhhMt60g   1   0          0            0       261b 2023-08-16T00:45:03.857Z
      green  open   audit-000002         PMD7VyERQoySnJpgXhgVXQ   1   0          0            0       261b 2023-08-14T16:00:04.310Z
      green  open   app-000005           NY1HRPsvRkCnRhza9u4tEA   1   0       4182            0      2.1mb 2023-08-15T16:30:04.634Z
      green  open   infra-000003         ch0KCTHITsy4-SwyU0RP6g   1   0          0            0       261b 2023-08-15T00:00:03.521Z
      green  open   app-parsedapp-000005 cUFCweLpTRGo8fZNHc1Opg   1   0          0            0       261b 2023-08-15T16:30:03.830Z
      green  open   app-parsedapp-000002 psgzEMIPStOZZcsVousK7Q   1   0          0            0       261b 2023-08-14T16:15:03.566Z
      green  open   audit-000007         eUw2KzYJRlODrgLoF-c2ig   1   0          0            0       261b 2023-08-16T08:30:03.357Z
      green  open   audit-000001         o2cMpgnUTuidkLfFfIFxmg   1   0          0            0       261b 2023-08-14T07:57:07.214Z
      green  open   infra-000005         uBrV7NzET06_xwyEdokKtA   1   0          0            0       261b 2023-08-15T16:15:03.821Z
      green  open   app-parsedapp-000004 4yYIrm1JTbW3epk64PEudA   1   0          0            0       261b 2023-08-15T08:30:03.756Z
      green  open   app-000003           J7iHcDCXTQGJd8mBQ60CPA   1   0       4188            0        2mb 2023-08-15T00:15:05.153Z
      green  open   audit-000006         scxjMlvcSMS9oSVDBEPdDw   1   0          0            0       261b 2023-08-16T00:30:03.298Z
      green  open   app-000004           W6I2-l5OQ6CZdPWDxmcZug   1   0       4050            0      1.9mb 2023-08-15T08:30:04.590Z
      green  open   app-000006           Poan4IqDTT6Bfrgxl1d0xA   1   0       4080            0        2mb 2023-08-16T00:45:04.776Z
      green  open   app-000002           LRE64ogZQI25HJDan8hf_g   1   0       4182            0        2mb 2023-08-14T16:00:04.754Z
      green  open   app-json-000001      PHuqSP6ZTnapfry2XZnmww   1   0         18            0     30.9kb 2023-08-16T08:05:31.861Z
      green  open   audit-000004         Tfae0nZ6TU2FBy5uwzr8dg   1   0          0            0       261b 2023-08-15T08:15:04.070Z
      green  open   app-parsedapp-000001 tjbcSuYtRjGwXJcCLJYGWg   1   0         34            0     60.3kb 2023-08-14T08:03:39.476Z
      green  open   audit-000003         IP7ZC6AgS528KP925fXMcw   1   0          0            0       261b 2023-08-15T00:00:04.435Z
      green  open   app-000001           NoOcGf-PR0iWiJgGOY05WQ   1   0       4628            0      2.4mb 2023-08-14T07:57:06.859Z
      green  open   infra-000002         kMlpihIjTU204KDI0y-4-w   1   0          0            0       261b 2023-08-14T16:00:03.419Z
      green  open   app-parsedapp-000003 uAv5e3l7SxeqfzUD3WZrNQ   1   0          0            0       261b 2023-08-15T00:15:04.362Z
      green  open   .security            Lerk1PX2TiuhRP1Vfz2y5A   1   0          6            0     33.2kb 2023-08-14T07:56:56.246Z
      green  open   infra-000001         IKk_4SGjRTWMYBKouUaWZg   1   0     381653            0    280.3mb 2023-08-14T07:57:07.023Z
      green  open   .kibana_1            UxzkQcouSZCsmxE-vyMf1Q   1   0          0            0       261b 2023-08-14T07:57:05.284Z
      

       

      From the other side, empty indices are created without filling the rollover points.

       

      Show
      1) Deploy RHOL 5.7.4 and a CLF similar to:   spec:   outputDefaults:     elasticsearch:       structuredTypeKey: openshift.labels.myLabel   pipelines:   - inputRefs:     - application     labels:       myLabel: parsed app     outputRefs:     - default     parse: json 2) Check ES indices after two days:   Wed Aug 16 08:03:35 UTC 2023 health status index                uuid                   pri rep docs.count docs.deleted store.size pri.store.size green  open   infra-000006         _uFPxO1uQ-CGQ2cRpIlb7A   1   0     353971            0        354            354 green  open   audit-000005         k2W4er27TQaIrWvDXbdFag   1   0          0            0          0              0 green  open   infra-000004         cAcov4GUQoqbFJ6tuckKFQ   1   0          0            0          0              0 green  open   app-parsedapp-000006 uxa0ioN6QiSQJQMhhMt60g   1   0          0            0          0              0 green  open   audit-000002         PMD7VyERQoySnJpgXhgVXQ   1   0          0            0          0              0 green  open   app-000005           NY1HRPsvRkCnRhza9u4tEA   1   0       4182            0          2              2 green  open   infra-000003         ch0KCTHITsy4-SwyU0RP6g   1   0          0            0          0              0 green  open   app-parsedapp-000005 cUFCweLpTRGo8fZNHc1Opg   1   0          0            0          0              0 green  open   app-parsedapp-000002 psgzEMIPStOZZcsVousK7Q   1   0          0            0          0              0 green  open   audit-000001         o2cMpgnUTuidkLfFfIFxmg   1   0          0            0          0              0 green  open   infra-000005         uBrV7NzET06_xwyEdokKtA   1   0          0            0          0              0 green  open   app-parsedapp-000004 4yYIrm1JTbW3epk64PEudA   1   0          0            0          0              0 green  open   app-000003           J7iHcDCXTQGJd8mBQ60CPA   1   0       4188            0          2              2 green  open   audit-000006         scxjMlvcSMS9oSVDBEPdDw   1   0          0            0          0              0 green  open   app-000004           W6I2-l5OQ6CZdPWDxmcZug   1   0       4050            0          1              1 green  open   app-000006           Poan4IqDTT6Bfrgxl1d0xA   1   0       3702            0          1              1 green  open   app-000002           LRE64ogZQI25HJDan8hf_g   1   0       4182            0          2              2 green  open   audit-000004         Tfae0nZ6TU2FBy5uwzr8dg   1   0          0            0          0              0 green  open   app-parsedapp-000001 tjbcSuYtRjGwXJcCLJYGWg   1   0         34            0          0              0 green  open   audit-000003         IP7ZC6AgS528KP925fXMcw   1   0          0            0          0              0 green  open   app-000001           NoOcGf-PR0iWiJgGOY05WQ   1   0       4628            0          2              2 green  open   infra-000002         kMlpihIjTU204KDI0y-4-w   1   0          0            0          0              0 green  open   app-parsedapp-000003 uAv5e3l7SxeqfzUD3WZrNQ   1   0          0            0          0              0 green  open   .security            Lerk1PX2TiuhRP1Vfz2y5A   1   0          6            0          0              0 green  open   infra-000001         IKk_4SGjRTWMYBKouUaWZg   1   0     381653            0        280            280 green  open   .kibana_1            UxzkQcouSZCsmxE-vyMf1Q   1   0          0            0          0              0     3) Editing CLF instance changing the label from parse app to json:   health status index                uuid                   pri rep docs.count docs.deleted store.size pri.store.size green  open   app-000007           XTmVGr6-Tp-wWBqLLGlRvw   1   0        108            0          0              0 green  open   infra-000007         qiumO2ATTyOwPVp8F9XYEQ   1   0          0            0          0              0 green  open   app-parsedapp-000007 a2NEI1EqQ7OLHymorhF0Xw   1   0          0            0          0              0 green  open   infra-000006         _uFPxO1uQ-CGQ2cRpIlb7A   1   0     355587            0        272            272 green  open   audit-000005         k2W4er27TQaIrWvDXbdFag   1   0          0            0          0              0 green  open   infra-000004         cAcov4GUQoqbFJ6tuckKFQ   1   0          0            0          0              0 green  open   app-parsedapp-000006 uxa0ioN6QiSQJQMhhMt60g   1   0          0            0          0              0 green  open   audit-000002         PMD7VyERQoySnJpgXhgVXQ   1   0          0            0          0              0 green  open   app-000005           NY1HRPsvRkCnRhza9u4tEA   1   0       4182            0          2              2 green  open   infra-000003         ch0KCTHITsy4-SwyU0RP6g   1   0          0            0          0              0 green  open   app-parsedapp-000005 cUFCweLpTRGo8fZNHc1Opg   1   0          0            0          0              0 green  open   app-parsedapp-000002 psgzEMIPStOZZcsVousK7Q   1   0          0            0          0              0 green  open   audit-000007         eUw2KzYJRlODrgLoF-c2ig   1   0          0            0          0              0 green  open   audit-000001         o2cMpgnUTuidkLfFfIFxmg   1   0          0            0          0              0 green  open   infra-000005         uBrV7NzET06_xwyEdokKtA   1   0          0            0          0              0 green  open   app-parsedapp-000004 4yYIrm1JTbW3epk64PEudA   1   0          0            0          0              0 green  open   app-000003           J7iHcDCXTQGJd8mBQ60CPA   1   0       4188            0          2              2 green  open   audit-000006         scxjMlvcSMS9oSVDBEPdDw   1   0          0            0          0              0 green  open   app-000004           W6I2-l5OQ6CZdPWDxmcZug   1   0       4050            0          1              1 green  open   app-000006           Poan4IqDTT6Bfrgxl1d0xA   1   0       4080            0          2              2 green  open   app-000002           LRE64ogZQI25HJDan8hf_g   1   0       4182            0          2              2 green  open   app-json-000001      PHuqSP6ZTnapfry2XZnmww   1   0         18            0          0              0 green  open   audit-000004         Tfae0nZ6TU2FBy5uwzr8dg   1   0          0            0          0              0 green  open   app-parsedapp-000001 tjbcSuYtRjGwXJcCLJYGWg   1   0         34            0          0              0 green  open   audit-000003         IP7ZC6AgS528KP925fXMcw   1   0          0            0          0              0 green  open   app-000001           NoOcGf-PR0iWiJgGOY05WQ   1   0       4628            0          2              2 green  open   infra-000002         kMlpihIjTU204KDI0y-4-w   1   0          0            0          0              0 green  open   app-parsedapp-000003 uAv5e3l7SxeqfzUD3WZrNQ   1   0          0            0          0              0 green  open   .security            Lerk1PX2TiuhRP1Vfz2y5A   1   0          6            0          0              0 green  open   infra-000001         IKk_4SGjRTWMYBKouUaWZg   1   0     381653            0        280            280 green  open   .kibana_1            UxzkQcouSZCsmxE-vyMf1Q   1   0          0            0          0              0   After some minutes and injecting json logs, we can observe that the new index "app-json" is created, but in addition, new index "app-parsedapp-000007" was also created after modifying the index configuration.   health status index                id                     pri rep docs.count docs.deleted store.size creation.date.string green  open   app-000007           XTmVGr6-Tp-wWBqLLGlRvw   1   0        564            0    476.5kb 2023-08-16T08:45:05.675Z green  open   infra-000007         qiumO2ATTyOwPVp8F9XYEQ   1   0          0            0       261b 2023-08-16T08:45:03.655Z green  open   app-parsedapp-000007 a2NEI1EqQ7OLHymorhF0Xw   1   0          0            0       261b 2023-08-16T08:45:04.930Z green  open   infra-000006         _uFPxO1uQ-CGQ2cRpIlb7A   1   0     355587            0    272.7mb 2023-08-16T00:30:04.137Z green  open   audit-000005         k2W4er27TQaIrWvDXbdFag   1   0          0            0       261b 2023-08-15T16:15:04.882Z green  open   infra-000004         cAcov4GUQoqbFJ6tuckKFQ   1   0          0            0       261b 2023-08-15T08:15:03.339Z green  open   app-parsedapp-000006 uxa0ioN6QiSQJQMhhMt60g   1   0          0            0       261b 2023-08-16T00:45:03.857Z green  open   audit-000002         PMD7VyERQoySnJpgXhgVXQ   1   0          0            0       261b 2023-08-14T16:00:04.310Z green  open   app-000005           NY1HRPsvRkCnRhza9u4tEA   1   0       4182            0      2.1mb 2023-08-15T16:30:04.634Z green  open   infra-000003         ch0KCTHITsy4-SwyU0RP6g   1   0          0            0       261b 2023-08-15T00:00:03.521Z green  open   app-parsedapp-000005 cUFCweLpTRGo8fZNHc1Opg   1   0          0            0       261b 2023-08-15T16:30:03.830Z green  open   app-parsedapp-000002 psgzEMIPStOZZcsVousK7Q   1   0          0            0       261b 2023-08-14T16:15:03.566Z green  open   audit-000007         eUw2KzYJRlODrgLoF-c2ig   1   0          0            0       261b 2023-08-16T08:30:03.357Z green  open   audit-000001         o2cMpgnUTuidkLfFfIFxmg   1   0          0            0       261b 2023-08-14T07:57:07.214Z green  open   infra-000005         uBrV7NzET06_xwyEdokKtA   1   0          0            0       261b 2023-08-15T16:15:03.821Z green  open   app-parsedapp-000004 4yYIrm1JTbW3epk64PEudA   1   0          0            0       261b 2023-08-15T08:30:03.756Z green  open   app-000003           J7iHcDCXTQGJd8mBQ60CPA   1   0       4188            0        2mb 2023-08-15T00:15:05.153Z green  open   audit-000006         scxjMlvcSMS9oSVDBEPdDw   1   0          0            0       261b 2023-08-16T00:30:03.298Z green  open   app-000004           W6I2-l5OQ6CZdPWDxmcZug   1   0       4050            0      1.9mb 2023-08-15T08:30:04.590Z green  open   app-000006           Poan4IqDTT6Bfrgxl1d0xA   1   0       4080            0        2mb 2023-08-16T00:45:04.776Z green  open   app-000002           LRE64ogZQI25HJDan8hf_g   1   0       4182            0        2mb 2023-08-14T16:00:04.754Z green  open   app-json-000001      PHuqSP6ZTnapfry2XZnmww   1   0         18            0     30.9kb 2023-08-16T08:05:31.861Z green  open   audit-000004         Tfae0nZ6TU2FBy5uwzr8dg   1   0          0            0       261b 2023-08-15T08:15:04.070Z green  open   app-parsedapp-000001 tjbcSuYtRjGwXJcCLJYGWg   1   0         34            0     60.3kb 2023-08-14T08:03:39.476Z green  open   audit-000003         IP7ZC6AgS528KP925fXMcw   1   0          0            0       261b 2023-08-15T00:00:04.435Z green  open   app-000001           NoOcGf-PR0iWiJgGOY05WQ   1   0       4628            0      2.4mb 2023-08-14T07:57:06.859Z green  open   infra-000002         kMlpihIjTU204KDI0y-4-w   1   0          0            0       261b 2023-08-14T16:00:03.419Z green  open   app-parsedapp-000003 uAv5e3l7SxeqfzUD3WZrNQ   1   0          0            0       261b 2023-08-15T00:15:04.362Z green  open   .security            Lerk1PX2TiuhRP1Vfz2y5A   1   0          6            0     33.2kb 2023-08-14T07:56:56.246Z green  open   infra-000001         IKk_4SGjRTWMYBKouUaWZg   1   0     381653            0    280.3mb 2023-08-14T07:57:07.023Z green  open   .kibana_1            UxzkQcouSZCsmxE-vyMf1Q   1   0          0            0       261b 2023-08-14T07:57:05.284Z   From the other side, empty indices are created without filling the rollover points.  
    • Log Storage - Sprint 241, Log Storage - Sprint 242, Log Storage - Sprint 243, Log Storage - Sprint 244, Log Storage - Sprint 245
    • Moderate
    • Medium (50%-79%) [It is possible this will become an issue]

      Description of problem:

      Similar to LOG-3063. in the past.

      -OCP version 4.12
      -RHOL VERSION 5.7.4

       

      After enabling parsing JSON logs functionality in ClusterLogForwarder (CLF) instance, new empty indices (app, infra, and audit) are created without fulfilling the following characteristics:

      -The index is older than the rollover.maxAge value in the Elasticsearch CR.
      -The index size is greater than 40 GB × the number of primary shards.
      -The index doc count is greater than 40960 KB × the number of primary shards.

       

      These new indices created are empty but they are created without complying with the characteristics that the cronjobs have to do the rollover. After a time we found a lot of empty indexes.

      This could give performance problems since the indices use metadata.

       

              btaani@redhat.com Bayan Taani
              acandelp Adrian Candel
              Anping Li Anping Li
              Votes:
              0 Vote for this issue
              Watchers:
              7 Start watching this issue

                Created:
                Updated:
                Resolved: