loki 性能问题

clickhouse performance

我们有很多的应用，现在我们收集日志到 clickhouse 中。通过 grafana 查询，根据 project_name ，app_name 选择要查询的应用，而且在 grafana 我们有一个 text input 框，可以输入想要查询的关键字。 比如我选择了 project_name = "aaa", app_name = "bbb"，并且在 text input 框中输入了一个关键字 ccc 。上面的条件会组合成 sql 去 clickhouse 中查询:

select project_name, app_name, message from target_table where project_name = "aaa" and app_name = "bbb" and message like '%ccc%' and message_time >= $_from and message_time <= $_to;

• 每一个 app_name 每天的日志条数为 3 亿条左右。
• 查询的时间范围可能是几小时,几天或者 1 个星期。
• 在选定的时间范围内可以 order by asc/desc
• grafana 中也会统计选定时间范围内符合条件的日志数量

在 clickhouse 中这种查询的响应速度还是比较快的。查询一天的数据量(3 亿多)，最多几秒钟就行了。

loki performance

但是在 loki 中，对 3000 万行日志的查询就会很慢。如果查关键字，那么 loki 服务就直接 oom 了。还有，我发现 count 日志也是如此，loki 会比 clickhouse 慢很多很多。

question

如果是有关键字的查询，loki 的性能就会很差吗？还有，count 也是很慢的。