ひとことで言うと
メトリクス可視化ダッシュボードの定番OSS。
Grafanaは、集めた数値データをグラフやダッシュボードとして見やすく可視化するオープンソースの定番ツールです。それ自体はデータを保存せず、Prometheusなどの外部データソースに接続して、時系列のメトリクスを折れ線・棒・ヒートマップなどで描き出します。チームで共有できる監視画面を素早く作れるのが強みです。
アラート機能もあり、しきい値を超えたらSlackやメールへ通知を送れます。生成AIサービスの運用では、応答遅延やエラー率、コストの推移を1枚のダッシュボードにまとめておくと、障害や急なコスト増にすぐ気づけます。データの「収集」はPrometheusやOpenTelemetry、「見える化」はGrafana、と役割が分かれている点を理解すると構成図が読みやすくなります。