Tracy 是一款开源 Kotlin 库,可以在几分钟内为 AI 赋能的应用程序添加生产级可观测性。它可以帮助您调试故障、测算执行时间,并跟踪模型调用、工具调用和您的自定义应用程序逻辑中的 LLM 使用情况。归根结底,全面的可观测性确保您可以获取了解真实应用程序行为的准确数据,从宏观趋势到细粒度跟踪分析性能,为全面的在线和离线评估提供支持。
Tracy 与常用的 Kotlin/LLM 技术栈(包括 OkHttp 和 Ktor 客户端,以及 OpenAI、Anthropic 和 Gemini 服务)无缝协作,它的底层基于 OpenTelemetry 构建。此架构可以确保开发者全面灵活掌控跟踪数据…