Llamatik

Llamatik 是一个面向 Kotlin Multiplatform 的真正端侧 AI SDK,覆盖 Android、iOS、Desktop、JVM 与 WASM 平台。它要解决的问题是:让 Kotlin 开发者在多平台上用一套代码,直接在本地设备运行 AI 能力,无需依赖云端服务,从而保证数据隐私、降低延迟并支持离线使用。项目底层基于 llama.cpp、whisper.cpp 和 stable-diffusion.cpp,提供 LLM 推理、语音转文字、图像生成能力,并内置 Agent 框架与 RAG 支持,使开发者能够构建具备检索增强和智能体行为的端侧应用。作为 KMP 库,它复用 Kotlin 与 Ktor 生态,让移动端和桌面端共享同一套推理接口,适合对隐私敏感、网络受限或需要低延迟响应的边缘 AI 场景。

在 GitHub 查看