Безопасность

Провайдеры, которым нужен API-ключ, отказываются работать в браузере:

// Throws: "API keys must not be used in the browser…"
const ai = createOpenAI({ apiKey: 'sk-...' })

Включайте эту возможность явно и только для прототипов или доверенных окружений (например, Electron или внутренних инструментов):

const ai = createOpenAI({ apiKey: 'sk-...', dangerouslyAllowBrowser: true })

Настройка для продакшена

Храните ключи на сервере и общайтесь с ним через прокси-провайдер:

// server: /api/chat
import { createLLMHandler } from 'vue-llm/server'
import { createOpenAI } from 'vue-llm/providers'

export const handler = createLLMHandler({
  provider: createOpenAI({ apiKey: process.env.OPENAI_API_KEY! }),
  model: 'gpt-4o',
  rateLimit: { maxRequests: 20, interval: 60_000 },
})

// client
import { createProxyProvider } from 'vue-llm/server'

const { messages, sendMessage } = useChat({ provider: createProxyProvider('/api/chat'), model: 'gpt-4o' })

См. Сервер и прокси и Nuxt.

TIP

Серверный обработчик принимает model и system из тела запроса. Если клиенты не должны их выбирать, зафиксируйте значения в onRequest.