Перейти к содержанию

LLM-провайдеры

Конвейер перевода вызывает Large Language Model для фактического перевода. Ты можешь настроить одного или многих; селектор модели для каждой функции позволяет каждой странице использовать другую.

Бесплатный уровень щедрый и достаточно хорош для большинства персональных использований.

  1. Перейди на https://aistudio.google.com/apikey
  2. Кликни Create API key (войди со своим аккаунтом Google)
  3. Скопируй ключ (выглядит как AIza...)
  4. В desktop-приложении: Настройки → LLM → API-ключ Gemini → вставить → Сохранить

  5. Выбери модель по умолчанию в выпадающем списке Модель Gemini по умолчанию. Линейка Google обычно выглядит как:

    • Flash-варианты (например gemini-2.5-flash) — быстрый, щедрый бесплатный уровень, хорошее качество. Рекомендуемая отправная точка.
    • Pro-варианты — медленнее, выше качество, дороже.
    • Flash-lite — самый быстрый, самый дешёвый, более низкое качество.

    Точные имена моделей зависят от того, что Google развернул на твоём аккаунте; выбери ту, имя которой содержит flash, для сбалансированного значения по умолчанию.

Готово. Ключ сохранён в keychain твоей ОС, не в открытом виде.

Режим Vertex AI (корпоративный)

Внутри блока конфигурации Gemini пара радиокнопок позволяет переключаться с Developer API на Vertex AI — те же модели Gemini, оплачиваются через твой GCP-аккаунт, с org-уровневым контролем (VPC-SC, журналы аудита, региональная резидентность данных).

  1. В Настройки → LLM переключи Gemini-радио с Developer API на Vertex AI
  2. Заполни:
    • Project — твой ID проекта GCP
    • Location — регион Vertex (по умолчанию us-central1)
    • Credentials path (опционально) — путь к JSON-ключу service-account. Оставь пустым, чтобы использовать Application Default Credentials (gcloud auth application-default login)
  3. Сохранить. Выпадающий список моделей повторно заполняется из Vertex после установки проекта.

OAuth-обновление обрабатывается google-genai автоматически. Путь к JSON service-account хранится в открытом виде специально (путь не секрет — содержимое файла да, и оно остаётся на диске, где документированная лучшая практика Google его держит).

OpenAI / OpenAI-совместимые

Всё, что предоставляет OpenAI-совместимый REST API, работает — сам OpenAI, Anthropic через LiteLLM-прокси, локальный Ollama, LM Studio, vLLM, Together.ai, Groq и так далее.

В Настройки → LLM:

  1. Кликни Add Custom Provider
  2. Заполни:
    • Name — метка типа «OpenAI» / «Local Ollama» / «Anthropic»
    • API endpoint — базовый URL (например https://api.openai.com/v1 или http://localhost:11434/v1 для Ollama)
    • API key — оставь пустым для не аутентифицированных локальных эндпоинтов
    • Models — список через запятую (например gpt-4o-mini, gpt-4o, gpt-3.5-turbo)
  3. Кликни Save.

Кастомные провайдеры хранятся как JSON-блоб в keychain ОС (API-ключи включены).

Переключение модели по умолчанию

Выпадающий список Модель Gemini по умолчанию в Настройки → LLM устанавливает запасной вариант, используемый каждой функциональной страницей, у которой нет своего селектора.

Страницы со своим селектором модели:

  • Перевод текста — вкладка настроек Перевод текста → Модель по умолчанию
  • Перевод документа — выбирает на задачу; падает на default
  • Субтитры / Голос / Дубляж / Live / Извлечение текста — у каждой свой default для функции в её вкладке настроек

Это позволяет смешивать: бесплатный Flash для live, Pro для больших документов, локальный Ollama для чувствительных данных.

Где хранятся ключи

ОС Хранилище
macOS Keychain (login keychain)
Windows Credential Manager
Linux (GNOME) Secret Service (gnome-keyring / KWallet)
Linux (без демона) Падает на plaintext INI в ~/.config/ai-translate/settings.ini

Запасное значение INI мигрирует в keychain при первом чтении, когда keychain становится доступным — без ручного шага.

Headless- / серверная установка

Без desktop-сессии ты всё ещё можешь установить ключи через CLI keyring в Python (после uv sync):

# Gemini
uv run keyring set ai-translate llm/gemini_api_key

# Кастомные провайдеры (вставь JSON-блоб — см. UI настроек для схемы)
uv run keyring set ai-translate llm/custom_providers

Или установи те же INI-ключи напрямую в settings.ini — приложение мигрирует их в keychain при первом чтении. Файл находится в:

  • Linux — ~/.config/ai-translate/settings.ini
  • macOS — ~/Library/Preferences/ai-translate/settings.ini
  • Windows — %APPDATA%\ai-translate\settings.ini

Проверка настройки

Быстрейшая проверка работоспособности:

uv run ait --version
echo "Hello world." > /tmp/x.txt
uv run ait /tmp/x.txt --target Russian --quiet
cat /tmp/x_translated__ru.txt

Если ты видишь «Привет, мир.» — ты закончил.

Распространённые ошибки

Ошибка Вероятная причина
AUTH_ERROR Неверный / истёкший API-ключ. Вставь заново в Настройках.
QUOTA_ERROR Запросы-в-день бесплатного уровня превышены. Подожди или плати.
MODEL_NOT_FOUND Список models кастомного провайдера не включает запрошенную модель.
VISION_NOT_SUPPORTED Выбранная модель не может делать изображения. Используй flash / pro / vision-вариант.

См. Устранение неполадок для большего.