Получить доступ

Речь и голосовые ассистенты

Полезно знать с Middle

Распознавание и синтез речи, голосовые ассистенты в реальном времени.

задачаинструменты
распознавание речи (ASR)Whisper и ускоренные версии, облачные сервисы, GigaAM для русского
синтез речи (TTS)облачные голоса, открытые модели
разделение по говорящимpyannote и аналоги
голос в реальном времениrealtime API или связка ASR + LLM + TTS

Что важно знать

  • Качество распознавания — WER (доля ошибочных слов) на своих записях: телефонный звук, шум и акценты заметно ухудшают результат.
  • Голосовой ассистент живёт в бюджете задержки: каждое звено конвейера работает потоково, иначе паузы раздражают собеседника.
  • Определение конца фразы и перебивание — отдельные нетривиальные задачи.
  • Аудио — персональные данные, запись разговора требует согласия.

Критерии освоения

Middle ≈ 10 ч

  • Распознаёт речь из аудиофайла и потока, оценивает качество по WER
  • Собирает конвейер «распознавание — модель — синтез» с потоковой обработкой

Практика. Сделать расшифровку часовой встречи с разделением по говорящим и кратким резюме, измерить WER на 10 минутах ручной разметки.

Senior ≈ 10 ч

  • Укладывает голосового ассистента в бюджет задержки ответа около секунды
  • Обрабатывает перебивание, паузы и шум в разговоре

Практика. Собрать голосового ассистента с потоковым распознаванием и синтезом и измерить задержку от конца фразы до начала ответа на 50 репликах.

Вопросы с собеседований

← Вся карта «ИИ-инженер»

Закрытая бета

Знать тему — половина дела

На живом собеседовании sotto слышит вопрос интервьюера и показывает короткий ответ и план. Оставьте контакт — пришлём доступ и промокод.

  • Промокод на 2 часа — сверх пробных 30 минут
  • Программа для Windows — скачать сразу, войти — через Яндекс ID или VK ID
  • Прямая связь с разработчиком: что улучшить — сделаем