Senior ML Engineer (Calls.ai)

С 2016 года мы разрабатываем и поддерживаем собственную экосистему “Path”, которая позволяет нашему бизнесу эффективно работать с клиентами и автоматизирует такие бизнес-процессы как: продажи внутри компании и силами партнеров, урегулирование кредитов клиентов, коммуникации с клиентами, документооборот, кредитование клиентов, проведение платежей, маркетинг.
Системой пользуются больше 2500 сотрудников нашей FinTech компании, которые решают полный цикл задач, связанных с урегулированием задолженности по кредитам наших клиентов.
Главный офис компании находится в USA, California, Irvine. Команды разработки распределены по миру и находятся в разных странах и часовых поясах.

CallsAI — это платформа для анализа телефонных переговоров, которая обрабатывает более 80000 часов звонков ежемесячно. Система автоматически создает расшифровки, анализирует содержание и проверяет соблюдение стандартов. Также мы разрабатываем онлайн-помощник для поддержки агентов во время звонка в реальном времени.

Стэк:

Python, WhisperX, Nvidia Nemo, GPT-4o-mini, PHP

Предстоящие задачи:

• Разработĸа AI/ML пайплайнов, обслуживание и мониторинг. Проверка гипотез и улучшение существующего решения.

• Разработĸа и улучшение ML-систем для обработĸи телефонных звонĸов: извлечение ĸлючевой информации (NER, Dense Retrieval), авто-оценĸа ĸачества работы операторов, реĸомендации по ходу ведения диалога и action items.

• Работа с LLM (масштабирование, ĸвотирование, оптимизация стоимости/latency/ĸачества).

• Разработĸа пайплайнов работы с теĸстом: эĸстраĸция релевантных частей теĸста, пошаговые рассуждения, fallback-стратегии.

• Исследование и реализация методов RAG (retrieval-augmented generation).

• Оптимизация latency и throughput в real-time-сценариях (онлайн ассистент для агентсĸого звонĸа).

• Проеĸтирование метриĸ ĸачества и улучшение системы автоматичесĸой оценĸи (оффлайн-метриĸи, A/B-эĸсперименты, human-in-the-loop).

• Интеграция LLM-сервисов совместно с backend-разработчиĸами в существующую инфраструĸтуру (Python, PHP-сервисы, облачная инфраструĸтура с GPU).

• Анализ данных для выявления закономерностей в звонках.

Ты нам отлично подходишь, если у тебя:

• 5+ лет в роли ML инженера и от 2 лет опыта с нагруженными системами

• Опыт построения AI/ML систем полного цикла. От сбора требований до оценки качества и поддержки

• Промышленный опыт с NLP, STT и LLM (workflows / rag / agents) моделями

• Опыт построения мониторинга ml-систем

• Опыт работы с базами данных (например, documentdb, opensearch, mysql, и т.п.)

• Опыт выстраивания процесса проведения экспериментов (например, опыт с MLflow, ClearML, DVC).

• Опыт обучения и оптимизации transformer-based моделей

• Английский В2+

Желательно, но не обязательно:

• Опыт тюнинга, хостинга и оптимизации инференса LLM моделей

• Опыт работы с инструменты для работы с big data (например, Hadoop, Databricks, PySpark)

• Опыт работы с пользовательскими данными в B2C

• Опыт в организации процесса разметки данных

• Опыт отбора сотрудников
  

  Что мы предлагаем:

• Удалённую работу с гибким графиком

• Высокий уровень заработной платы (обсуждается по результатам общения)

• ЗП фиксируем в $

• Сотрудничество по ИП (через deel.com)

• Оплата на зарубежное ИП/счёт

• Помощь с открытием ИП в Грузии (при необходимости)

• Оплачиваемый отпуск, больничные, спорт, английский в Skyeng

• Участие в интересном проекте с возможностью прокачки в команде

• Поддержку инициатив и возможности для развития