Вопросы для собеседования ML-инженера

Что хотим услышать

• Внешняя функция принимает func, возвращает обёртку
• Обёртка принимает *args, **kwargs и передаёт их дальше
• Возвращает результат func
• functools.wraps сохраняет имя и docstring
• Время через time.perf_counter, вывод в finally или после вызова
• Код декоратора выполняется при определении, обёртки при каждом вызове

Если ответил, копните глубже

Что хотим услышать

• Регуляризация штрафует сложность (величину весов) и снижает переобучение
• L2 уменьшает веса равномерно, помогает при мультиколлинеарности
• L1 обнуляет часть весов, работает как отбор признаков
• Перед регуляризацией признаки нужно масштабировать
• λ подбирается кросс-валидацией по логарифмической сетке

Если ответил, копните глубже

Что хотим услышать

• Прямой проход: вычисление выходов слой за слоем и loss, сохранение активаций
• Обратный проход: цепное правило от loss к первому слою
• Для слоя: градиент по весам δ·xᵀ, по входу Wᵀδ
• Шаг оптимизатора по градиентам, обнуление градиентов
• Батчи и эпохи, повторение до сходимости

Если ответил, копните глубже

Что хотим услышать

• Текст режется токенайзером на токены, у каждого номер в словаре
• Токены превращаются в векторы, проходят слои трансформера с вниманием
• На выходе распределение вероятностей следующего токена
• Токен выбирается сэмплированием и добавляется в контекст, цикл повторяется
• Состояния между запросами нет, всё знание о диалоге в контексте
• Галлюцинации: модель выдаёт правдоподобное, а не проверенное

Если ответил, копните глубже

Что хотим услышать

• Называет приор, правдоподобие и апостериор
• Различает P(+ | болен) и P(болен | +)
• Считает пример с числами, например через 10 000 человек
• Объясняет роль базовой частоты: здоровых намного больше
• Связь с ML: precision при редком классе

Если ответил, копните глубже

Что хотим услышать

• Контейнер это процесс (или группа) на ядре хоста, а не отдельная ОС
• Namespaces изолируют видимость: PID, сеть, ФС, hostname, пользователи
• Cgroups ограничивают ресурсы: память, CPU, число процессов
• Файловая система из слоёв образа плюс записываемый слой (overlay2, copy-on-write)
• ВМ эмулирует железо и запускает своё ядро: изоляция сильнее, старт медленнее, накладные расходы больше
• Следствия: общее ядро, быстрый старт, данные в контейнере эфемерны

Если ответил, копните глубже

Что хотим услышать

• Вертикальное: мощнее машина, код не меняется, есть предел и единая точка отказа
• Горизонтальное: больше узлов, нужен stateless или распределённое состояние
• Stateless-сервисы приложения масштабируют горизонтально в первую очередь
• БД часто сначала масштабируют вертикально и репликами, шардирование позже
• Горизонтальное даёт отказоустойчивость, но добавляет сложность

Если ответил, копните глубже

Что хотим услышать

• Называет, что такое n (и m, если входов несколько)
• Считает циклы: вложенные перемножаются, последовательные складываются
• Помнит скрытые циклы: includes, indexOf, slice, sort, spread
• Отдельно оценивает память, включая стек рекурсии
• Сравнивает с ограничениями: при n до 10⁵ O(n²) уже не годится

Если ответил, копните глубже

Что хотим услышать

• Две-три стороны, а не список из десяти
• Каждая подкреплена примером
• Стороны связаны с вакансией
• Нет пустых слов вроде «стрессоустойчивый, коммуникабельный» без доказательств
• Уверенно, без хвастовства

Если ответил, копните глубже

Что хотим услышать

• Отдельное виртуальное окружение на проект
• Зависимости в pyproject.toml, разделение на основные и dev
• Lock-файл с точными версиями для воспроизводимости
• Инструмент: uv, Poetry или pip-tools
• Обновления зависимостей контролируемо, проверка уязвимостей
• В Docker ставить по lock-файлу

Если ответил, копните глубже

Что хотим услышать

• Перебор порогов от высокого к низкому
• По осям FPR и TPR (recall)
• Диагональ это случайная модель, AUC 0.5
• AUC это вероятность правильно упорядочить случайную пару
• Не зависит от порога и монотонных преобразований скоров, но не видит калибровку

Если ответил, копните глубже

Что хотим услышать

• Модель и данные на одно устройство, оптимизатор и, если есть, scheduler
• Трейн: model.train(), shuffle, zero_grad, forward, loss, backward, step
• Валидация: model.eval(), torch.no_grad(), метрики по всем объектам
• Логирование loss.item(), сохранение лучшего чекпоинта
• Возврат в train() после валидации, сиды для воспроизводимости

Если ответил, копните глубже

Что хотим услышать

• Метрики и трейсы: какой эндпоинт, p95/p99, где время (БД, внешние API, CPU)
• Профилирование: py-spy на живом процессе, cProfile локально
• Типичные причины: N+1 запросы, отсутствие индексов, синхронные вызовы в async, неверные структуры данных
• Исправления: батчи и prefetch, кеш, индексы, перенос тяжёлого в фон
• CPU-bound: алгоритм, встроенные функции, numpy, процессы
• Проверка результата нагрузочным тестом

Если ответил, копните глубже

Что хотим услышать

• Уточнить бизнес-цель и действие: что сделаем с прогнозом (скидка, звонок)
• Определить целевую переменную и горизонт: отток за 30 дней, что считается оттоком
• Момент прогноза и признаки только из прошлого, без утечек
• Метрики: офлайн (PR-AUC, uplift) и бизнес (сохранённая выручка), бейзлайн
• Проверка эффекта экспериментом, подумать про uplift-модель

Если ответил, копните глубже

Что хотим услышать

• Сигмоида и tanh: насыщение, затухание градиента, сигмоида не центрирована
• ReLU: нет насыщения справа, дёшево, но мёртвые нейроны
• LeakyReLU, ELU: ненулевой градиент слева
• GELU, SiLU: гладкие, стандарт в трансформерах
• Гейтированные (GLU, SwiGLU) в MLP-блоках LLM

Если ответил, копните глубже

Что хотим услышать

• Рубрика с конкретными критериями, лучше бинарные вопросы
• Эталон или контекст в промпте судьи
• Калибровка на ручной разметке, согласие с людьми
• Борьба с искажениями: перестановка, штраф за многословие, другая семья моделей
• Выборочная ручная проверка на масштабе
• Версии судьи как часть оценочного конвейера

Если ответил, копните глубже

Что хотим услышать

• MLE: максимизировать Σ log p(yᵢ | xᵢ, θ), то есть минимизировать отрицательный log-likelihood
• Регрессия: y ~ N(f(x), σ²) даёт MSE
• Классификация: y ~ Бернулли(p(x)) даёт binary cross-entropy
• Многоклассовая: категориальное распределение даёт softmax с кросс-энтропией
• Другое распределение шума даёт другую потерю (Лаплас: MAE, Пуассон: Poisson loss)

Если ответил, копните глубже

Что хотим услышать

• Подтвердить: describe (Reason OOMKilled, 137), не путать с Evicted
• Посмотреть график памяти контейнера до падения: резкий пик или постоянный рост (утечка)
• Сравнить лимит с реальным пиком; проверить лимит кучи рантайма (JVM, Node, Go) относительно лимита контейнера
• Учесть всю память процесса: нативные буферы, потоки, page cache в cgroup
• Утечка: профилирование кучи, heap dump, сравнение снимков
• Решение: исправить утечку или ограничить кучу, выставить лимит по данным, requests = limits для памяти

Если ответил, копните глубже

Что хотим услышать

• Требования: личные и групповые чаты до 1 000 участников, доставка онлайн и офлайн (push), история, статусы «доставлено» и «прочитано»; порядок сообщений в чате; медиа и сквозное шифрование вне рамок
• Оценка нагрузки: 50 млн DAU по 40 сообщений ≈ 2 млрд в сутки ≈ 20 000 RPS записи, в пике ~60 000; 10 млн одновременных соединений, ~100 000 на gateway → ~100 gateway; 2 млрд × 200 байт ≈ 400 ГБ в сутки, ~150 ТБ в год без реплик
• API: WebSocket: send {chat_id, client_msg_id, text}, ack {msg_id}, события new_message, read; HTTP: GET /chats/{id}/messages?before=...
• Данные: чаты и участники в PostgreSQL, сообщения в Cassandra/ScyllaDB с ключом партиции chat_id и сортировкой по msg_id, реестр user_id → gateway в Redis с TTL
• Компоненты: gateway-серверы с соединениями, сервис сообщений (сохранить, присвоить id, разослать), сервис присутствия, push-сервис для офлайн, очередь для фан-аута в группах
• Узкие места: большие группы (фан-аут через очередь), дубли при переотправке (client_msg_id для идемпотентности), переподключения и догрузка пропущенного, горячие чаты, падение gateway

Если ответил, копните глубже

Что хотим услышать

• Назван масштаб: команда, нагрузка, пользователи или деньги
• Есть решения, которые повлияли дальше своего кода
• Есть метрики результата
• Упомянуто влияние на команду: менторинг, процессы, ревью
• Уложился в 2 минуты, не утонул в деталях

Если ответил, копните глубже

Что хотим услышать

• ABC: номинальная типизация, нужно наследование или register
• ABC проверяет абстрактные методы при создании экземпляра в рантайме
• Protocol: структурная типизация, достаточно совпадения методов
• Protocol удобен для сторонних классов и фейков в тестах
• @runtime_checkable для isinstance, проверяет только наличие методов

Если ответил, копните глубже

Что хотим услышать

• Требования: латентность, цена пропуска и ложной блокировки, действия (блок, доп. проверка, разбор аналитиком)
• Данные и метки: задержка меток (чарджбэки), selective labels, дисбаланс
• Признаки: профиль клиента батчем, скоростные признаки в реальном времени, устройство и граф связей
• Модель: бустинг, правила как первая линия, пороги по стоимости, калибровка
• Валидация по времени, метрики recall при фиксированной доле блокировок, PR-AUC
• Прод: онлайн-инференс, feature store, мониторинг дрейфа, holdout для меток, быстрое переобучение

Если ответил, копните глубже

Что хотим услышать

• Квантуются в основном веса, активации остаются в bf16 (weight-only)
• Групповое квантование с масштабом на группу (например 128 весов)
• Выбросы и чувствительные каналы: методы учитывают важность весов (GPTQ, AWQ и подобные)
• Выигрыш: память и скорость в memory-bound декодировании
• Проверка: перплексия и задачи, особенно рассуждения и длинный контекст

Если ответил, копните глубже

Что хотим услышать

• Собрать оценочный набор вопросов с релевантными чанками и эталонами
• Разделить метрики: recall@k и MRR поиска, верность и полнота ответа
• Если плох поиск: очистка, чанкинг, заголовки в чанках, гибрид, переписывание запроса, реранкер
• Если плоха генерация: промпт, объём и порядок контекста, цитаты, модель
• Разбирать конкретные провалы из логов, а не только средние
• Каждое изменение проверять на наборе, чтобы не сломать остальное

Если ответил, копните глубже