Где языковые модели помогают в работе с данными — разметка, извлечение, классификация, генерация признаков.
LLM меняют работу с текстовыми данными: то, что раньше требовало месяцев разметки, теперь делается промптом.
Практика. Разметить 2000 текстов LLM, проверить качество на 200 ручных метках и обучить на разметке маленькую модель.
LLM — нейросеть-трансформер, которая предсказывает следующий токен по предыдущим; текст получается, если повторять это шаг за шагом.
Используйте режим структурированного вывода по JSON-схеме, если API его поддерживает, и всегда валидируйте результат в коде.
Собрать набор тестовых примеров с ожидаемым результатом, выбрать метрики под задачу и прогонять его при каждом изменении промпта, модели или поиска.
Эмбеддинг — вектор чисел, в котором тексты близкие по смыслу оказываются близко в пространстве.
На живом собеседовании sotto слышит вопрос интервьюера и показывает короткий ответ и план. Оставьте контакт — пришлём доступ и промокод.
sotto