Тонкая настройка Claude 3 Haiku в Amazon Bedrock
11 июля 2024 Anthropic анонсировала тонкую настройку Claude 3 Haiku в Amazon Bedrock. Клиенты готовят пары «промпт - идеальный ответ» и получают свою версию модели: выше точность в домене, быстрее ответы и ниже цена. У SK Telecom фидбэк по ответам агентов вырос на 73%.
Anthropic открыла возможность дообучать Claude 3 Haiku - самую быструю и дешёвую модель линейки - прямо в Amazon Bedrock на собственных данных. Это путь к версии модели, заточенной под конкретный бизнес.
Как это работает
Сначала ты готовишь набор качественных пар «промпт - идеальный ответ»: то, что хочешь получать от модели на конкретной задаче. API тонкой настройки, доступный в превью, использует эти данные, чтобы собрать твою кастомную версию Claude 3 Haiku. Через консоль или API Bedrock модель можно тестировать и дорабатывать, пока она не выйдет на нужный уровень и не будет готова к деплою.
Что это даёт
Anthropic называет четыре основных выигрыша. Лучше результаты на узких задачах вроде классификации, работы с кастомными API или интерпретации отраслевых данных. Выше скорость при меньшей цене - дообученный Haiku можно ставить вместо Sonnet или Opus. Стабильное форматирование под бренд: отчёты и схемы по твоим спецификациям. И безопасность - данные для обучения остаются внутри AWS-окружения клиента.
Цифры и кейсы
Anthropic дообучила Haiku модерировать комментарии на форумах - находить оскорбления, угрозы и явный контент. Точность классификации выросла с 81,5% до 99,6%, при этом число токенов на запрос упало на 85%. SK Telecom, один из крупнейших операторов связи Южной Кореи, обучил кастомную модель под поддержку: по словам компании, позитивный фидбэк по ответам агентов вырос на 73%, а ключевые показатели по телеком-задачам - на 37%. Thomson Reuters тоже тестирует дообучение под свою отраслевую экспертизу в праве, налогах и комплаенсе.
Где и какие ограничения
На старте превью доступно в AWS-регионе US West (Oregon). Поддерживается текстовое дообучение с контекстом до 32K токенов, поддержку зрения обещают позже. Доступ запрашивается через команду AWS-аккаунта или тикет в консоли.
Что это значит
Если у тебя есть повторяющаяся задача и примеры идеальных ответов, дообученный Haiku может стать дешёвой и быстрой заменой более крупной модели. Главное - собрать качественный набор пар «промпт - ответ»: именно от него зависит, насколько точной получится твоя версия.