Claude 3 Haiku - самая быстрая модель Anthropic на тот момент
13 марта 2024 Anthropic выпустила Claude 3 Haiku - самую быструю и доступную модель в своём классе. Она обрабатывает 21K токенов в секунду на промптах до 32K, втрое быстрее аналогов, и за один доллар анализирует 400 дел Верховного суда или 2500 изображений.
Claude 3 Haiku - самая быстрая и доступная модель в своём классе интеллекта. Она вышла рядом с Sonnet и Opus в Claude API и на claude.ai для подписчиков Claude Pro.
Скорость
Скорость критична для корпоративных пользователей, которым нужно быстро анализировать большие датасеты и выдавать своевременный результат, например для поддержки клиентов. Claude 3 Haiku втрое быстрее аналогов для подавляющего большинства задач: обрабатывает 21K токенов (около 30 страниц) в секунду на промптах до 32K токенов. Модель также быстро генерирует ответы, что делает чат-опыт отзывчивым и позволяет выполнять много мелких задач параллельно.
Цена и зрение
Ценовая модель Haiku построена с соотношением входных и выходных токенов 1:5 и рассчитана на корпоративные нагрузки с длинными промптами. Бизнес может полагаться на Haiku для быстрого анализа больших объёмов документов - квартальных отчётов, контрактов или юридических дел - за половину цены других моделей в своём классе. Для примера: Claude 3 Haiku может обработать и проанализировать 400 дел Верховного суда или 2500 изображений всего за один доллар. При этом модель сильна в зрении.
Безопасность
Наряду со скоростью и доступностью Haiku ориентирован на корпоративную безопасность и устойчивость. Anthropic проводит строгое тестирование, чтобы снизить вероятность вредных выводов и джейлбрейков. Дополнительные слои защиты включают непрерывный мониторинг систем, усиление эндпоинтов, безопасные практики кодирования, надёжное шифрование данных и строгий контроль доступа. Компания также проводит регулярные аудиты безопасности и работает с пентестерами для упреждающего поиска уязвимостей. Claude 3 Haiku доступен на Amazon Bedrock, а на Google Cloud Vertex AI его обещали добавить позже.
Что это значит
Если у тебя поток однотипных задач - разбор документов, сортировка обращений, обработка изображений, - Haiku про экономию: высокая скорость и низкая цена при разумном качестве. Цифра «400 дел или 2500 изображений за доллар» - хороший ориентир, чтобы прикинуть бюджет на массовую обработку до того, как брать более дорогую модель.