Перейти к основному содержимому

webinar

Провели вебинар на тему «Как найти оптимальную модель GenAI для проекта»

Простой и безопасный доступ к любым GPT с помощью caila.io

О чем говорили на вебинаре:

• Какие задачи бизнеса решает GenAI — актуальные кейсы для клиентского сервиса, HR, продаж и других областей;

• Выбор языковой модели под проект: разберем на примере критерии отбора и инструменты работы с моделями в действии;

• Облачные модели или он-прем: особенности вариантов использования;

• Caila: профессиональная платформа для удобного хостинга, тестирования и интеграции моделей.

Ссылка на запись вебинара

llama-3.1

Llama 3.1

Сервисы на базе Llama 3.1 появились в каталоге Caila в двух вариантах. Сервисы размещены для целей ознакомления и тестирования.

Доступность сервисов — постоянная.

llama3.1-8b

Используется чекпоинт: meta-llama/Meta-Llama-3.1-8B-Instruct.

Движок для инференса: vllm.

GPU: 1×3090 (на момент публикации)

llama3.1-70b-4q

Используется чекпоинт: hugging-quants/Meta-Llama-3.1-70B-Instruct-AWQ-INT4.

Движок для инференса: vllm.

GPU: 4×3090 (на момент публикации)

new-docs

Обновление портала документации

Сайт документации caila.io переехал на новый движок и пополнился новыми статьями.