Стачка - Function Calling - модификация традиционного RAG-пайплайна при поиске продуктов

Function Calling - модификация традиционного RAG-пайплайна при поиске продуктов

3 октября

10.20-10.50

Green 5. ML & AI & Безопасность

- Проблемы косинусной близости для многомерных данных - например, фразы "с первоначальным взносом" и "без первоначального взноса" очень близки. Также зачастую у продуктов есть поля "от" и "до" - при поиске продукта со значением внутри интервала у традиционного RAG возникнут сложности;

- Выбор LLM - почему локальная некрупная языковая модель с возможностью function calling - оптимальный выбор для текущей задачи;

- Реализация собственных tools и pydantic-валидация - про то, как реализовать tools для своих конкретных задач - пример написания функций оберток, с которыми работает LLM-агент, на базе готовых API сайта;

- Декомпозиция задач для повышения точности модели - пример разбиения задачи поиска продуктов на систему с несколькими агентами и роутером выбора конкретного агента.

Предлагаемый доклад является логическим продолжением статьи "Как мы вкатывались в генеративный ИИ и куда катимся дальше" - https://habr.com/ru/articles/1010572/

На текущий момент презентации нет, поскольку ранее этот доклад нигде не рассказывался.

Может заинтересовать

#похожие доклады

14.30-15.00

AI-агенты в инфраструктуре Альфа-банка