Все еще строите чат-ботов? Только не говорите, что еще и не сами!

naked ai leader making a speech

Если ваш план по внедрению ИИ в работу компании выглядит как найм подрядчика для того, чтобы он сделал вам чат-бота для разгребания бюрократического хлама в виде регламентов, инструкций, служебок и протоколов, то ради всего святого, остановитесь.

Современный руководитель сейчас задает себе два вопроса:

  • Как ИИ может быть полезен моей организации?
  • Как мне сойти за прогрессивного визионера в новой эре господства Искусственного Интеллекта, которая вот вот наступит?

Так что, чтобы не выглядеть уныло, как если бы мы раздевались рядом с Джонни Синсом, давайте мыслить масштабнее. Этап чат-ботов мы уже давно прошли.

Чат с PDF за 2 часа (с памятью, интерфейсом и блэкджеком)

Ситуация такая. 99% влажных фантазий вашего руководства об ИИ можно удовлетворить легко за счет собственных ресурсов. Все, кто настаивает на привлечении консультантов, погроммистов и прочих деятелей ремесла освоения бюджетов — либо в с ними в доле, либо не владеет вопросом. И то и другое по понятным причинам опасно.

Инструменты становятся лучше. Они стали настолько понятными, что простой инженер-нефтяник совладал с задачей строительства чат бота для анализ PDF за 2 часа почти с нуля. Он грубоват, но у него есть все необходимые элементы — берет PDF, делает эмбединги и засовывает их в локальный vectorstore. Плюс у него есть память, чтобы немного лучше справляться с последующими вопросами. Интерфейс сделан через streamlit.

основные элементы RAG чата с PDF
Основные элементы чата с PDF

Чтобы не быть голословным, код есть на GitHub, а короткая демка в видео ниже.

Что это значит? Пока вы отвернулись, умные ребята зарешали основные проблемы настолько, что даже инженер-нефтяник может создать рабочее решение во время обеденного перерыва.

Есть другой путь

Вот, что нужно делать:

  • Нужен глубокий и честный ликбез. ИИ и машинное обучение — это не только чат-боты и LLM.
  • Лучше всего доходит через руки. Вы поймете текущее состояние технологии и её ограничения. Пробуйте делать что-то самостоятельно. Мало понимать о чем идет речь. Нужно свободно разговаривать на новом языке и понимать нюансы.
  • Не отдавайте технологический прогресс своей организации на аутсорсинг. Иначе вы будете зависеть от технологических жуликов и проходимцев, которые продадут вам решения вчерашнего дня.

В недавнем подкасте Latent Space, Дэвид Луан (бывший вице-президент OpenAI) упомянул, что понимание того, что LLM это не конечная точка пришло 1-2 года назад. Следующий горизонт — это Агенты и несмотря на то, что весь хайп все еще около чат-ботов, задачи решаются уже другие.

Эту же идею озвучивает (обязательно посмотрите это видео, кстати) Эндрю Ын — который известен как сооснователь Coursera и сделал больше для продвижения ИИ и машинного обучения в массы, чем кто-либо. Первое реальное применение будет именно в агентах.

Если у вас нет представления о том, что такое Агенты и как они строятся сегодня — это значит, что вы отстали. Агенты это реальное решение для кризиса продуктивности. Это то преимущество, которое нужно любой компании. Оно возможно, и лишь немногие действительно строят его.

А вы все еще строите чат с PDF и называете это ИИ.