Если ваш план по внедрению ИИ в работу компании выглядит как найм подрядчика для того, чтобы он сделал вам чат-бота для разгребания бюрократического хлама в виде регламентов, инструкций, служебок и протоколов, то ради всего святого, остановитесь.
Современный руководитель сейчас задает себе два вопроса:
- Как ИИ может быть полезен моей организации?
- Как мне сойти за прогрессивного визионера в новой эре господства Искусственного Интеллекта, которая вот вот наступит?
Так что, чтобы не выглядеть уныло, как если бы мы раздевались рядом с Джонни Синсом, давайте мыслить масштабнее. Этап чат-ботов мы уже давно прошли.
Чат с PDF за 2 часа (с памятью, интерфейсом и блэкджеком)
Ситуация такая. 99% влажных фантазий вашего руководства об ИИ можно удовлетворить легко за счет собственных ресурсов. Все, кто настаивает на привлечении консультантов, погроммистов и прочих деятелей ремесла освоения бюджетов — либо в с ними в доле, либо не владеет вопросом. И то и другое по понятным причинам опасно.
Инструменты становятся лучше. Они стали настолько понятными, что простой инженер-нефтяник совладал с задачей строительства чат бота для анализ PDF за 2 часа почти с нуля. Он грубоват, но у него есть все необходимые элементы — берет PDF, делает эмбединги и засовывает их в локальный vectorstore. Плюс у него есть память, чтобы немного лучше справляться с последующими вопросами. Интерфейс сделан через streamlit.
Чтобы не быть голословным, код есть на GitHub, а короткая демка в видео ниже.
Что это значит? Пока вы отвернулись, умные ребята зарешали основные проблемы настолько, что даже инженер-нефтяник может создать рабочее решение во время обеденного перерыва.
Есть другой путь
Вот, что нужно делать:
- Нужен глубокий и честный ликбез. ИИ и машинное обучение — это не только чат-боты и LLM.
- Лучше всего доходит через руки. Вы поймете текущее состояние технологии и её ограничения. Пробуйте делать что-то самостоятельно. Мало понимать о чем идет речь. Нужно свободно разговаривать на новом языке и понимать нюансы.
- Не отдавайте технологический прогресс своей организации на аутсорсинг. Иначе вы будете зависеть от технологических жуликов и проходимцев, которые продадут вам решения вчерашнего дня.
В недавнем подкасте Latent Space, Дэвид Луан (бывший вице-президент OpenAI) упомянул, что понимание того, что LLM это не конечная точка пришло 1-2 года назад. Следующий горизонт — это Агенты и несмотря на то, что весь хайп все еще около чат-ботов, задачи решаются уже другие.
Эту же идею озвучивает (обязательно посмотрите это видео, кстати) Эндрю Ын — который известен как сооснователь Coursera и сделал больше для продвижения ИИ и машинного обучения в массы, чем кто-либо. Первое реальное применение будет именно в агентах.
Если у вас нет представления о том, что такое Агенты и как они строятся сегодня — это значит, что вы отстали. Агенты это реальное решение для кризиса продуктивности. Это то преимущество, которое нужно любой компании. Оно возможно, и лишь немногие действительно строят его.
А вы все еще строите чат с PDF и называете это ИИ.