Un vistazo a LLM Flow
- Francisco Javier López Acevedo
Disponible desde la versión 6.2.0-Xenon
Introducción
En Onesait Platform se ha integrado Flowise como orquestador de modelos lingüísticos grandes (LLM) y agentes inteligentes (IA) personalizados. Con una aproximación low code y de código abierto, esta herramienta permite al desarrollador crear sus flujos arrastrando y soltando nodos de funcionalidades.
A nivel de orquestación de lenguajes, Flowise permite conectar LLMs con memoria, cargadores de datos, caché, moderación y mucho más. Es completamente compatible con LangChain, un framework que ayuda a facilitar la integración de LLMs en aplicaciones, así como con LlamaIndex, un índice GPT para el framework de datos de las aplicaciones LLM.
Respecto a agentes y asistentes, permite crear agentes autónomos que pueden hacer uso de herramientas para ejecutar diferentes tareas. Estos agentes pueden utilizar servicios conocidos como ChatGPT, o cualquier otro servicio gratuito disponible (Ollama, etc.).
Además, aunque tiene un enfoque low code, cuenta también con herramientas para ampliar e integrar las aplicaciones creadas mediante el uso de APIs, un SDK y un chat integrado para el front end que va a permitir incluir de manera sencilla el agente en cualquier componente web.
Usando LLM Flow
Crear una instancia
Se ha integrado Flowise para que aquellos usuarios con roles de tipo «analista» o «administrador» puedan crear sus propias instancias en esta herramienta.
Como ocurre con otros módulos, sólo se podrá contar con una instancia por usuario. Sin embargo, esta instancia podrá tener tantos flujos como el usuario necesite.
Cada usuario va a poder crear su propia instancia de Flowise, la cual será independiente de la del resto de los usuarios. Para ello, desde Control Panel se navegará hasta el menú de Procesamiento > Gestión de flujos LLM.
Se mostrará entonces el listado de instancias disponibles para el usuario, el cual aparecerá vacío en un primer momento:
Para crear la instancia se pulsará en el botón de «+» situado en la parte superior derecha de la pantalla:
A continuación habrá que introducir un identificador para la instancia que se quiere crear.
Seguidamente se pulsará en el botón de «Crear» situado en la parte superior derecha de la pantalla para terminar de generar la instancia.
Hecho esto, se volverá al listado de instancias disponibles, donde se podrá visualizar la instancia que se acaba de crear junto a información sobre la misma, como su estado (inicialmente parado) y otros campos. También se podrá ver cómo el botón de «+» ha desaparecido, pues como se ha comentado previamente, sólo se permite una instancia por usuario.
Arrancar la instancia y acceder a Flowise
Para arrancar la instancia únicamente habrá que pulsar en el botón de «▶», situado en la parte de las opciones.
Una vez hecho, el estado cambiará a «Arrancado» y se empezará a mostrar el consumo de uso de CPU y memoria.
Tras iniciarse la instancia, para acceder a Flowise se tendrá que pulsar en el botón de «👁», también situado en la parte de las opciones. Se abrirá entonces el panel de flujos de Flowise:
Para crear un nuevo flujo de trabajo, se pulsará en el botón de «+ Add New» situado en la parte derecha.
Hecho esto, se mostrará el lienzo de creación del flujo: