Serviços de IA do Couchbase Capella 2024
Otimização do desenvolvimento de aplicativos de IA agêntica
Os Capella AI Services permitem que as empresas enfrentem os desafios de expansão de dados associados ao desenvolvimento e à implantação de IA, simplificando o processo de criação de aplicativos de IA seguros e escaláveis baseados em agentes. Ao usar o Capella AI Services, as organizações podem criar protótipos, construir, testar e implantar agentes de aplicativos com eficiência, mantendo modelos e dados próximos. Essa configuração minimiza a latência e reduz os custos operacionais, que são obstáculos comuns ao integrar novos componentes de tecnologia e fluxos de trabalho.
Os serviços de IA da Capella incluem:
- Serviços de modelo: Oferece pontos de extremidade gerenciados para os principais LLMs e modelos de incorporação, além de fornecer recursos de valor agregado, como cache de prompts e conversas, guardrails e filtragem de palavras-chave para dar suporte a fluxos de trabalho RAG e agênticos. A colocação de dados e modelos de IA facilita o cumprimento dos requisitos de privacidade e latência desejados para a criação de aplicativos RAG de nível empresarial, sem a necessidade de usar links privados caros ou soluções personalizadas.
- Serviços de dados não estruturados: Extrai, limpa, divide e transforma documentos não estruturados em JSON, preparando-os para vetorização. Ele também extrai informações estruturadas de documentos complexos e as torna consultáveis no Capella. Isso economiza o tempo dos desenvolvedores associado à criação de pipelines de pré-processamento DIY.
- Serviços de vetorização: Automatiza a vetorização e a indexação de dados armazenados no Capella. Juntamente com o Model and Unstructured Data Services, isso ajuda os desenvolvedores a criar rapidamente um pipeline RAG com menos ferramentas.
- Serviços de catálogo de agentes de IA: Acelera o desenvolvimento de aplicativos agênticos, oferecendo um repositório centralizado de ferramentas, metadados, prompts e informações de auditoria para fluxo, rastreabilidade e governança do LLM. Além disso, automatiza a descoberta de ferramentas de agente relevantes para responder às perguntas dos usuários e gerencia os guardrails para garantir que as trocas de agentes sejam consistentes ao longo do tempo.
- Funções da Capella AI: Aumenta a produtividade do desenvolvedor ao incorporar a análise de dados orientada por IA diretamente nos fluxos de trabalho dos aplicativos usando a sintaxe familiar do SQL++, eliminando a necessidade de ferramentas externas ou código personalizado. Com recursos como sumarização, classificação, análise de sentimentos e mascaramento de dados, o Capella capacita os desenvolvedores a transformar perfeitamente dados transacionais e colunares complexos em insights acionáveis em uma única plataforma unificada.
Nível gratuito Capella
Para melhorar a conveniência e a acessibilidade para os desenvolvedores, temos o prazer de apresentar uma nova camada gratuita do Couchbase Capella™ que substitui a avaliação de 30 dias do Capella. Ele permite que os desenvolvedores aprendam, usem e mantenham suas atividades no Capella pelo tempo que precisarem, além de oferecer suporte à promoção de seu trabalho em ambientes de teste e produção. A camada gratuita está disponível com suporte do fórum e da comunidade e será aberta em 9 de setembro.
Recursos relacionados
Whitepapers e blogs
Folhas de dados e páginas
Anunciando o Couchbase Enterprise Server 7.6 e 7.6.2
Suporte para pesquisa vetorial e aplicativos adaptativos com tecnologia de IA
A versão primavera de 2024 do Capella trouxe suporte para o Couchbase Server 7.6, incluindo armazenamento de alto desempenho, indexação e recuperação de embeddings vetoriais. As organizações estão correndo para criar aplicativos adaptativos hiperpersonalizados alimentados por IA generativa que proporcionam experiências excepcionais aos seus usuários finais. A pesquisa vetorial permite que as organizações usem a estrutura RAG (retrieval-augmented generation) para interagir com LLMs e outros modelos de base para tornar os chatbots e aplicativos alimentados por IA mais seguros, atualizados e corretamente alinhados a informações corporativas específicas. Além disso, as equipes podem usar a pesquisa híbrida, uma combinação de pesquisa vetorial, pesquisa de texto, pesquisa de intervalo, pesquisa de valor explícito e pesquisa geoespacial, para criar soluções de pesquisa robustas para os usuários finais, tudo em uma única plataforma. Não há necessidade de um banco de dados vetorial separado. As pesquisas avançadas podem ser suportadas por uma única consulta SQL e um único índice para fornecer resultados avançados e de baixa latência e, ao mesmo tempo, reduzir o TCO. Saiba mais
Aprimoramentos adicionais de desempenho para pesquisa vetorial
O Couchbase Enterprise Server 7.6.2 adiciona melhorias impressionantes de desempenho e escalabilidade à pesquisa vetorial para sistemas autogerenciados e baseados em Capella, incluindo um aumento de 7 vezes na taxa de transferência e menores requisitos de memória. Ele expande o suporte para vetores de 4096 dimensões e adiciona vetores compactados em base64 para dados e consultas, reduzindo a sobrecarga de armazenamento.
Suporte a vetores no Couchbase Mobile
O Couchbase é o primeiro fornecedor de banco de dados a anunciar o suporte a vetores para seu banco de dados móvel incorporável (Couchbase Lite). Isso permitirá que os clientes criem aplicativos poderosos baseados em IA na borda onde os dados são produzidos e consumidos. Consulte a guia Mobile para obter mais detalhes.
Integrações do ecossistema de IA
O Couchbase está impulsionando seu ecossistema de parceiros de IA com o LangChain e o LlamaIndex para aumentar ainda mais a produtividade dos desenvolvedores. A integração com a LangChain permite que uma interface API comum converse com uma ampla biblioteca de LLMs. Da mesma forma, a integração do Couchbase com o LlamaIndex oferecerá aos desenvolvedores ainda mais opções de LLMs ao criar aplicativos adaptáveis. Essas integrações acelerarão a montagem do prompt de consulta, melhorarão a validação da resposta e facilitarão os aplicativos RAG.
Recursos de gráfico habilitados por passagens de consulta
O Couchbase oferece suporte a travessias de relacionamento gráfico, o que significa a capacidade de fazer consultas recursivas para mapeamento de hierarquia e rede. As estruturas de dados hierárquicos de consulta permitem análises complexas com CTE recursivo ANSI SQL em áreas como organogramas, lista de materiais, gerenciamento da cadeia de suprimentos, topologia de rede e redes sociais. Saiba mais
O novo rebalanceamento de índices reduz o tempo em até 80%
Para agilizar a expansão dos nós de índice sem afetar o uso da CPU ou da memória, o Server 7.6 agora utiliza o rebalanceamento baseado em arquivos. Os testes mostraram uma melhora significativa no tempo de conclusão dos rebalanceamentos, tornando o processo mais fácil e bem-sucedido. Saiba mais
Couchstore para Magma, atualização em uma etapa sem tempo de inatividade
Os clientes poderão migrar do Couchstore para o mecanismo de armazenamento Magma sem interromper as cargas de trabalho de front-end. Os clientes devem estar na versão 7.6 para ativar a migração. A migração pode ser revertida a qualquer momento, se necessário. Saiba mais
Tempos de failover mais rápidos melhoram a HA
No caso de uma interrupção do nó de dados, a consulta será automaticamente redirecionada para o próximo nó de dados disponível sem nenhuma ação do aplicativo. O tempo limite mínimo inferior do failover automático foi reduzido de 5 segundos para 1 segundo, e a frequência do heartbeat foi reduzida de 1 segundo para 200 milissegundos. Saiba mais
Simplificações de consulta
Para facilitar o desenvolvimento inicial e os testes, os usuários podem executar todas as operações CRUD e de junção do banco de dados sem índices. Isso melhora a experiência de novos usuários com CREATE, INSERT e SELECT sem receber um erro de índice. Além disso, os usuários podem fazer varreduras simples de intervalo de valores-chave com base em prefixos de chave de documento sem precisar de nós de consulta e indexação. Para obter o melhor desempenho, os índices ainda são recomendados quando a velocidade é uma prioridade. Saiba mais
Recursos relacionados
Blogs
Documentos e tutoriais
Couchbase Mobile: O que há de novo
Habilite a IA da nuvem à borda
A pesquisa é uma parte importante de qualquer aplicativo, mas pesquisar apenas por palavras e frases específicas não é suficiente para estabelecer uma conexão pessoal. Você precisa de uma pesquisa semântica para obter as correspondências mais significativas para o usuário no contexto. Pesquisa vetorial vai além de simplesmente encontrar palavras correspondentes - ele também encontra informações relacionadas com base na significado central da entradatornando-o a melhor opção para fornecer informações relevantes que se conectam com os usuários.
Couchbase Mobile 3.2
O lançamento de Couchbase Mobile A versão 3.2 completa nossa visão de "IA da nuvem à borda", oferecendo pesquisa vetorial no dispositivo com o Couchbase Lite, o banco de dados incorporado para aplicativos móveis e de IoT. Agora, os desenvolvedores de aplicativos móveis podem aproveitar os recursos de pesquisa vetorial na borda sem dependências da Internet, permitindo os aplicativos GenAI mais rápidos, seguros e confiáveis possíveis. Esses benefícios são ampliados quando combinados com a pesquisa vetorial no Couchbase Capella e no Couchbase Server para permitir o suporte à IA da nuvem à borda.
Principais recursos
Crie aplicativos móveis com tecnologia de IA rápidos, confiáveis e seguros que funcionem mesmo sem a Internet
Ao habilitar a pesquisa vetorial no dispositivo, você elimina as dependências de bancos de dados em nuvem distantes, acelerando os aplicativos e eliminando o tempo de inatividade devido a interrupções na Internet.
Pesquisa vetorial da nuvem à borda
Com a pesquisa vetorial no Capella e no Couchbase Lite, combinada com a sincronização de dados integrada, você obtém a escala da nuvem para lidar com as enormes quantidades de dados necessárias para a IA e os recursos de borda para o imediatismo que torna a IA eficaz.
Pesquisa híbrida para envolvimento hiperpersonalizado
A pesquisa vetorial é ainda mais avançada quando você a combina com outras técnicas de pesquisa e consulta condicional (como a pesquisa de texto completo) compatíveis com o Couchbase Mobile e a chama usando uma única consulta SQL padrão.
RAG na borda
A geração aumentada por recuperação refere-se a uma técnica arquitetônica que auxilia a precisão dos modelos de IA, permitindo que o modelo tenha acesso a fatos externos. Os resultados da pesquisa vetorial podem ser incluídos como dados de contexto nas consultas enviadas a um LLM para personalizar as respostas das consultas. Com o Couchbase Mobile, os desenvolvedores podem criar aplicativos RAG que funcionam na borda sem a Internet.
Privacidade e segurança superiores para IA
Ao processar dados na borda, você garante a privacidade porque os dados confidenciais nunca precisam sair da borda. Você pode desenvolver aplicativos GenAI que são executados no dispositivo ou na borda sem a preocupação de alimentar modelos públicos com dados confidenciais ou privados.
Faça o download do Couchbase Lite 3.2 aqui.