O poder da IA generativa para o governo e o setor público

Em seu estado atual, a IAG pode produzir conteúdo impressionante, conversas, imagens e muito mais. Mas esses resultados são tão relevantes quanto os dados nos quais a ferramenta foi treinada. Quando os conjuntos de dados de treinamento — que fornecem a aparência de conhecimento dentro dos grandes modelos de linguagem (LLMs) — são baseados em dados disponíveis publicamente na internet, as respostas que eles geram têm um escopo limitado. A IAG baseada em dados públicos geralmente é propensa a alucinações — informações incorretas apresentadas como se fossem precisas.

Por outro lado, quando a IAG é usada com os dados internos de uma agência, pode acelerar significativamente os resultados da missão, melhorar os serviços aos cidadãos e conectar melhor os profissionais do conhecimento do governo, como analistas e profissionais de segurança cibernética, aos dados certos no momento certo. Por quê? Porque esses dados institucionais acrescentam um contexto essencial.

A combinação de IAG e dados institucionais privados tem um efeito multiplicador de força. A solução ingênua seria inserir dados privados nos próprios modelos; no entanto, a complexidade e os custos de treinamento ou ajuste fino dos modelos de IA, multiplicados pelo número de domínios e pontos de interação no governo, tornam-se insustentáveis. Em vez disso, as mesmas perguntas feitas ao LLM podem ser levadas primeiro às funcionalidades de busca com IA da Elastic, onde é possível encontrar a resposta baseada no fato mais relevante com base nos seus dados internos.

Esse contexto específico do domínio que seus dados trazem para a IAG pode tornar a saída mais precisa, relevante e prática para sua missão. Um pré-requisito para “trazer seus próprios dados” é que seus dados sejam armazenados em uma plataforma de dados unificada onde estejam acessíveis e possam ser localizados em um só lugar.

Especialmente para o setor público, você não quer que seus dados altamente sensíveis se misturem à IAG publicamente acessível — ou estejam em qualquer sistema no qual você não mantenha o controle de seus próprios dados. Qualquer consulta de busca enviada para um produto de IAG disponível publicamente (como o ChatGPT) é consumida pelo modelo, o que significa que seus dados internos não são mais internos. Mesmo que sua organização não use formalmente a IAG como parte do seu conjunto de tecnologia, é quase certo que seus funcionários a usarão de qualquer maneira.

Ajude a garantir que seus dados internos permaneçam nas mãos certas integrando estrategicamente a IAG a seus dados proprietários de uma forma que sua equipe de TI possa controlar e saber. Caso contrário, você pode ter funcionários colocando seus dados sensíveis involuntariamente em um serviço de IAG público como o ChatGPT, onde não é possível garantir sua segurança. Idealmente, você integraria seus dados proprietários a uma plataforma projetada para lidar com informações sensíveis, onde mantém o controle total de seus próprios dados e habilita o controle de acesso por função (RBAC). Falaremos mais sobre isso adiante.

Os dados são um dos ativos mais estratégicos que as organizações do setor público possuem atualmente. Quando seus dados são unificados e armazenados em uma única plataforma, onde podem utilizar a IAG e a tecnologia de busca, as implicações no mundo real podem ser de longo alcance, fornecendo benefícios como:

Imagine que um cidadão esteja querendo se inscrever para usar serviços públicos de moradia. O processo de inscrição envolve várias etapas e formulários, que variam de acordo com as necessidades e a localização. A simples listagem de informações genéricas em uma página da web seria complexa e provavelmente não resolveria a situação específica desse cidadão. Por outro lado, quando as agências trazem seus próprios dados para a IAG, o cidadão pode encontrar informações e instruções adaptadas às suas circunstâncias individuais. Essas informações altamente relevantes têm o potencial de reduzir a complexidade que muitas vezes impede as pessoas de ter acesso a serviços essenciais.

Vejamos outro exemplo: você recebeu uma convocação para participar de um júri popular e precisa saber o que acontece a seguir. Onde você precisa ir? Quanto tempo vai demorar? Você foi selecionado(a) como jurado? O juiz permite o uso de telefones celulares no tribunal? Utilizando seus dados, a IAG pode simplificar e personalizar essas informações complexas, melhorando potencialmente a experiência do cidadão e desenvolvendo a confiança nos serviços e líderes do governo.

Para a comunidade de aplicação da lei e inteligência, o acesso democratizado aos dados corretos em tempo real é fundamental. Isso é especialmente verdadeiro quando você tem várias organizações colaborando em um projeto, com bancos de dados de informações distintos em diferentes formatos. Ter a capacidade de encontrar respostas em meio a vários tipos de dados e fontes com uma única consulta de IAG tem o potencial de aumentar a velocidade e a precisão dos resultados, reduzir o trabalho manual e demorado e garantir que todos que precisarem possam trabalhar com o mesmo conjunto de dados preciso.

Ao integrar a IAG a um contexto específico do domínio, você ajuda a permitir que suas equipes internas encontrem rapidamente as informações de que precisam para fazer seu trabalho. Uma consulta rápida em vários conjuntos e formatos de dados pode fornecer informações altamente relevantes em tempo real, evitando a necessidade de vasculhar de forma meticulosa (e tediosa) documentos ou bancos de dados isolados. Além disso, na maioria dos casos, as informações que suas equipes procuram não serão encontradas na internet pública ou em conjuntos de treinamento de modelos de IA. Por isso, é importante fornecer uma ferramenta com IAG para encontrar informações proprietárias rapidamente, evitando que seus funcionários recorram a uma ferramenta pública que pode comprometer a segurança dos seus dados.

Quando os funcionários gastam menos tempo em buscas infrutíferas e correlações manuais de dados, você elimina mais uma fonte de atrito no dia deles, abrindo caminho para mais satisfação e engajamento no trabalho, especialmente se você estiver precisando de recursos para começar.

Ao considerar como integrar os dados da sua agência à IAG, a plataforma Elasticsearch pode ser uma ferramenta poderosa. Ela permite ingerir todos os tipos de dados, armazená-los de forma econômica, acessá-los onde quer que residam e integrá-los a modelos transformadores de IAG.
A Elastic trabalhou para democratizar a busca por mais de uma década e investimos em IA e machine learning (ML) durante uma boa parte desse tempo. Como resultado, acabamos de lançar o Elasticsearch Relevance Engine (ESRE) para ajudar nossos clientes a encontrar respostas relevantes para suas perguntas por meio de IA e ML na plataforma Elasticsearch.

O ESRE combina o melhor da IA com a busca de texto da Elastic, oferecendo a capacidade de integração com grandes modelos de linguagem (LLMs). É acessível por meio de uma API simples e unificada na qual a comunidade da Elastic já confia. Assim, os desenvolvedores podem começar a usá-la imediatamente para elevar a relevância da busca.

Em outras palavras, agora você pode conectar seu próprio modelo de IAG ou um modelo de terceiros diretamente aos seus dados armazenados na plataforma Elasticsearch. Isso permite que você aproveite o poder da IAG com dados específicos do domínio para produzir respostas precisas, relevantes, práticas e seguras.

Para saber mais sobre o ESRE, leia o post de lançamento.

1. Armazenamento de dados unificado e acesso democratizado. Você pode armazenar todos os seus dados de forma econômica na plataforma Elasticsearch para ter acesso democratizado, capacidade de localização e insights. Depois que seus dados estiverem na plataforma, você poderá usá-los para casos de uso adicionais, como caça a ameaças e monitoramento de infraestrutura.

2. A capacidade de encontrar respostas de missão crítica que sejam:

• Precisas: as respostas que você obterá da IAG e de seus próprios dados baseiam-se em fatos relevantes para a missão — não em alucinações.
• Relevantes: ao usar dados proprietários no Elasticsearch, você evita ter de retreinar LLMs repetidamente em seus dados internos, economizando tempo e custos de treinamento e garantindo que suas informações estejam sempre atualizadas.
• Práticas: a plataforma Elasticsearch democratiza o acesso a dados e insights, permitindo que suas equipes colaborem e tomem decisões em tempo real, de qualquer lugar.
• Seguras: nem todo funcionário deve poder acessar todos os documentos, e certos dados precisam residir em locais específicos para fins de soberania de dados. O Elasticsearch permite que você limite o acesso aos dados a determinadas funções em sua organização, mantendo a capacidade de buscar em todo o datastore.

3. Implementação econômica. Devido a décadas de otimizações na recuperação de informações, o Elasticsearch apresenta o conhecimento para interações de IAG fazendo um uso muito mais eficiente da CPU em comparação com a extração do mesmo conhecimento de grandes modelos de linguagem treinados ou ajustados. Algumas estimativas colocam a recuperação semântica como sendo 5 vezes mais eficiente do que o uso apenas do ChatGPT 3.5 ou 250 vezes mais eficiente do que os custos de CPU do GPT-4.

Quanto valor a IAG pode criar para sua organização depende dos seus dados e se eles são unificados e acessíveis. Se seus dados estiverem espalhados por várias ferramentas e equipes, talvez você não tenha o contexto e o conteúdo necessários para tornar a IAG altamente relevante para os objetivos da sua missão. A plataforma Elasticsearch serve como um único datastore para todos os dados da sua agência e um ponto de partida centralizado para colaboração, insights de IA e automação.

• Saiba mais sobre o Elasticsearch e a IAG. 
• Obtenha uma perspectiva técnica sobre como implementar o Elasticsearch e a IA para casos de uso que priorizam a privacidade.
• Converse com um especialista em Elasticsearch para o setor público sobre como a IA pode agregar valor à missão da sua agência.

Neste post do blog, podemos ter usado ou nos referido a ferramentas de IA generativa de terceiros, que pertencem a seus respectivos proprietários e são operadas por eles. A Elastic não tem nenhum controle sobre as ferramentas de terceiros e não temos nenhuma responsabilidade por seu conteúdo, operação ou uso, nem por qualquer perda ou dano que possa surgir do uso de tais ferramentas. Tenha cuidado ao usar ferramentas de IA com informações pessoais, sensíveis ou confidenciais. Os dados que você enviar poderão ser usados para treinamento de IA ou outros fins. Não há garantia de que as informações fornecidas serão mantidas em segurança ou em confidencialidade. Você deve se familiarizar com as práticas de privacidade e os termos de uso de qualquer ferramenta de IA generativa antes de usá-la.

Elastic, Elasticsearch, ESRE, Elasticsearch Relevance Engine e marcas associadas são marcas comerciais, logotipos ou marcas registradas da Elasticsearch N.V. nos Estados Unidos e em outros países. Todos os outros nomes de empresas e produtos são marcas comerciais, logotipos ou marcas registradas de seus respectivos proprietários.