A ontologia é a verdadeira proteção: como impedir que os agentes de IA entendam mal o seu negócio

A ontologia é a verdadeira proteção: como impedir que os agentes de IA entendam mal o seu negócio

As empresas estão investindo bilhões de dólares em agentes e infraestrutura de IA para transformar processos de negócios. No entanto, estamos vendo um sucesso limitado em aplicações do mundo real, muitas vezes devido à incapacidade dos agentes de compreender verdadeiramente os dados, políticas e processos de negócios.

Embora gerenciemos bem as integrações com tecnologias como gerenciamento de API, protocolo de contexto de modelo (MCP) e outras, fazer com que os agentes realmente entendam o “significado” dos dados no contexto de um determinado negócio é uma história diferente. Os dados corporativos são, em sua maioria, isolados em sistemas distintos em formatos estruturados e não estruturados e precisam ser analisados ​​com lentes de negócios específicas do domínio.

Por exemplo, o termo “cliente” pode referir-se a um grupo diferente de pessoas num sistema CRM de vendas, em comparação com um sistema financeiro que pode utilizar esta etiqueta para clientes pagantes. Um departamento pode definir “produto” como um SKU; outro pode representar como um "produto" família; um terço como um pacote de marketing.

Os dados sobre “vendas de produtos”, portanto, variam em significado sem relações e definições acordadas. Para que os agentes combinem dados de vários sistemas, eles devem compreender diferentes representações. Os agentes precisam saber o que os dados significam no contexto e como encontrar os dados certos para o processo certo. Além disso, mudanças de esquema em sistemas e problemas de qualidade de dados durante a coleta podem levar a mais ambiguidade e incapacidade dos agentes de saber como agir quando tais situações são encontradas.

Além disso, a classificação de dados em categorias como PII (informações de identificação pessoal) precisa ser rigorosamente seguida para manter a conformidade com padrões como GDPR e CCPA. Isto exige que os dados sejam rotulados corretamente e que os agentes sejam capazes de compreender e respeitar esta classificação. Conseqüentemente, vemos que construir uma demonstração interessante usando agentes é muito viável – mas colocar em produção o trabalho com dados de negócios reais é uma história completamente diferente.

A fonte da verdade baseada em ontologia

Construir soluções agentes eficazes requer uma única fonte de verdade baseada em ontologia. Ontologia é uma definição empresarial de conceitos, sua hierarquia e relacionamentos. Ele define termos com relação aos domínios de negócios, pode ajudar a estabelecer uma fonte única de verdade para os dados e capturar nomes de campos uniformes e aplicar classificações aos campos.

Uma ontologia pode ser específica de um domínio (saúde ou finanças) ou específica de uma organização com base em estruturas internas. Definir uma ontologia antecipadamente é demorado, mas pode ajudar a padronizar os processos de negócios e estabelecer uma base sólida para a IA agente.

A ontologia pode ser realizada usando formatos consultáveis ​​comuns, como triplestore. Regras de negócios mais complexas com relações multi-hop poderiam usar gráficos de propriedades rotuladas como Neo4j. Esses gráficos também podem ajudar as empresas a descobrir novos relacionamentos e a responder questões complexas. Ontologias como FIBO (Ontologia de Negócios da Indústria Financeira) e UMLS (Sistema Unificado de Linguagem Médica) estão disponíveis em domínio público e podem ser um bom ponto de partida. No entanto, estes geralmente precisam ser personalizados para capturar detalhes específicos de uma empresa.

Introdução à ontologia

Uma vez implementada, uma ontologia pode ser a força motriz para agentes empresariais. Agora podemos fazer com que a IA siga a ontologia e a utilize para descobrir dados e relacionamentos. Se necessário, podemos fazer com que uma camada agente forneça detalhes importantes da própria ontologia e descubra dados. Regras e políticas de negócios podem ser implementadas nesta ontologia para serem seguidas pelos agentes. Esta é uma excelente forma de fundamentar seus agentes e estabelecer proteções com base no contexto real de negócios.

Agentes projetados dessa maneira e ajustados para seguir uma ontologia podem aderir às barreiras de proteção e evitar alucinações que podem ser causadas pelos grandes modelos de linguagem (LLM) que os alimentam. Por exemplo, uma política comercial pode definir que, a menos que todos os documentos associados a um empréstimo não tenham sinalizadores verificados definidos como "verdadeiro," o status do empréstimo deve ser mantido no estado “pendente”. Os agentes podem contornar esta política e determinar quais documentos são necessários e consultar a base de conhecimento.

Aqui está um exemplo de implementação:

(Figura original do autor)

Conforme ilustrado, temos dados estruturados e não estruturados processados ​​por um agente de inteligência documental (DocIntel) que preenche um banco de dados Neo4j baseado em uma ontologia do domínio de negócios. Um agente de descoberta de dados no Neo4j encontra e consulta os dados corretos e os transmite para outros agentes que cuidam da execução do processo de negócios. A comunicação entre agentes acontece com um protocolo popular como A2A (agente para agente). Um novo protocolo chamado AG-UI (Agent User Interaction) pode ajudar a construir telas de UI mais genéricas para capturar o funcionamento e as respostas desses agentes.

Com este método, podemos evitar alucinações, obrigando os agentes a seguir caminhos orientados pela ontologia e a manter classificações e relacionamentos de dados. Além disso, podemos escalar facilmente adicionando novos activos, relações e políticas que os agentes podem cumprir automaticamente, e controlar alucinações definindo regras para todo o sistema em vez de entidades individuais. Por exemplo, se um agente alucina um “cliente” individual, porque os dados conectados para o “cliente” alucinado não serão verificáveis ​​na descoberta de dados, podemos detectar facilmente esta anomalia e planear eliminá-la. Isso ajuda o sistema de agência a crescer junto com o negócio e a gerenciar sua natureza dinâmica.

Na verdade, uma arquitetura de referência como essa adiciona alguma sobrecarga na descoberta de dados e nos bancos de dados gráficos. Mas, para uma grande empresa, ele adiciona as proteções certas e dá aos agentes instruções para orquestrar processos de negócios complexos.

Dattaraj Rao é arquiteto de inovação e P&D na Sistemas Persistentes.

Leia mais do nosso escritores convidados. Ou considere enviar sua própria postagem! Veja nosso diretrizes aqui.



Fonte ==> Cyberseo

Relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *