TCU usa quatro nuvens para operar 19 modelos de IA
O Tribunal de Contas da União (TCU) adotou uma arquitetura multicloud para sustentar seus projetos de inteligência artificial (IA), incluindo o ChatTCU, assistente desenvolvido internamente pelo órgão. A infraestrutura permite acessar serviços da AWS, Microsoft Azure, Google Cloud e Oracle por meio de uma única contratação, tendo a Claro empresas como broker dos diferentes provedores.
Atualmente, o TCU mantém 19 modelos de linguagem de grande porte (LLMs) disponíveis para cerca de 3,5 mil usuários. Os modelos utilizam serviços nativos distribuídos entre diferentes ambientes de nuvem, permitindo ao Tribunal escolher recursos de acordo com as características de cada aplicação.
Segundo Rainério Rodrigues Leite, secretário de Tecnologia da Informação e Evolução Digital do TCU, a possibilidade de utilizar diferentes provedores foi determinante para a estruturação dos projetos de IA do órgão.
“Temos 19 modelos de LLM disponíveis e eles fazem uso de serviços nativos alocados em nuvens de fornecedores distintos, cada um com suas características e complementariedades”, afirma.
A Plataforma Multicloud utilizada pelo TCU foi contratada para centralizar o acesso aos provedores em uma mesma estrutura administrativa. Com isso, faturamento, suporte e gerenciamento dos diferentes ambientes passam por um único contrato.
TCU pode trocar modelos sem novo aditivo
Um dos objetivos da arquitetura é reduzir o impacto contratual provocado pela rápida evolução dos modelos de inteligência artificial. De acordo com o TCU, a estrutura permite migrar cargas entre provedores e experimentar novos LLMs sem a necessidade de promover um aditivo contratual a cada mudança tecnológica.
“Como os modelos de IA evoluem rapidamente, o contrato multicloud viabiliza a migração de cargas de trabalho e o teste de novos LLMs quase em tempo real, sem a necessidade de novos aditivos contratuais”, afirma Leite.
O modelo também evita que o Tribunal tenha de administrar separadamente contratos e faturamentos de cada provedor de nuvem. A Claro empresas atua como integradora da operação.
O material divulgado não informa o valor do contrato, seu prazo de vigência nem apresenta comparação quantitativa entre os custos da arquitetura atual e os de contratações individuais dos provedores.
FinOps controla consumo de IA
A flexibilidade para utilizar diferentes modelos é acompanhada por mecanismos internos de controle de consumo. O TCU informa que adota políticas próprias de FinOps para acompanhar os recursos utilizados nas aplicações de inteligência artificial.
Entre os instrumentos estão auditorias de prompts e a definição de cotas financeiras por usuário para o consumo de tokens. A plataforma multicloud fornece a infraestrutura consolidada sobre a qual o Tribunal realiza esse acompanhamento.
A estratégia permite que o ChatTCU não fique associado a um único modelo ou provedor. Na prática, o órgão pode utilizar serviços de diferentes nuvens conforme as necessidades de cada aplicação e acompanhar de forma consolidada os recursos consumidos.
ChatTCU é compartilhado com outras instituições
Segundo o material divulgado, o TCU também disponibiliza sua experiência e o código-fonte do ChatTCU para mais de 160 instituições brasileiras e estrangeiras.
O Tribunal informa ainda ter alcançado o nível 5, o mais elevado, em maturidade no uso de inteligência artificial generativa aplicada ao controle governamental em levantamento da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) realizado com 39 países.
O comunicado, entretanto, não apresenta a metodologia, a identificação do levantamento ou os resultados das demais instituições e países avaliados. Por isso, esse dado deve ser atribuído ao TCU até que a pesquisa original seja consultada.
*Com assessoria de imprensa