Regulamentação forte da IA é melhor para consumidores e empresas

Regulamentação de IA

Um estudo inédito de modelagem revelou que uma regulamentação ruim da inteligência artificial (IA) pode ser pior do que a ausência total de legislação quando se trata da segurança de produtos e serviços de IA.

A dificuldade na implementação de uma regulamentação federal forte para IA tem levado a iniciativas isoladas e de âmbito limitado, mas não está claro como essa colcha de retalhos de leis irá alterar o desenvolvimento dos produtos e serviços e o comportamento das empresas.

Para melhor compreender isso, pesquisadores das universidades de Cornell e Carnegie Mellon, nos EUA, desenvolveram um modelo teórico para estimar os efeitos da regulamentação da IA, tanto para empresas que produzem modelos de IA generativa de uso geral – como os que estão por trás dos populares chatbots – quanto para empresas que aplicam esses modelos, criando uma variedade de aplicativos, como ferramentas de atendimento ao cliente ou sistemas de diagnóstico médico.

“O objetivo da regulamentação deve ser o benefício mútuo de todos na sociedade, e isso pode incluir aqueles que desenvolvem a tecnologia, mas também os usuários finais e o público,” defende o professor Benjamin Laufer. “Não há muita regulamentação de segurança para IA, e muitas regulamentações possíveis são apenas propostas neste estágio. De certa forma, a regulamentação é como tatear no escuro, então vale a pena analisar os efeitos que essas regulamentações podem ter sobre os incentivos.”

No modelo desenvolvido pela equipe, é possível definir um requisito mínimo de segurança – seja para a empresa de IA em geral, para a empresa que desenvolve a tecnologia a jusante ou para ambas – e então estimar a segurança e o desempenho dos produtos no mercado.

Bom para os consumidores e bom para as empresas

O resultado surpreendeu: Quando as regulamentações visavam apenas as empresas que desenvolvem a tecnologia de aplicativo, os produtos resultantes mostraram-se menos seguros do que se não houvesse regulamentação alguma.

Esse tipo de regulamentação poderia criar um ambiente em que os produtores de IA em geral, os grandes produtores dos modelos, podem economizar em investimentos em segurança, como auditorias de segurança de terceiros, alegando que as empresas que desenvolvem a tecnologia a jusante é que serão responsáveis por garantir a segurança do produto final.

“Surge um comportamento de aproveitamento indevido,” disse Laufer. “A regulamentação funciona como uma ferramenta para o fornecedor geral transferir o ônus da segurança para o especialista da cadeia de valor.”

Por outro lado, uma regulamentação centralizada e equilibrada, que atribua responsabilidade tanto às empresas de desenvolvimento primário quanto as empresas de aplicativos, resulta não apenas em produtos mais seguros para os consumidores, mas também em maiores lucros para todas as empresas envolvidas.

Isto acontece porque, quando os produtores gerais de IA e as empresas da cadeia de valor precisam atingir uma meta de segurança específica, isso reduz o risco para ambas as categorias de empresas, já que elas não precisam confiar na palavra da outra de que determinados investimentos em segurança serão feitos.

O modelo criado pelos pesquisadores ainda é bastante simplificado, mas eles pretendem expandir o trabalho analisando os impactos reais da regulamentação no desenvolvimento e na segurança dos modelos de IA.