A IA é amplamente usada, mas os legisladores estabeleceram poucas regras

A tela de boas-vindas do aplicativo OpenAI "ChatGPT" é exibida na tela de um laptop em uma ilustração fotográfica. Mais estados estão considerando regulamentações para inteligência artificial e outros sistemas automatizados. Leon Neal/Getty Images.

No outono de 2016, o Departamento de Crianças e Famílias de Connecticut começou a usar uma ferramenta de análise preditiva que prometia ajudar a identificar crianças em perigo iminente.

A ferramenta usou mais de duas dúzias de pontos de dados para comparar casos abertos no sistema de Connecticut com casos anteriores de assistência social com resultados ruins. Em seguida, cada criança recebeu uma pontuação preditiva que sinalizou alguns casos para uma intervenção mais rápida.

Mesmo quando mais estados começaram a adotar a ferramenta, no entanto, algumas agências descobriram que ela parecia perder casos urgentes e sinalizar incorretamente os menos graves. Um estudo publicado na revista Child Abuse & Neglect descobriu mais tarde que não melhorou os resultados das crianças. Connecticut e vários outros estados abandonaram a ferramenta, desenvolvida por uma empresa privada da Flórida. Em 2021 - cinco anos depois que o Departamento de Crianças e Famílias de Connecticut usou a ferramenta pela primeira vez e dois anos depois que o estado a descartou - pesquisadores da Universidade de Yale solicitaram informações sobre a mecânica de como ela funcionava e concluíram que a agência nunca a havia entendido.

"Este é um enorme, enorme problema de responsabilidade pública", disse Kelsey Eberly, professora clínica da Yale Law School. "As agências estão obtendo essas ferramentas, estão usando-as, confiando nelas - mas nem mesmo necessariamente as entendem. E o público certamente não entende essas ferramentas, porque não as conhece."

Connecticut é o último estado a aprovar regulamentos explícitos para inteligência artificial e outros sistemas automatizados, em parte graças ao legado da ferramenta para rastrear crianças em risco. Um projeto de lei bipartidário aprovado em 30 de maio, que o governador democrata Ned Lamont deve sancionar, exigiria que as agências estaduais inventariassem e avaliassem quaisquer sistemas governamentais que usam inteligência artificial e criassem um grupo de trabalho permanente para recomendar novas regras.

Muitos estados já regulamentam aspectos dessas tecnologias por meio de estatutos antidiscriminação, proteção ao consumidor e privacidade de dados. Mas desde 2018, pelo menos 13 estados estabeleceram comissões para estudar especificamente a IA – e desde 2019, pelo menos sete estados aprovaram leis destinadas a mitigar o viés, aumentar a transparência ou limitar o uso de sistemas automatizados, tanto em agências governamentais quanto no setor privado. .

Somente em 2023, legisladores em 27 estados, além de Washington, DC e Porto Rico, consideraram mais de 80 projetos de lei relacionados à IA, de acordo com a Conferência Nacional de Legislaturas Estaduais.

As ferramentas de inteligência artificial – definidas amplamente como tecnologias que podem realizar tarefas complexas de análise e solução de problemas antes reservadas para humanos – agora determinam com frequência o que os americanos veem nas mídias sociais, quais alunos entram na faculdade e se os candidatos a empregos marcam entrevistas.

Mais de um quarto de todas as empresas americanas usaram IA de alguma forma em 2022, de acordo com o IBM Global AI Adoption Index. Em uma ilustração impressionante da crescente onipresença da IA, um projeto de lei recente para regulamentar a tecnologia na Califórnia atraiu comentários de organizações tão diversas quanto uma associação comercial para a indústria de alimentos e um sindicato estadual de enfermeiras.

Mas a legislação federal estagnou, deixando a regulamentação para os governos locais e criando uma colcha de retalhos de leis estaduais e municipais.

"Os Estados Unidos têm sido muito liberais na regulamentação de tecnologia por muitos anos", disse Darrell M. West, pesquisador sênior do Centro de Inovação Tecnológica do instituto Brookings Institution e autor de um livro sobre inteligência artificial. "Mas como vemos as armadilhas de nenhuma regulamentação - o spam, o phishing, a vigilância em massa - o clima público e o ambiente de formulação de políticas mudaram. As pessoas querem ver isso regulamentado."

O interesse dos legisladores em regulamentar a tecnologia aumentou durante esta sessão legislativa e deve crescer ainda mais no próximo ano, graças à ampla adoção do ChatGPT e outras ferramentas de IA voltadas para o consumidor, disse Jake Morabito, diretor da Força-Tarefa de Comunicações e Tecnologia da o conservador American Legislative Exchange Council (ALEC), que defende menos regulamentação.