Como está a regulamentação das IAs? Cenário e perspectivas

Inteligência artificial. Esse é um nome que está, indiscutivelmente, na boca das pessoas. E no dia a dia delas também. 

Só que, com a normalização dessa ferramenta no cotidiano, é preciso fazer outra pergunta: já se está pensando em uma regulamentação das IAs?

É sempre bom dizer que a inteligência artificial não é necessariamente um conceito novo (filmes de robôs com consciência que o digam!), mas a presença do Chat GPT, juntamente com toda sua concorrência, acelerou essa necessidade. 

Agora, estamos falando de uma solução absurdamente e mundialmente popular.

Qualquer pessoa pode entrar na plataforma e usar.  

O Brasil, por exemplo, já é o 5º país que mais usa ChatGPT.

E considerando o potencial de tudo isso, é bem razoável essa preocupação surgir rapidamente.

No entanto, a resposta para a pergunta que eu fiz mais acima não é tão simples. 

Tudo está no começo e muita coisa pode acontecer.

Mas se o tema pode ser um pouco complexo, quero deixar claro que meu papel vai ser descomplicá-lo para você!

Quer vir comigo?

Agora, antes da gente embarcar nesse tema, só queria aproveitar o assunto de IA para te apresentar um webinar gratuito do meu time sobre a revolução desse tema e, claro, a parte estratégica dele para os negócios! Dá uma olhada!

Por que é importante a regulamentação das IAs?

Existe uma forte necessidade de regulamentação da Inteligência artificial por muitos motivos, mas todos eles existem devido às implicações significativas que essa tecnologia pode ter em diversas áreas da sociedade. 

Regulamentar a inteligência artificial é, na verdade, a melhor forma de estabelecer padrão jurídico para seu desenvolvimento.

O que eu quero dizer com isso?

Só regulando é possível orientar seu crescimento de uma maneira que seja positiva e sustentável.

E aí se cria um arcabouço regulatório que aborda esses problemas complexos relacionados à ferramenta. 

Mas se você ainda não está entendendo exatamente essa importância, vou te mostrar 4 razões indispensáveis.

Dá uma olhada!

Ética e responsabilidade

A IA tem o potencial de tomar decisões autônomas que podem ter impactos profundos na vida das pessoas. 

No entanto, essas decisões podem envolver questões éticas e morais…

Exemplo real: imagine um carro autônomo transitando em uma estrada movimentada. De repente, à sua frente, um grupo de pedestres está no local de espera da travessia,

Ao mesmo tempo, o sistema percebe um problema: um veículo que invadiu sua pista, o que certamente causaria ferimentos graves a quem está no carro.

Bom, você, humano, já pode concluir: não é uma situação simples. Qualquer decisão que o sistema tome pode resultar em danos e ferimentos!

Mas a questão ética reside em como a IA deve tomar essa decisão. Quem é responsável por essa decisão difícil? E como os sistemas autônomos podem ser regulamentados de maneira a evitar situações éticas impossíveis ou prejudiciais?

Qual será o critério da ferramenta? 

Dito isso, regulamentações ajudam a garantir que essas decisões sejam tomadas de maneira ética e responsável.

Legislações podem esclarecer as responsabilidades legais das partes envolvidas, desde os desenvolvedores até os operadores e proprietários das IAs. 

E ao definir critérios claros para atribuir responsabilidade, isso automaticamente incentiva os desenvolvedores a criar sistemas confiáveis.

Principalmente ao assegurarem que haja mecanismos para reparar danos causados por decisões errôneas.

Transparência

Muitos sistemas de IA, como redes neurais profundas, são considerados caixas-pretas devido à sua complexidade. 

Ou seja, as pessoas não têm acesso fácil, certo?

Regulamentações das IAs podem exigir que os desenvolvedores ofereçam explicações claras sobre como os sistemas tomam decisões. 

Ah, e isso não apenas ajuda a construir confiança entre os usuários e as IAs.

Elas permitem que os usuários entendam como certas decisões são alcançadas! 

É possível, inclusive, que isso envolva explicações visuais ou narrativas das etapas que levaram a uma decisão específica. 

Gráficos, mapas de calor ou até mesmo descrições em linguagem natural ajudam os usuários a entender como a IA chegou a uma conclusão.

Além disso, definir as regras do jogo pode estabelecer a necessidade de auditorias e avaliações regulares das IAs para garantir que elas estejam em conformidade com o que se delimita na própria lei.

Privacidade e segurança

IAs frequentemente lidam com dados pessoais, como informações médicas e financeiras.

Então, nada mais justo do que estabelecer diretrizes para a coleta, armazenamento e processamento desses dados, não é mesmo?

Na verdade, isso já tem relação direta com LGPD.

E outro ponto essencial é definir medidas de segurança robustas para evitar violações e vazamentos de dados.

Só que os caminhos a serem explorados são muitos ainda — e nem tudo foi definido ainda.

No caso de uma violação de dados, as regulamentações das IAs podem estabelecer requisitos específicos para notificar os usuários afetados e as autoridades competentes. 

Essa notificação é o que vai fazer com que os usuários possam tomar medidas para proteger suas informações e identidades.

Legislações também podem incentivar o uso de técnicas de criptografia robustas para proteger a confidencialidade dos dados durante o armazenamento e a transmissão.

Ou seja, mesmo se os dados forem comprometidos, eles vão estar inacessíveis para indivíduos não autorizados.

Viés e discriminação

O viés também é um grande ponto de atenção quando o assunto é legislação das inteligências artificiais — e esse aspecto tem forte relação com o primeiro que eu mencionei.

IAs aprendem a partir de dados históricos.

E esses dados muitas vezes refletem preconceitos e desigualdades presentes na sociedade. 

Resultado: ferramentas reproduzindo e amplificando vieses, como discriminação racial, de gênero ou de classe. 

Imagine que um departamento de polícia implementou um sistema de IA de reconhecimento facial para identificar suspeitos em multidões ou para monitorar locais públicos em busca de atividades criminosas.

Percebe o perigo?

Regulamentações das IAs podem exigir que os desenvolvedores auditem os dados de treinamento para identificar e mitigar esses vieses, garantindo que as IAs não perpetuem injustiças sociais.

Inclusive, é possível demandar a realização de testes de equidade nos sistemas de IA antes de serem implantados na produção. 

Esses testes avaliam se as decisões tomadas pela IA são consistentes e justas em diferentes grupos demográficos. 

Caso sejam identificadas disparidades, os desenvolvedores devem ajustar e aprimorar o sistema para alcançar resultados mais equitativos.

Além disso, é importante definir que as IAs sejam continuamente monitoradas após sua implantação para garantir que não desenvolvam vieses prejudiciais ao longo do tempo. 

Isso é particularmente importante.

Afinal, a IA pode interagir com novos dados e evoluir de maneiras imprevisíveis!

Como está o cenário de regulamentação das IAs?

Já existe um movimento de muitos países em relação a regulamentação das IAs, no entanto, cada um tem o seu próprio ritmo.

Pensando nisso, posso dar um panorama geral pelo mundo e, claro, falar também da expectativa em relação ao Brasil.

Vamos lá?

No mundo

No mundo, o patamar é bastante variado. Mas um dos continentes com mais avanços nesse sentido é a Europa.

AI Act é a primeira lei abrangente sobre IA do mundo.

O objetivo central é regulamentar a inteligência artificial para garantir melhores condições para o desenvolvimento e utilização da tecnologia.

A prioridade do parlamento é que “esses sistemas sejam seguros, transparentes, rastreáveis, não discriminatórios e ecológicos”.

A Inglaterra, por sua vez, também tem dado seus passos. 

O Departamento de Ciência, Inovação e Tecnologia e Gabinete de Inteligência Artificial do Reino Unido publicou também um white paper sobre os planos em relação ao tema.

A ideia é trazer uma abordagem pró-inovação na regulamentação das IAs, pois o Reino Unido se coloca como o “lar das startups” e das grandes empresas de IA que desejam competir internacionalmente. 

E é um objetivo governamental se tornar uma “base global da regulamentação da inteligência artificial”.

Assim como o Reino Unido, os Estados Unidos ainda não têm leis federais sancionadas relacionadas de forma ampla com a IA.

Mas no mesmo caminho, o Gabinete de Política Científica e Tecnológica da Casa Branca (OSTP) lançou um Plano para uma Declaração de Direitos da IA.

Também é um white paper descreve cinco princípios destinados a orientar a utilização da IA, bem como potenciais regulamentações.

O propósito é fortalecer a ideia de que os sistemas automatizados devem ser seguros e eficazes, não discriminatórios,transparentes e protetivos.

Se distanciando (geograficamente) desses exemplos que estou trazendo, a regulamentação das IAs na China tem sido flexibilizada em relação ao plano original do País.

A Administração do Ciberespaço da China, o principal órgão responsável pela supervisão da internet no país, lançou um conjunto atualizado de orientações sobre esse tema.

A revisão de várias medidas anteriormente anunciadas acontece, muito provavelmente, pelo fato de que Pequim reconhece oportunidades nessa indústria.

Mas, entre as principais medidas, está a exigência de que os fornecedores de serviços de IA generativa conduzam avaliações de segurança e registrem seus algoritmos junto ao governo.

Tudo isso, claro, caso esses serviços tenham a capacidade de influenciar a opinião pública ou possam “mobilizar” o público.

Já a Índia é um exemplo de País que afirma, até agora, pelo menos, não pretender regular a IA.

No Brasil

Agora, chegando ao Brasil: em que pé nós estamos?

Bom, o País já tem em curso algumas propostas com o objetivo de regulamentar a IA.

Mas teve uma que passou por diversas mudanças desde 2021.

Hoje, a regulamentação de IA no Brasil, PL 2338/2023, leva o nome de Marco Legal da Inteligência Artificial.  

Para você ter uma ideia, segundo o texto, pessoas que possam ser vítimas de sistemas de IA possuem os seguintes direitos:

• Receber informações prévias sobre como os sistemas de inteligência artificial interagem com elas;
• Receber explicações sobre as decisões, recomendações ou previsões feitas pelos sistemas de IA;
• Ter o direito de contestar decisões ou previsões dos sistemas de IA que tenham efeitos legais ou afetem muito os seus interesses;
• Participar na tomada de decisões feitas com a ajuda de IA e ter a certeza de que há intervenção humana;
• Estar protegido contra discriminação e correção de vieses discriminatórios, sejam eles diretos, indiretos, ilegais ou abusivos;
• Ter direito à privacidade e à proteção de seus dados pessoais.

O PL também estabelece que todos os sistemas de IA devem ser avaliados para determinar o nível de risco. 

O que isso quer dizer?

Uma autoridade competente pode decidir classificá-los, embora o Marco Legal da IA não especifique quem será essa autoridade.

Além disso, a legislação também proíbe a implementação de sistemas de IA que representem riscos excessivos.

Sistemas que usam técnicas subliminares para influenciar as pessoas de maneira prejudicial ou perigosa para a saúde e segurança são um bom exemplo disso.

Mas aqueles que exploram vulnerabilidades de grupos específicos ou são usados pelo governo para classificar ou avaliar as pessoas também são outras formas disso acontecer.

Na legislação, também estão definidas as responsabilidades civis dos agentes e, claro, quais são as multas para quem descumprir (limitada a R$50 milhões ou 2% do faturamento do grupo (já ouviu falar disso na LGPD?) e outras sanções.

Quais são as tendências para a regulamentação das IAs e o futuro do marketing?

A regulamentação das IAs e o futuro do marketing estão conectados.

Isso acontece justamente porque esse segundo vai precisar dos limites do primeiro para poder atuar.

E você já deve saber que dificilmente os setores de marketing vão poder atuar sem inteligência artificial, certo?

Então, eu acredito fortemente que as tendências para essa relação são de melhora — como é esperado para o que sempre pode evoluir.

E inclusive, entendo uma melhora não tão distante, mas do que já estamos vendo como caminho hoje.

Por isso, algumas das tendências são:

• Maior foco na privacidade e proteção de dados: a legislação do Brasil e do mundo está sendo desenhada ao longo dos meses e a ideia é focar na transparência no tratamento de dados pessoais. O futuro verá ainda mais legislações voltadas para proteger a privacidade dos consumidores e regulamentar o uso de dados na personalização de campanhas de marketing, tenho certeza!
• Combate ao viés e discriminação: à medida que IAs são usadas para segmentar e direcionar públicos, a preocupação com viés e discriminação se torna crucial. Essas regulações tendem a focar em assegurar que as decisões tomadas por IAs no marketing sejam justas e não discriminatórias;
• Auditoria de algoritmos de marketing: inclusive, pensando já nessa tendência anterior, acho que as regulamentações também podem exigir que as empresas auditarem regularmente os algoritmos de IA usados no marketing. É uma forma garantir, crompovadamente, que não haja vieses ou discriminação nos resultados;
• Restrições em marketing enganoso: ferramentas avançadas podem gerar conteúdo altamente convincente, mas também podem ser usadas para criar informações enganosas. Regulamentações devem estabelecer padrões mais rigorosos para a autenticidade e precisão do conteúdo gerado por IAs em campanhas de marketing.
• Regras para interação com consumidores: chatbots e assistentes virtuais baseados em IA já são muito comuns. Mas as leis podem definir limites para a forma como essas interações ocorrem — garantindo que os consumidores saibam quando estão se comunicando com uma IA de maneira obrigatória, por exemplo!

E se você ainda não baixou o webinar gratuito do meu time, aproveito de novo esse momento para te lembrar.  Descubra como aproveitar o melhor da inteligência artificial no seu negócio!

Conclusão

Se usamos a IA para nossas tarefas mais básicas, é mais do que esperado que a discussão em torno de sua regulamentação torna-se imperativa para trazer inovação e responsabilidade. 

E é isso mesmo que se deve buscar: um equilíbrio entre o potencial dessa ferramenta e os seus problemas.

Ética, responsabilidade, transparência, privacidade, segurança e combate à descriminação se tornam termos centrais para a construção de regulamentações das IAs.

Embora cada País esteja desenvolvendo suas regras à sua maneira, dá para perceber que os que estão já se movimentando tendem a caminhar por uma estrada semelhante.

O foco na privacidade dos usuários e na segurança dos seus dados.

Então, é isso que podemos esperar para os próximos anos. 

Claro que muita coisa ainda vai mudar, afinal, é um assunto que está em evolução, mas o marketing precisa fortemente acompanhá-lo se quiser usá-lo ao seu favor de maneira inteligente.

E você, já está pronto para a regulamentação das IAs?

Me conta nos comentários.

Teve vejo em breve!